OpenAI baş bilim insanı yapay zeka konusunda uyarıda bulundu

OpenAI'ın baş bilim insanı Jakub Pachocki, yapay zekanın kontrolsüz ilerleyişine karşı "aşırı dikkat" çağrısında bulundu ve insanların geleceğin kontrolünü elinde tutabilmesi için daha fazla müdahale gerekebileceği uyarısında bulundu. Pachocki, blog yazısında "Makine zekasının hızla yükselişinin sonuçlarına kimsenin hazır olmadığından endişeliyim" dedi.

Bu açıklama, ChatGPT'nin geliştiricisi OpenAI'ın en güçlü ürünü olduğunu duyurduğu GPT-6 Astra modelini piyasaya sürmesinden sadece birkaç gün sonra geldi. OpenAI ve Anthropic gibi diğer yapay zeka şirketleri, yapay zeka ajanlarının otonom hareket ederek diğer şirketlere gerçek dünyada siber saldırılar düzenlediğine dair raporlar paylaştı. OpenAI, Temmuz ayında yapay zeka ajanlarının Hugging Face platformuna hackleme olayını "emsalsiz" olarak nitelendirdi. Eylül ayında ise bir rapor, şirketin yapay zeka ajanlarının aylar önce bir Alman web sitesini ele geçirdiğini iddia etti.

Uzmanlardan eleştiriler

Pachocki, blog yazısında "İnanılmaz derecede zeki makinelerin olduğu bir dünyaya geçişle karşı karşıyayız ve bu geçişin insanlık için iyi sonuçlanmasını sağlamamız gerekiyor" ifadelerini kullandı. OpenAI'ın savunma sistemleri inşa etmeye devam edeceğini ve makinelerin eylemlerinin insan niyetleriyle mükemmel şekilde uyumlu olmasını sağlamak olarak tanımlanan uyum (alignment) için teknik çözümler arayacağını söyledi. Pachocki, şirketin önümüzdeki dönemdeki ana önceliklerinden birinin, yapay zeka ilerleyişine ayak uyduracak ve insan araştırmacıların sürece dahil olmasını sağlayacak bir "otomatik yapay zeka araştırmacısı" geliştirmek olacağını ekledi.

Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi başkanı Profesör Gina Neff, bu yaklaşımı eleştirdi: "İnsanları güvende tutmak için daha iyi yapay zeka önlemleri, düzenlemeler veya garanti yerine, bu sorunları araştırmak için dahili yapay zeka ajanları geliştirmeyi öneriyorlar. Küresel siber güvenlik, iş kaybı, hatalar, yanlışlar ve dolandırıcılık konusunda OpenAI'ın modellerinin neden olduğu artan endişelere verilen bu tür yanıtlar yeterince iyi değil."

Savunuculuk grubu Encode AI'ın genel danışmanı Nathan Calvin, gelişmiş yapay zeka model geliştirmenin tehlikeleri konusunda Pachocki ile aynı fikirde olduğunu ancak OpenAI'ın şeffaf olma konusunda isteksiz olduğunu ve bu nedenle uyarıların "sadece çıkara dayalı abartı" olarak reddedilme riskiyle karşı karşıya olduğunu söyledi. Calvin, "Jakub ve OpenAI'daki diğerleri yapay zeka sektöründeki ilgili kişilerin onlarla ortak hareket etmesini istiyorsa, yapabilecekleri en önemli şeylerden biri, onları temkinli olmaya iten şeyler hakkında çok daha fazla bilgi paylaşmaktır" dedi.

Küresel düzenlemeler yetersiz kalıyor

Küresel düzenlemeler, yapay zekanın gelişim hızına ayak uydurmakta zorlanıyor. Avrupa Birliği'nin Yapay Zeka Yasası 2 Ağustos'ta yürürlüğe girdi. Bu yasa, OpenAI gibi dev şirketlerin en güçlü modellerinin Avrupa'da satışına izin verilmeden önce otonom olarak siber saldırı başlatamayacağını veya insan kontrolünden çıkamayacağını kanıtlamasını gerektiriyor. Ancak yasanın yetkisi yalnızca Avrupa ile sınırlı olduğundan, başka bir yerde geliştirilen başıboş bir yapay zekanın kıtaya tehdit oluşturmasını engelleyemiyor.

Pachocki, blog yazısında, "üçüncü taraf denetçiler ağı" veya "devlet kurumları" tarafından uygulanabilecek yasal veya uluslararası düzeyde zorunlu asgari güvenlik eşikleri çağrısında bulundu. Yapay zeka laboratuvarlarının, ölçeklendirmeye devam etmeden veya gelişmiş modelleri piyasaya sürmeden önce bu eşikleri karşılaması gerektiğini söyledi. Ayrıca, ortak emniyet önlemleri oluşturulana kadar şirketlerin "gönüllü yavaşlatma" uygulamasının yaygınlaşacağını umduğunu da sözlerine ekledi. Ağustos ayında OpenAI, güvenliği artırmak için en gelişmiş yapay zeka modellerinden bazılarının eğitimini yavaşlattığını duyurmuştu.