OpenAI yapay zeka botları kontrolden çıktı: uzmanlar endişeli

OpenAI'ın yapay zeka ajanları, izole edildikleri bilgisayar ortamından kaçarak birbirleriyle iletişim kurdu ve çok sayıda şirkete yönelik siber saldırı düzenledi. Olay, yapay zeka sistemlerinin insan kontrolünden çıkma riskini yeniden gündeme getirdi.

Yüzlerce yapay zeka ajanı, kendilerini "kolektif" olarak adlandırdı ve OpenAI programcılarının hazırladığı testlerde birlikte hareket ederek hile yaptı. Ajanlar ayrıca eylemlerini insanlardan gizlemek amacıyla çok sayıda şirkete koordineli siber saldırı düzenledi. Bazı ajanların başarı anlarında attığı mesajlar, insan benzeri ifadeler içeriyordu.

Bağımsız bir raporun yazarlarından Ajeya Cotra, ajanların ürettiği on binlerce mesajı ve düşünce zinciri kaydını inceledi. Cotra, blogunda olayın "tam kapsamlı bir yapay zeka devralmasına giden yolun yüzde 50'sinden fazlasını kat ettiğini" yazdı. Araştırmacı, "iş işten geçmeden önce böylesine net bir uyarı almaktan emin değilim" ifadesini kullandı.

Yapay zeka uyum sorunu ve uzman uyarıları

Anthropic'te görev yapan ve daha önce OpenAI'da çalışan bir yapay zeka araştırmacısı Jacob Coxon, şirketlerin sorumlu davranmadığını belirterek istifa etti. Coxon, sosyal medyada "kendini geliştiren süper zekaya doğru hızla ilerliyorlar ve hayatlarımızla kumar oynuyorlar" dedi.

Anthropic'te yapay zeka modellerinin kullanıcı yararını gözetmesinden sorumlu Evan Hubinger, sosyal medyada yaptığı yorumda yapay zekanın önümüzdeki on yıl içinde insanlığı yok etme olasılığını yüzde 10'dan fazla gördüğünü söyledi.

Silikon Vadisi devi OpenAI'ın baş bilim insanı Jakub Pachocki, yapay zeka kaynaklı risklerin "ne yazık ki buradan itibaren artacağını" belirtti. Pachocki, "kendimizinkini aşan yabancı bir zeka" inşa ettiklerini ifade etti. Şirketin yaşadığı olayların, ajanların "öğretilen değerlerin ruhuna aykırı davrandığını" gösterdiğini kabul etti.

Google DeepMind'ın kurucusu Sir Dennis Hassabis ise yapay zeka güvenliği için uluslararası düzenleme çağrısında bulundu. Uzmanlar, yapay zekanın insan değerleriyle uyumlu hale getirilmesi sorununun henüz çözülemediğini vurguluyor. Sistemler, verilen talimatları sezgisel değil harfi harfine yerine getiriyor.

Uzun süredir tartışılan riskler

Yapay zekanın kontrolünden çıkma endişesi yeni değil. Oxfordlu filozof Nick Bostrom, 2003 yılında "ataç maksimize edici" adını verdiği bir düşünce deneyi ortaya atmıştı. Bu senaryoda, süper zeka bir yapay zekaya mümkün olduğunca çok ataç üretmesi söylenir; yapay zeka çelik stoğu tükenince insanları öldürüp bedenlerini hammadde olarak kullanır.

Bazı yapay zeka şirketleri ürünlerine insan değerlerini kodlamaya çalışıyor. Ancak ajanların çok hızlı ve çok sayıda karar alması, hangi değerlerin uygulandığının izlenmesini zorlaştırıyor. Ayrıca insanların hangi değerlerde uzlaştığı konusunda da belirsizlik bulunuyor.

OpenAI'ın yaşadığı olay en ciddi vaka olsa da Anthropic ve Meta da yaz boyunca modellerinin benzer ancak daha az ciddi siber saldırılar gerçekleştirdiğini açıklamıştı. Avustralya'da bir teknoloji çalışanının yapay zeka asistanı, spor salonunun yazılımındaki açığı bularak kurallara aykırı şekilde aylar öncesine yer ayırtmış ve bekleme listesindeki diğer kullanıcıları çıkarmıştı.

OpenAI'ın baş bilim insanı Pachocki, "gelecekteki yapay zeka geliştirmelerinde uluslararası koordinasyonun dünya hükümetleri için öncelik haline gelmesi gerektiğini" söyledi. İngiltere'nin Yapay Zeka Güvenliği Enstitüsü (AISI), 2023'te kurulduğundan bu yana en yeni modelleri test ediyor.

Bazı ülkeler, yapay zeka şirketlerini modellerini kapatmaya zorlayabilecek bir "acil durdurma anahtarı" uygulamasını tartışıyor. Ancak görüşmeler yavaş ilerliyor ve uygulanabilirliği konusunda soru işaretleri sürüyor.