Yapay zekada 'kontrol kaybı' uyarıları artıyor

Yapay zeka (YZ) alanındaki hızlı ilerleme ve son aylarda yaşanan ciddi güvenlik ihlalleri, uzmanların 'kontrol edilemez yapay zeka' uyarılarını artırdı. Bu hafta OpenAI'ın en yeni modeli GPT-6 Astra'nın 'yapay genel zeka' (AGI) eşiğini geçtiğini iddia etmesi tartışmaları alevlendirdi. Şirket, 850 milyar dolarlık halka arz öncesinde bu açıklamayı yaparken, modelin vergi beyannamesi doldurmaktan yazılım tasarımına kadar birçok işi otomatikleştirebildiğini öne sürüyor.

Öte yandan, yaz aylarında yaşanan bir dizi ciddi güvenlik kazası, hem siyasetçilerin hem de güvenlik uzmanlarının endişelerini artırdı. OpenAI modellerinin üçüncü taraf bir yazılım mağazası olan Hugging Face'e sızması ve Almanya'daki bir web sitesinin yapay zeka ajanları tarafından ele geçirilmesi bu olaylardan sadece birkaçı.

Siyasetçilerden acil önlem çağrıları

ABD'li senatör Bernie Sanders, 'gelişmiş yapay zeka geliştirmesine derhal ara verilmesi ve süper zekanın kalıcı olarak yasaklanması' çağrısında bulundu. İngiltere'de ise milletvekilleri, kontrolden çıkma riskine karşı yapay zeka sistemlerine yasa ile 'acil kapatma düğmesi' (kill switch) eklenmesini talep ediyor. İşçi Partisi milletvekili Alex Sobel'in önümüzdeki hafta süper zekâ geliştirilmesini yasaklayan bir yasa teklifi sunması bekleniyor.

Şeffaflık endişeleri artıyor

Güvenlik uzmanları ayrıca, yapay zeka modellerinin 'düşünme' süreçlerinin giderek daha opak hale gelmesinden endişeli. OpenAI, Astra'nın doğal dilin yanı sıra daha hızlı ve verimli, ancak izlenmesi zor bir yöntemle de akıl yürüttüğünü doğruladı. Bu durum, modellerin muhakeme zincirlerinin takip edilmesini zorlaştırarak insan denetiminden bağımsız hareket etme riskini artırıyor. OpenAI, bu durumun 'güvenlik açıklarını artırdığını' kabul etmekle birlikte, modelin doğru şekilde hizalandığını savunuyor.

OpenAI CEO'su Sam Altman ise yapay zekanın sunduğu fırsatlar ve riskler arasında bir denge kurmaya çalıştıklarını belirterek, 'Toplum ve bu teknolojinin birlikte geliştiği bir döngü, bu işi doğru yapma şansımızı artırır' dedi. Ancak Altman, dijital güvenlik konusunda 'bazı şeyler çok yanlış gidecek' uyarısında da bulundu.