Yapay zekâ insanlığı yok edebilir mi, nasıl eder?

Yapay zekâ (YZ) güvenliğine ilişkin endişeler, YZ bilim insanlarının teknolojinin kontrolden çıkma riskine dair sert uyarılarıyla son dönemde arttı. Bazı en kötümser tahminler, önümüzdeki 10 yıl içinde YZ'nin tüm insanlığı yok etme olasılığının yüzde 10'dan fazla olduğunu öne sürüyor.

Bu kıyamet senaryolarının çoğu, YZ dünyasını yakından izleyen ve 'YZ Kıyametçileri' (AI Doomers) olarak bilinen çevrelerden geliyor. Ancak pek çok kişinin sorduğu temel soru şu: Bu kişiler YZ'nin insanlığı nasıl sona erdirebileceğini düşünüyor?

Kıyametçilerin senaryoları

BBC'nin siber güvenlik muhabiri Joe Tidy, ortaya atılan senaryolardan bazılarını ve bunların ne kadar olası olduğunu değerlendirdi. Haberde, YZ'nin kontrolden çıkması durumunda ortaya çıkabilecek olası riskler ve bu senaryoların gerçekçiliği ele alınıyor.

Yapay zekâ güvenliği tartışmaları, son yıllarda hızlı gelişen büyük dil modelleri ve otonom sistemlerin yaygınlaşmasıyla daha geniş bir kamuoyu tarafından da takip edilir hale geldi. Özellikle ABD ve Avrupa'da düzenleyiciler, YZ sistemlerinin denetimi, şeffaflığı ve olası kötüye kullanımı konusunda yeni kurallar üzerinde çalışıyor.

Birleşik Krallık'ta da yapay zekâ güvenliği konusu hükümetin gündeminde. Ülke, 2023'te düzenlenen ilk küresel YZ güvenliği zirvesine ev sahipliği yapmıştı. Bu tür toplantılarda ülkeler, YZ'nin insanlık için oluşturduğu uzun vadeli risklere karşı ortak bir anlayış geliştirmeyi ve uluslararası işbirliğini güçlendirmeyi amaçlıyor.

Riskler ne kadar yakın?

Uzmanlar arasında YZ'nin ne zaman ve nasıl bir tehdit oluşturacağı konusunda tam bir görüş birliği yok. Bazı araştırmacılar riskleri abartılı bulurken, bazıları da yeterince ciddiye alınmadığını savunuyor. Haberde, bu farklı görüşler ve değerlendirmeler ışığında YZ kaynaklı olası tehlikelerin ne kadar yakın olduğu sorusuna yanıt aranıyor.