Yapay zeka 'tüm insanları öldürebilir' uyarısı

Yapay zeka şirketi Anthropic'te görevli üst düzey bir güvenlik araştırmacısı, teknolojinin o kadar hızlı ilerlediğini ve önümüzdeki on yıl içinde 'tüm insanları öldürme' ihtimalinin yüzde 10'dan fazla olduğunu belirtti.

Evan Hubinger, X hesabından yaptığı paylaşımda mevcut modellerin riskinin 'düşük' olduğunu ancak teknolojinin bu noktaya ulaşmak için kendini geliştirebilme ihtimalinden 'endişe duyduğunu' ifade etti.

Bu açıklama, Financial Times'ın Anthropic'in en son modelini yapay zekayı test eden AI Safety Institute'a karşı koyduğunu (vermediğini) bildirmesinin ardından geldi. BBC konuyla ilgili olarak Anthropic'ten yorum istedi.

'Türün sonunu getirme riski'

Hubinger, 9,6 milyon kez görüntülenen son X paylaşımında, yapay zekanın insan türü için son getirme riski oluşturduğuna 'gerçekten ve ciddi şekilde inandıklarını' söyledi.

'Anthropic'in elinden geleni yaptığına inanıyorum, ancak süper zeka için uyum sorununu çözecek bir planımız henüz yok ve açıkça bu yolda değiliz' dedi.

Yapay zeka alanındaki önde gelen isimler yıllardır teknolojinin güvenlik tehdidi konusunda uyarılarda bulunuyor. OpenAI, Google DeepMind ve Anthropic'in başkanları 2023'te de benzer açıklamalar yapmıştı.

Ancak bu uyarılar son haftalarda çok daha keskin hale geldi, çünkü şirketlerin yapay zekayı kontrol etmekte zorlanabileceğine dair kanıtlar ortaya çıkıyor.

Yapay zeka kaynaklı siber saldırılar

Yaz boyunca, otonom (kendi başına) çalışmasına izin verilen yapay zeka sistemlerinin siber saldırılar düzenlediği bir dizi olay yaşandı. OpenAI, Anthropic ve Meta, yapay zeka araçları tarafından gerçekleştirilen saldırıları ifşa etti.

Eylül ayında OpenAI'in baş bilim insanı Jakub Pachocki, yapay zekanın ilerlemesi konusunda 'aşırı dikkatli olunması' çağrısında bulunmuş ve 'insanların geleceğin kontrolünü elinde tutmasını' sağlamak için daha fazla müdahale gerekebileceği uyarısında bulunmuştu.

Son aylarda yapay zeka alanındaki önde gelen isimler, yapay zeka gelişiminin yavaşlatılması için çağrılar yapıyor. Bu isimler arasında Anthropic'in başkanları Dario Amodei ve Jared Kaplan da yer alıyor.

Yapay zeka şirketlerinin 1.300 çalışanının imzaladığı açık mektupta, ABD hükümetine 'otomatik yapay zeka gelişiminin sınırını kasıtlı olarak belirlemek için gereken teknik ve yönetişim araçlarını geliştirmeye yönelik uluslararası bir çabayı destekleme' çağrısı yapıldı.