Anthropic araştırmacısı: Yapay zekanın insanlığı yok etme olasılığı yüzde 10'un üzerinde

Anthropic'in kıdemli güvenlik araştırmacısı Evan Hubinger, yapay zekanın o kadar hızlı ilerlediğini ve önümüzdeki on yıl içinde 'insanlığın tamamını yok edebileceği' yönündeki olasılığın yüzde 10'dan fazla olduğuna inandığını açıkladı. Hubinger, X platformundaki paylaşımında mevcut modellerin riskinin 'düşük' olduğunu ancak teknolojinin yakında kendini geliştirerek insanlık için varoluşsal bir tehdit oluşturabileceğinden 'endişelendiğini' belirtti. Yapay zeka sistemlerinin gelecekte insanların yok olmasına nasıl yol açabileceğine dair ayrıntı vermedi.

Hubinger'ın yorumları, yapay zeka riskine ilişkin giderek sertleşen uyarıların son halkası oldu. Tartışma, yapay zekanın gerçekten bir risk oluşturup oluşturmadığından, bu riskin ne kadar büyük olduğuna kaymış durumda. Hubinger'ın çıkışı, kısa süre önce Anthropic'ten ayrılan ve daha önce OpenAI'da çalışan yapay zeka araştırmacısı Jacob Coxon'ın bir paylaşımına yanıt olarak geldi. Coxon, 'İki şirket de sorumlu davranmıyor' diyerek 'Bunlar yakında her şeyi hackleyebilecek, her alanda bir gecede devrim yaratabilecek ve gerçek güç ile kaynaklar elde edebilecek insanüstü sistemler olacak' ifadelerini kullandı.

Uzmanlardan ve siyasetçilerden tepkiler

Birleşmiş Milletler'e yapay zeka konusunda danışmanlık yapan bilgisayar bilimci Dame Wendy Hall, BBC'ye yaptığı açıklamada Hubinger ve Coxon'ın sosyal medya paylaşımları karşısında 'şok olduğunu' söyledi. Hall, BBC Radio Four'daki World at One programında bu açıklamaların bir kısmının 'PR ve pazarlama' olabileceğini, çünkü Anthropic ve OpenAI'ın büyük ölçüde beklenen borsa çıkışları için yarıştığını ifade etti. Ancak Hall, 'Neden biri bunu söylemek istesin? Değer sistemi buysa yatırımcılara bu şirketlere yatırım yapmamaları için yalvarıyorum' dedi.

Bu istifa, eski Hazine Bakanlığı Müsteşarı Darren Jones'u Başbakan Andy Burnham'a yapay zekanın güvenli gelişimi için yeni bir çok uluslu anlaşma çağrısında bulunan açık bir mektup yazmaya yöneltti. Jones, BBC'ye hükümetlerin süper zeka gelişimine dayalı bir anlaşmanın nasıl olması gerektiği konusunda 'işbirliği yapmak' için bir araya gelmesi gerektiğini söyledi: 'Hükümetler bu uyarıları yeterince ciddiye alıp harekete geçmezse, gelişim hızı, bunun bizim için bir sorun olup olmadığına bakmaya başlamadan önce sorunlarla karşılaşabileceğimiz anlamına gelebilir.'

Anthropic modelini İngiltere'ye vermedi

Financial Times'ın haberine göre, Anthropic en yeni modelini, dünyada yapay zeka riskini değerlendiren önde gelen kuruluşlardan biri olan İngiltere Yapay Zeka Güvenlik Enstitüsüne (AISI) vermedi. Anthropic, çalışanlarının paylaşımları veya AISI ile ilgili durum hakkında yorum yapmayı reddetti. Kabine Ofisi sözcüsü, en son modelin AISI'ye verilip verilmediğine ilişkin yorum yapmadı; bunun yerine 'Anthropic dahil endüstri ortaklarıyla modelleri daha güvenli hale getirmek için yakın işbirliği yapmaya devam ettiğini' söyledi.

Hubinger, 10 milyondan fazla kez görüntülenen paylaşımında 'yapay zekanın insanlık için türün sonunu getiren bir risk oluşturduğuna gerçekten inandıklarını' söyledi. Hubinger, 'Anthropic'in elinden geleni yaptığına inanıyorum, ancak süper zeka için uyum sorununu çözecek bir planımız henüz yok ve bu yolda net bir ilerleme kaydetmiyoruz' diye ekledi. Hubinger, insan etik değerlerini ve ilkelerini teknolojiye yerleştirmeyi amaçlayan 'yapay zeka hizalaması' alanında çalışıyor; başka bir deyişle, yapay zekayı insanların değer verdiği şeylerle uyumlu tutmayı hedefliyor.

Birçok önde gelen araştırmacı, bu yaz yaşanan bir dizi olayda yapay zeka ajanlarının (otonom çalışmasına izin verilen yapay zeka sistemleri) siber saldırılar gerçekleştirmesiyle bu çabaların başarısız göründüğünü söylüyor. OpenAI, Anthropic ve Meta, yapay zeka araçları tarafından gerçekleştirilen saldırıları ifşa etti. Anthropic'in Ağustos ayındaki güvenlik raporunda, modellerinin varsayımsal güçlü bir kuruluşun arzularıyla uyumsuz hale gelme riskinin düşük olduğu ve bunun sistemlerini istismar etmesine veya kurcalamasına neden olacağı yazıyordu. Raporda ayrıca yüksek yetenekli yapay zekanın 'otomatik araştırma ve geliştirme' yapabilme ve 'yapay zeka tarafından başlatılan felaket zararına' neden olabilme riskinin de düşük olduğu belirtiliyordu. Ancak şirket, 'bu değerlendirmede daha önce olduğundan daha az emin olduğunu' ifade etti.

Yapay zeka alanındaki önde gelen isimler yıllardır teknolojinin güvenlik tehdidi konusunda alarm veriyor. OpenAI, Google Deepmind ve Anthropic'in başkanları 2023'te de aynı uyarıları yapmıştı. Ancak bu uyarılar, şirketlerin yapay zekayı kontrol etmekte zorlanabileceğine dair kanıtlar ortaya çıktıkça son haftalarda çok daha sert hale geldi. Bu ayın başlarında OpenAI'ın baş bilim insanı Jakub Pachocki, yapay zekanın ilerlemesi konusunda 'aşırı dikkatli olunması' çağrısında bulunarak, 'insanların geleceğin kontrolünü elinde tutmasını' sağlamak için daha fazla müdahale gerekebileceği uyarısında bulundu. Anthropic'in patronları Dario Amodei ve Jared Kaplan dahil sektördeki önemli isimler son aylarda yapay zeka gelişiminin yavaşlatılması çağrısında bulunuyor.

Yapay zeka şirketlerinin 1.300 çalışanının imzaladığı açık mektupta, ABD hükümetine 'otomatik yapay zeka gelişiminin sınırını bilinçli olarak belirlemek için gereken teknik ve yönetişim araçlarını geliştirmeye yönelik uluslararası bir çabayı desteklemesi' çağrısı yapıldı.