Anthropic kurucusundan yapay zekâ için 'kapatma anahtarı' önerisi

Dünyanın en büyük yapay zekâ şirketlerinden biri olan Anthropic'in kurucularından Jack Clark, tehlikeli hale gelen yapay zekâ yazılımlarını tamamen devre dışı bırakabilecek bir "kapatma anahtarının" (kill switch) zorunlu hale gelebileceğini söyledi. BBC'ye konuşan Clark, üçüncü bir tarafça denetlenebilecek böyle bir mekanizmanın zamanla yasal düzenlemeye konu olabileceğini belirtti.

Clark, Anthropic dahil olmak üzere laboratuvarların çoğunun sistemlerini durdurma yöntemleri bulunduğunu ancak yasa koyucuların bunu zorunlu kılabileceğini ifade etti. Şirketin yedi kurucusundan biri olan Clark, BBC'ye yaptığı açıklamada "kapatma anahtarı" gerekliliği ve doğrulanmasına ilişkin ayrıntıların yapay zekâ çevresinde yürütülen daha geniş politika tartışmasının parçası olması gerektiğini dile getirdi.

SEKTÖRDEN ARDI ARDINA UYARILAR

Yapay zekânın hızlı gelişimi ve insanlığa yönelik risklere dair endişeler, sektör yöneticileri ve çalışanlarının arka arkaya uyarılarıyla gündeme geldi. Bazı isimler, kontrol edilmediği takdirde teknolojinin tüm insanlığı yok edebileceğini açıkça söyledi.

Anthropic CEO'su Dario Amodei hafta sonu yaptığı açıklamada yapay zekâ geliştirme hızının yavaşlaması ve daha yakından izlenmesi çağrısında bulundu. Amodei, bunun "ticari avantajdan ödün vermeden" yapılması gerektiğini ekledi.

2021'de rakip OpenAI'dan ayrılan bir grup eski çalışan tarafından kurulan Anthropic, şu anda yapay zekâ güvenliği tartışmasının merkezinde yer alıyor. Geçen hafta, yapay zekânın insanlığı yok edebileceği endişesiyle Anthropic'ten ayrılan bir araştırmacının paylaşımı büyük yankı uyandırdı. Anthropic bilim insanı Evan Hubinger, kişisel görüşünün yapay zekâ kaynaklı insan neslinin tükenmesi olasılığının önümüzdeki on yıl içinde yüzde 10'dan fazla olduğu yönünde olduğunu belirtti.

"Yapay zekânın vaftiz babası" olarak anılan bilgisayar bilimci ve Nobel ödüllü Geoffrey Hinton ise cuma günü BBC'ye yaptığı açıklamada yapay zekânın tüm insanları öldürme olasılığının yüzde 10 olmasını "mantıksız bulmadığını" söyledi. Hinton ve benzer endişeleri paylaşan isimler, yapay zekânın internete bağlı kritik sistemleri ele geçirerek insanlara yöneltebileceğini öne sürüyor.

Buna karşılık sektörden bazı isimler, yapay zekânın insanlığı yok edeceği korkularının abartılı olduğunu ya da yapay zekâ etrafında heyecan oluşturmak için tasarlandığını savunuyor.

ŞİRKET DEĞERLEMELERİ VE TARTIŞMANIN SEYRİ

960 milyar dolar (713 milyar sterlin) değerlemeye ulaşan Anthropic, halka arz için hazırlanıyor. En son 852 milyar dolar (630 milyar sterlin) değerlemeye ulaşan OpenAI'nin de benzer bir adım atması bekleniyordu ancak şirketin CEO'su Sam Altman cuma günü, yapay zekâ güvenliği tartışmaları nedeniyle halka arzın bu yıl gerçekleşmeyeceğini söyledi.

ABD'de yasa koyucular, şirketlerin sorunlu yapay zekâ araçlarını kapatma yöntemi bulundurmasını zorunlu kılacak "Kill Switch Act" adlı bir yasa tasarısını gündeme getirdi. Tasarı ayrıca belirli devlet kurumlarına bir aracın kapatılmasını veya kısıtlanmasını talep etme yetkisi veriyor. Ancak ABD Başkanı Donald Trump, yapay zekâ geliştirmesinin yavaşlatılması çağrılarını reddederek sosyal medyada bu korkuları "aldatmaca" olarak nitelendirdi.

İngiltere hükümeti ise yakın zamanda kapatma anahtarı fikrini reddetti. Bir hükümet sözcüsü, böyle bir düzenlemenin yapay zekâ araçlarının başka yerlerde geliştirilmesini veya kötüye kullanılmasını engellemeyeceğini savundu.