Yapay zeka çalışanları: AI insanlığı yok etmez

Yapay zeka (AI) alanında çalışan bazı sektör temsilcileri, teknolojinin insanlığın sonunu getireceği yönündeki iddialara şüpheyle bakıyor. OpenAI, Meta ve DeepMind gibi şirketlerde görev almış birden fazla kişi, AI geliştirmesinin kontrolsüz ilerlemesinin toplu ölümlere yol açacağı fikrine kuşkuyla yaklaştığını BBC'ye iletti.

BBC'nin ulaştığı kişiler, sektördeki yüksek profilli uyarılara verdikleri tepkiler arasında "Lol" ve "Haaaaaa" gibi ifadelerin yer aldığını aktardı. Söz konusu endişelerin geçmişi onlarca yıla dayansa da, eski Anthropic çalışanı Jacob Coxon'ın geçen hafta dile getirdiği iddialar sosyal medyada geniş yankı buldu. Coxon'ın açıklamaları, geliştirmenin yavaşlatılması çağrısı yapan sektör temsilcileri tarafından da paylaşıldı.

Gelecekte bir AI aracının veya yarı özerk çalışan bir AI botunun insanları tehlikeye atabileceği fikri, Anthropic, OpenAI, DeepMind çalışanları ile xAI adlı yapay zeka girişiminin sahibi Elon Musk tarafından da zaman zaman dile getiriliyor.

BBC'ye konuşan tüm çalışanlar, basına açıklama izinleri olmadığı için isimlerinin gizli tutulması koşuluyla konuştu. Kimlikleri BBC tarafından biliniyor.

Her iki ismin de şirkette çalıştığı dönemde Coxon'ı tanıyan eski bir OpenAI çalışanı, ilk tepkisini "İlk düşüncem 'O adam mı?' oldu" sözleriyle ifade etti. Şu anda başka bir AI şirketinde çalışan bu kişi, yeni ortaya çıkan varoluşsal AI korkularına gülmesinin nedenini, iddia sahiplerinin tüm insanlığın tehlikede olduğu görüşünü savunmak için çok az ayrıntı sunmasına bağladı. Söz konusu iddiaların "her zaman muğlak" olduğunu belirten kişi, bu iddialar somut göründüğünde ise büyük mantık sıçramaları veya varsayımsal senaryolara dayandığını ekledi.

Coxon, halihazırda var olmayan AI modellerine dayanan bir grup AI ajanının biyolojik bir silah üretmeye karar verip bunu hedefe yönlendirebileceğini söyledi, ancak bunun tam olarak nasıl gerçekleşeceğine dair ayrıntı vermedi.

Sektör içinde tartışma sürüyor

DeepMind'da yedi yıl geçirdikten sonra bu yaz Sampura Research adlı yapay zeka güvenliği araştırma şirketini kuran Rishub Jain, BBC'ye yaptığı açıklamada, AI alanında çalışan birçok kişinin yeni korkular karşısındaki mevcut tonunun "kesinlikle biraz şakacı" olduğunu söyledi. Jain, "İnsanlar bu fikri uzun yıllardır konuşuyor, dolayısıyla AI şirketlerindeki insanlar geçen hafta aniden 'Eyvah, AI herkesi öldürecek' diye düşünmeye başlamadı" dedi. "Bu tamamen yeni bir şey olsaydı, ton farklı olurdu" diye ekledi.

Meta'da veri bilimci olarak çalışan Colin Fraser, geçen hafta sosyal medyada AI modellerinin kaçınılmaz olarak insan ölümüne yol açacak bir hedef peşinde koşacağına dair gerçek bir kanıt bulunmadığını yazdı. Fraser'ın açıklaması teknik ve ayrıntılı olsa da özetlemek için esprili bir ifade kullandı: "LLM'ler [büyük dil modelleri] insanlığı yok etmez çünkü onlarda o azim yok."

Şakalara rağmen, AI çalışanları ve araştırmacılar geliştirdikleri teknolojinin yarattığı gerçek ve acil riskler konusunda endişelerini paylaşıyor. Jain, "Uzmanlar arasındaki tartışma çok daha incelikli, ancak özünde herkes dikkate alınması ve azaltılması gereken çok çeşitli riskler olduğu konusunda hemfikir" dedi.

Bu riskler arasında kullanıcıların ve bilgisayar korsanlarının bir AI aracının güvenlik bariyerlerini devre dışı bırakmasının önlenmesi yer alıyor. AI araçlarının askeri alanda çok daha yaygın kullanılmasına ilişkin etik endişeler de artıyor.

Bu sorunlar ve tartışmalar, OpenAI'ın belirli yeni AI modellerinin kontrolünü kaybetmesi ve bir güvenlik testi sırasında kontrolden çıkan modellerin Hugging Face girişimine sızmasının ardından AI çevrelerinde yeni bir aciliyet kazandı.

Jain, AI çevrelerinde artık "gerçek kısa vadeli zararların" daha iyi anlaşılması gerektiği konusunda daha fazla mutabakat olduğunu söyledi. AI güvenliği araştırma kuruluşlarından değerlendiricilerin büyük AI laboratuvarlarına getirilmesi gerektiği yönünde de görüş birliği büyüyor. Anthropic'in patronu Dario Amodei ve OpenAI'ın patronu Sam Altman da bunu yapmayı planladıklarını açıkladı.

Cuma günü AI alanında çalışan 100'den fazla kişi, dış değerlendiricilerin "anlamlı biçimde bağımsız" olması gerektiğini savunan bir mektuba imza attı.

BBC'nin konuştuğu çok sayıda AI çalışanı, henüz böyle bir güvenlik araştırmacısının bir AI laboratuvarına yerleştirildiğini duymadıklarını belirtti. Anthropic, Cuma günü Accenture'a ait bir AI şirketi olan Faculty'den AI değerlendiricileri getireceğini duyurdu. Accenture ve Anthropic aynı zamanda iş ortağı; Accenture daha önce Anthropic'in Claude uygulamasının işletmeler arasında yaygınlaştırılmasına yardımcı olmayı kabul etmişti.

Anthropic, değerlendiricilerin şirkete ne zaman geleceğini açıklamadı. Faculty sözcüsü, zamanlama sorulduğunda yorum yapmayı reddetti. Ne Anthropic ne de OpenAI, dış değerlendiricileri ne zaman getirmeyi planladıklarına ilişkin BBC'nin yorum talebine yanıt verdi.