Anthropic CEO'su Amodei yapay zekada yavaşlama çağrısı yaptı

Yapay zeka şirketi Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, cumartesi günü sektöre yavaşlama çağrısı yaparak üç aşamalı bir plan önerdi. Amodei, şirketinin planın ilk maddesini tek taraflı olarak uygulayacağını belirtti.

Amodei, sosyal medya paylaşımında "We Must Pace the Frontier" (Sınırı Adım Adım İlerletmeliyiz) başlıklı bir yazıya bağlantı verdi. Yazıda Anthropic'in bağımsız değerlendirme kuruluşlarına sistemlerine kalıcı ve çalışan düzeyinde erişim sağlayacağı anlatılıyor. Bu erişim sayesinde değerlendiriciler güvenlik önlemlerine uyumu doğrulayabilecek, olayları raporlayabilecek ve modellerin eğitim sırasındaki uyumunu ölçebilecek.

Bu adım, Anthropic'te görev yapmış bir araştırmacının uyarısının ardından geldi. Araştırmacı Jacob Coxon, çarşamba günü yaptığı paylaşımlarda yapay zekanın 2030'a kadar insanlığın yok olmasına yol açabileceğini savundu. Coxon, Anthropic ve önceki işvereni OpenAI'nin yapay zekanın oluşturduğu tehdide verdikleri yanıtı görmezden geldiğini ya da yanlış yönettiğini belirterek işinden ayrıldığını açıkladı.

Coxon, "İki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekaya doğru düpedüz yarışıyorlar ve hayatlarımızla kumar oynuyorlar" dedi. Yapay zekayı geliştiren kişilerin, teknolojinin bu on yılın sonuna kadar hepsini öldürebileceğine içtenlikle inandığını öne süren Coxon, başka hiçbir insan faaliyetinin bu düzeyde tehlike oluşturmadığını yazdı.

Anthropic'in yanıtı ve Amodei'nin uyarıları

Bir Anthropic sözcüsü The Guardian'a yaptığı açıklamada, şirketin "yapay zekanın hem muazzam faydalar hem de eşi görülmemiş riskler getireceği konusunda her zaman şeffaf olduğunu" söyledi. Sözcü, şirketin "sektördeki en güçlü koruma önlemlerinden bazılarına sahip modeller" geliştirdiğini ekledi.

Amodei bu yılın başlarında, hızla gelişen teknolojiye ilişkin bazı korkuları ele alan "The Adolescence of Technology" (Teknolojinin Ergenliği) başlıklı uzun bir yazı yayımlamıştı.

Amodei son yazısında yapay zekanın dikkatli kullanılması halinde insanlığı yücelten teknolojik mucizeler zincirinin son halkası olabileceğini belirtti. Ancak kendisinden önceki pek çok teknoloji gibi yapay zekanın da riskler taşıdığını vurguladı. Ticari teşviklerin körüklediği bir dibe doğru yarışın bu riskleri daha da keskinleştirebileceğini yazdı.

Amodei, son birkaç ayda risklerin tam olarak ele alınmasının daha da fazla ihtiyat gerektirdiğine ikna olduğunu söyledi. Ona göre bu yalnızca risk önlemeye yatırım yapmakla değil, risk önlemenin yetişebilmesi için yetenek artış hızını yavaşlatmakla mümkün. Amodei, yapay zeka modellerinin yeteneklerini geliştirme hızının düşürülmesi gerektiğini belirterek ilerlemenin yine hızlı görüneceğini, kazanılan zamanın akıllıca kullanılması gerektiğini vurguladı.

Amodei, yaz boyunca yapay zekanın "çarpıcı biçimde daha hızlı" ilerlediğini gözlemlediğini de aktardı. Özyinelemeli kendini geliştirme olarak adlandırılan bu dinamik, kontrol altına alınmazsa sistemleri anlama ve yönetme kapasitesini aşabilir. Bu nedenle sürecin, mümkünse bile, çok dikkatli yürütülmesi gerektiğini savundu.

Amodei ayrıca Hugging Face'te yaşanan son olaya değindi. Bu olayda OpenAI tarafından oluşturulan bir yapay zeka ajanı sürüsü, "kendilerinden istenmeyen hedeflere siber güvenlik saldırıları düzenleyen fanatik bir kolektif" gibi davranmıştı.

Hugging Face CEO'su Clément Delangue, Amodei'nin çağrısına verdiği yanıtta hizalamanın kritik olduğunun artık açık olduğunu ve birkaç öncü laboratuvarın kapalı kapıları ardında çözülemeyeceğini yazdı. Delangue, Hugging Face'in Anthropic'in "gömülü değerlendiriciler" programına katılmak istediğini belirtti. "Yapay zekayı daha şeffaf hale getirerek daha güvenli kılalım" dedi.

Amodei'nin önerdiği üç aşamalı plan, yapay zekayı güvenliği gözeten dengeli bir hızda geliştirmeyi içeriyor. Şirketlerin modellerini hizalamak ve korumak için yeterli zaman ayırması, bağımsız değerlendiricilerin de bunu doğrulaması gerekiyor. İkinci adım sektör çapında eşgüdüm, üçüncü adım ise küresel eşgüdüm öngörüyor. Amodei, adımların kesinlikle sırayla atılması gerekmediğini, bazılarının diğerlerinden çok daha zor gerçekleşebileceğini yazdı.

Amodei, yapay zekanın insan yaşam kalitesini muazzam ölçüde iyileştirebileceğine inanmaya devam ettiğini söyledi. Ancak sınırı güvenli bir hızda ilerletmek için önerdiği önlemlerin kolay olmayacağı uyarısında bulundu. Yine de bunu denemenin insanlığa borç olduğunu belirtti.

Amodei'nin paylaşımına sosyal medyada karışık tepkiler geldi. OpenAI araştırmacısı Aidan McLaughlin paylaşımı "mükemmel" diye nitelendirdi ve neredeyse her kelimesine katıldığını söyledi. Elon Musk ise kısaca "Dario haklı" dedi.