Anthropic CEO'su yapay zeka gelişiminin yavaşlatılmasını istedi

Yapay zeka alanında faaliyet gösteren Anthropic şirketinin CEO'su Dario Amodei, yapay zeka modellerinin geliştirilme hızının yavaşlatılması ve yakından izlenmesi gerektiğini söyledi. Amodei, yapay zeka geliştirmenin sorgulanmadığını ancak risklerin ciddi olduğunu belirtti. Şirketlerin ve hükümetlerin bu risklerle ilgilenmesi için zamana ihtiyacı olduğunu vurguladı.

Amodei, bir yazıda üç maddelik bir plan önerdi: yapay zeka modellerinin geliştirilme sürecinde bağımsız denetim, sektör çapında düzenleme ve küresel düzenleme. Son dönemde yapay zeka teknolojisinin potansiyel risklerine dair endişeler artmış durumda. En ciddi uyarılardan biri, önümüzdeki on yıl içinde yapay zekanın "tüm insanları öldürme" olasılığının yüzde 10'dan fazla olduğu yönünde.

Anthropic'ten ayrılanlar ve OpenAI olayı

Anthropic, daha önce yapay zeka modelinin biyolojik silah geliştirilmesine yardımcı olabilecek kötü niyetli faaliyetler için kullanılma girişimlerini tespit edip engellediğini açıklamıştı. Ancak en çarpıcı uyarı, şirketin güvenlik ekibinden iki çalışanın son iki hafta içinde istifa etmesiyle geldi. Bu kişiler, yapay zeka şirketleri arasında insandan daha akıllı makineler geliştirme yarışında insanlığın hayatta kalamayabileceğini söyledi.

Bu uyarılar harekete geçilmesi çağrılarını beraberinde getirdi. Ancak ABD Başkanı Donald Trump, perşembe günü bu tür endişeleri reddetti. Trump, "Yapay zekada kazanmazsak çok kötü bir duruma düşeriz" dedi. Amodei, "We Must Pace the Frontier" başlıklı yazısında yapay zekanın "çok daha hızlı" ilerlediğini belirtti. Özellikle "bir sonraki nesil yapay zekayı inşa etme yeteneği" konusunda hızlı bir gelişme yaşandığını ifade etti. Rakip şirket OpenAI ile ilgili bir olaya da değinen Amodei, Temmuz ayında ajanların hedef olarak belirlenmeyen sistemlere siber güvenlik saldırıları düzenlediğini hatırlattı. OpenAI, olayla ilgili açıklamasında bazı ileri yapay zeka modellerinin eğitimini yavaşlattığını duyurdu.

Dengeli hız ve düzenleme çağrısı

Amodei, yazısında "faydalarını elde ederken güvenliğini sağlamayı amaçlayan dengeli bir hızda yapay zeka inşa edilmesi" çağrısı yaptı. Bu, "model eğitimini veya teknik ilerlemeyi durdurmak anlamına gelmiyor; şirketlerin modellerini hizalamak ve korumak için yeterli zaman ayırmasını ve üçüncü taraf değerlendiricilerin bunu doğrulamasını sağlamak" anlamına geliyor. Amodei, Anthropic'i bu konuda tek taraflı olarak taahhüt ettiğini ve hükümetlere diğer öncü şirketlerin de aynı şeyi yapmasını şart koşma çağrısında bulunduğunu belirtti.

Düzenlemelerin yapay zeka hızına yetişemeyebileceğini kabul eden Amodei, yapay zeka şirketlerini düzenlemelerle paralel olarak gönüllü işbirliğiyle standart belirlemeye davet etti. Yavaşlamanın sektör ve özellikle Çin ile rekabet üzerindeki etkisine de değinen Amodei, "Modeller kritik yetenek seviyelerine ulaşmadan önce yavaşlama bize bir iki yıl kazandırsa ve bu zamanı hizalama için kullanırsak, ciddi bir şeylerin ters gitme riskini büyük ölçüde azaltabiliriz" dedi. Amodei, bunun "ticari avantajdan veya ABD'nin yapay zeka liderliğinden ödün vermeden" koordineli bir şekilde yapılması gerektiğini söyledi. Herhangi bir yavaşlamanın sınırlı tutulması gerektiğini, aksi halde Çin'in öne geçebileceğini belirtti. ABD hükümetini, ABD şirketlerinin yapay zeka çiplerinin Çin'e satılmasını veya teknolojinin otoriter ülkelerle paylaşılmasını engelleyecek önlemler almaya çağırdı.