Silikon Vadisi'nde yapay zeka uyarılarına kuşkulu yaklaşım

Her yıl eylül ayında Silikon Vadisi'nden üst düzey yöneticiler, yatırım bankası Goldman Sachs'ın San Francisco'daki Palace Hotel'de düzenlediği konferansa katılarak yatırımcıları etkilemeye çalışıyor. Bu yıl da büyüme ve getiri beklentilerinin konuşulduğu etkinlikte, teknoloji şirketlerinin yöneticileri Anthropic araştırmacısı Jacob Coxon'un ani istifasını ele almak durumunda kaldı.

Daha önce OpenAI'de çalışan ve ardından şirketin en büyük rakibi Anthropic'e geçen 27 yaşındaki Coxon, salı günü yaptığı açıklamada yapay zeka geliştiren kişilerin teknolojinin insanlığı yok edebileceğine inandığını söyledi. Coxon, "hayatlarımızla kumar oynuyorlar" diyerek bu sistemlerin yakında her şeyi hackleyebilen insanüstü sistemlere dönüşeceğini savundu.

Coxon, yapay zeka sektöründen endişelerini dile getiren ilk isim değil. Son yıllarda hem Anthropic hem de OpenAI'de güvenlik kaygıları nedeniyle bir dizi üst düzey istifa yaşandı. Anthropic'te görev yapan Evan Hubinger da bir sosyal medya paylaşımında Coxon'a destek vererek yapay zekanın önümüzdeki on yıl içinde insanlığı yok etme olasılığını yüzde 10'dan fazla gördüğünü belirtti.

Yatırımcılar ve yöneticilerden kuşkulu tepkiler

Coxon, uyarılarının "pazarlama" olmadığını açıkça belirtse de Silikon Vadisi'ndeki bazı yönetici ve yatırımcılar bu tür açıklamalara şüpheyle yaklaşıyor. Anthropic ve OpenAI'nin rekor düzeyde halka arz hazırlığında olduğu bildirilirken, sektörden bazı isimler bu uyarıların ürünlerin gücünü göstererek hype yaratmak amacıyla yapıldığını öne sürüyor.

Anthropic'in yöneticisi Dario Amodei de yapay zekanın giriş seviyesindeki beyaz yakalı işlerin yarısını yok edebileceği yönündeki sözleri nedeniyle eleştiri almış durumda. Konferansta konuşan Grindr'ın CEO'su George Arison, BBC'ye yaptığı açıklamada Coxon ve diğerlerinin sözlerinin Anthropic'teki "medeniyet karşıtı bir dünya görüşünü" yansıttığını savundu. Arison bu açıklamaları "tehlikeli" olarak nitelendirerek LGBTQ+ tanışma uygulamasındaki bazı mühendislere Anthropic'in teknolojisini kullanmayı bırakmaları talimatını verdiğini söyledi.

Arison, "Bir şirket olarak bu tür kamuya açık açıklamalar yapan bir işletmeye bağımlı olmamız, hissedarlarımızın parasının bekçileri olarak sorumsuzluktur" dedi. Yönetici, "Belki gerçekten inanıyorlar. Ya da bunu daha fazla yatırımcı desteği toplamak için söylüyorlar, çünkü bu değerlemeleri haklı çıkarmanın tek yolu 'her sektörü ve her işi ele geçireceğim' demektir" diye ekledi.

Anthropic, bu yılın başındaki son fon toplama turunda 965 milyar dolar (713 milyar sterlin) değerleme elde etti. BBC, Anthropic'ten bu açıklamalara yanıt istedi. Amodei ise cumartesi günü yayımladığı bir yazıda yapay zeka modeli geliştirmenin yavaşlatılması ve küresel düzenleme çağrısı yaparak yapay zekayla ilişkili risklerin "ciddi" olduğunu belirtti.

Nvidia'nın yöneticisi Jensen Huang da konferansta Coxon'un sözlerini değerlendirdi. BBC'ye konuşan bazı katılımcılara göre Huang bu iddiaları gerçek dışı olarak nitelendirdi. Huang daha önce de yapay zekanın "insanlığın sonu" olacağı görüşünü "tamamen saçmalık" olarak değerlendirmişti. Çip şirketi Nvidia'nın yapay zeka patlamasından ticari çıkarı bulunsa da bu sözler, Silikon Vadisi'nde mevcut ve eski çalışanların varoluşsal uyarılarına yönelik artan bir tepkiyi yansıtıyor.

Bazı eleştirmenler Anthropic'i, rekabeti dışlayacak ve kendisiyle OpenAI'ye tekel bırakacak bir düzenleme dalgasını tetiklemek umuduyla korku yaymakla suçluyor. Yatırım firması Altimeter Capital'in yöneticisi Brad Gerstner, Huang'ın konferanstaki fotoğraflarını paylaşarak Coxon'u "gülünç abartı" yapmakla eleştirdi. Yapay zeka platformu Hugging Face'in CEO'su Clement Delangue ise sosyal medyada Coxon'un yapay zekanın yok olma riski hakkında konuşmasını, klimacıya iklim değişikliğini sormaya benzetti.

ABD'de düzenleme tartışması sürüyor

Nisan ayında Anthropic, Mythos adlı aracının bazı hackleme ve siber güvenlik görevlerinde insanlardan daha iyi performans gösterebildiğini açıklayarak yapay zeka dünyasında tartışma başlatmıştı. Şirket perşembe günü de yapay zeka teknolojisini biyolojik silah geliştirme ve siber casusluk gibi faaliyetler için kullanmaya çalışan tehdit aktörlerini tespit edip durdurduğunu duyurdu.

ABD'de Vermont Senatörü Bernie Sanders'ın bu ay eş sponsorluğunu üstlendiği "Yapay Süper Zeka Yasağı Yasası", gelişmiş yapay zeka geliştirmeye geçici bir ara verilmesini öngörüyor. Sanders BBC'ye, insanlığın yapay zeka üzerindeki kontrolünü kaybetme olasılığının yüksek olduğunu söyledi. Ancak sektör çapında bir hükümet müdahalesi gelirse bunun, yapay zeka gelişimini büyük ölçüde destekleyen Trump yönetimi yerine yasa koyuculardan gelmesi bekleniyor. Başkan Donald Trump, yapay zekanın insanlığın sonunu getirmesine ilişkin endişesi olup olmadığı sorusuna "Hayır, hiç yok" yanıtını verdi.

OpenAI, geçen hafta Astra adlı yeni bir model yayınlarken Trump yönetimiyle ilişkilerini "çok iyi bir ortaklık" olarak tanımladı. Haziran ayında halka arz planını duyuran OpenAI'nin son değerlemesi 852 milyar dolar. BBC'nin yorum talebine şirketten yanıt gelmedi.

San Francisco'daki konferansta servet arayışının, artan varoluşsal kaygıların ya da yapay zekaya olası hükümet kısıtlamaları endişesinin genellikle önüne geçtiği görüldü. Bir yatırımcı, Anthropic'in yakında yayımlanacak S-1 belgesini beklediğini söyledi. Nvidia ile anlaşma imzalayan çip şirketi d-Matrix'in CEO'su Sid Sheth ise dünyanın sonunun gelmesinden korkup korkmadığı sorusuna net yanıt verdi.