Trump yapay zeka riskleri konusunda uyarıları hafife aldı

ABD Başkanı Donald Trump, uzmanların günlerce süren ciddi uyarılarına rağmen yapay zekanın (YZ) yol açtığı riskleri hafife aldı. İrlanda ziyareti sırasında konuşan Trump, "Bunu gündeme getirmemesi gereken çok sayıda olumsuz güç var ve gerçekleşmeyecek şeyleri gündeme getiriyorlar" dedi.

Uyarılardan biri, Anthropic'te görev yapmış bir araştırmacıdan geldi. Araştırmacı, mevcut gelişme hızının sürmesi halinde "yakın gelecekte hepimizin ölme ihtimalinin güçlü olduğunu" söyledi. Cumartesi günü sektörün önde gelen yöneticileri de bu görüşe katılarak yavaşlama çağrısı yaptı.

Trump bu görüşe doğrudan yanıt vermedi; ancak "Yapay zekada Çin'in önündeyiz... ve açıkçası bunu böyle sürdürmek istiyorum, çünkü yapay zekayı kim kazanırsa dünyayı da o kazanır" ifadelerini kullandı.

Sektörden yavaşlama çağrısı

Aynı gün, birkaç gün önce Anthropic'ten ayrılan yapay zeka araştırmacısı Jacob Coxon, BBC'ye yaptığı açıklamada bu sistemleri geliştiren personelin insanlığın geleceği için "gerçekten korktuğunu" belirtti. Daha önce OpenAI'da da çalışan Coxon, bir yavaşlamayı olumlu karşıladığını ancak bunun Çin ile eşgüdümlü yürütülmesi gerektiğini ifade etti.

Cumartesi günü xAI'nin sahibi Elon Musk ve OpenAI'dan Sam Altman, Anthropic'in başı Dario Amodei'nin "ciddi bir şeylerin ters gitme riskini azaltmak" için gelişme hızının düşürülmesi gerektiği yönündeki uyarısını destekledi. Amodei, olası bir yavaşlamanın Çin'in öne geçmesini engellemek amacıyla sınırlı tutulması gerektiğini söyledi.

Yapay zeka etrafındaki tartışmalar pek çok dünya lideri için ikilem yaratıyor. Sektör bir yandan ekonomik büyümeyi artırma ve eskiyen dijital sistemleri iyileştirme fırsatı olarak görülüyor; diğer yandan yapay zekanın ciddi biçimde yanlış işlediği olaylar yaşandı.

Ağustos ayında OpenAI, güvenliği artırmak için en gelişmiş modellerinden bazılarının eğitimini yavaşlattığını duyurdu. ChatGPT'nin üreticisi, yapay zeka ajanlarının güvenlik önlemlerini aşarak teknoloji girişimi Hugging Face'e sızdığını, ardından yeni önlemler aldığını açıkladı. Aynı ay, dünyanın en güçlü iki yapay zeka aracının siber saldırı girişimlerinde insanları kandırmak için sahte insan profilleri oluşturduğu ortaya çıktı.

İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI), en ciddi vakada Anthropic'in Mythos YZ'sinin gerçek kişileri taklit eden sahte hesaplar açarak özel mesajlar gönderdiğini ve kanıtları gizlemeye çalıştığını bildirdi. Trump yönetimi, ABD'nin küresel teknoloji üstünlüğünü ulusal güvenlik meselesi olarak koruması gerektiğini savunuyor; ancak yeni teknolojinin riskleri konusunda dikkatli olunması gerektiğini de kabul ediyor.

Washington'da düzenleme tartışması

Yapay zeka yöneticilerinin hafta sonu yaptığı çağrı, düzenleme baskısı altındaki kanun yapıcıların bulunduğu Washington'da tartışma başlattı. Temsilciler Meclisi'nin Cumhuriyetçi Başkanı Mike Johnson, Pazar günü CNN'de yapay zeka düzenlemesinde acele edilmemesi gerektiğini savunarak bunun "Amerikan inovasyonunu boğabileceğini" söyledi. Johnson, "Kongre aceleyle bir tür olağanüstü oturumla yapay zekayı düzenlemeye kalkarsa Çin'e karşı yarışı kaybederiz" dedi.

Demokrat azınlık lideri Hakeem Jeffries ise kanun yapıcıların "kararlı adım" atması gerektiğini belirterek ABD'nin "Amerikan halkını korumak ve yapay zekanın güvenli ilerlemesini sağlamak" için gelişme hızını yavaşlatması gerektiğini söyledi. Teknoloji yatırımcısı David Sacks ise şirketlere kendi kendilerini denetleme çağrısı yaptı.

Yapay zeka düzenlemesinde sınırlı da olsa partiler arası bir uzlaşma var. Temmuz ayında bir grup Demokrat ve Cumhuriyetçi temsilci, yapay zeka için ulusal güvenlik ve gözetim çerçevesi kurmayı amaçlayan iki partili Frontier Act yasa tasarısını sundu.