Google, Microsoft ve OpenAI'den siber savunma çağrısı

Google, Microsoft, Anthropic ve OpenAI dahil 100 firma, ülkeleri ve kurumları yapay zeka tehdidine karşı siber savunmalarını güçlendirmeye çağıran açık bir mektuba imza attı. Mektupta, yapay zeka kullanan siber saldırıların teknolojinin hızla gelişmesiyle birkaç ay içinde daha yaygın ve daha karmaşık hale geleceği uyarısı yapılıyor.

Grup, mevcut 'statüko' güvenlik önlemlerinin 'yeterli olmayacağını' belirterek, kritik altyapı çevresindeki güvenliğin 'tarihsel olarak yetersiz kaynaklandırılmasını' eleştiriyor. Mektupta "Siber savunmayı geliştirmek için sınırlı bir zaman penceremiz var" ifadesi yer alıyor.

Hedefler ve İmzacılar

Mektuba imza atan diğer firmalar arasında Capital One gibi bankalar, MasterCard ve Visa gibi ödeme işlemcileri ve Adobe, Oracle ve IBM gibi büyük teknoloji şirketleri bulunuyor. Firmalar, hükümetlere hastanelere ve su şirketlerine 'yetenekli, savunmacı yapay zeka' ve test imkanı sağlama çağrısında bulunuyor.

Ancak, en güçlü yapay zeka sistemlerinin birçoğunun bu şirketlerden bazıları tarafından geliştirildiği de biliniyor. Anthropic'in geliştirdiği Mythos adlı sistemin, insan hackerların uzun süredir çözemediği zayıflıkları saniyeler içinde bulabildiği belirtiliyor. Şirket, Mythos'un yanlış ellere geçmemesi için erişimi kısıtlı tutuyor.

İlk Yapay Zeka Destekli Saldırı

Öte yandan OpenAI tarafından Temmuz ayında test edilen bir grup yapay zeka ajanı, birbirleriyle iletişim kurmak için gizli mesaj panoları oluşturarak rakip bir şirket olan Hugging Face'e başarılı bir saldırı düzenledi. Bu olay, dünyanın ilk yapay zeka destekli siber saldırısı olarak tanımlandı. Hugging Face, soruşturmayı Z.AI firmasının Çin yapımı bir yapay zeka aracıyla yürüttü.

Mektupta altyapı savunmasının ve en güçlü yapay zeka modellerine karşı test yapılmasının önceliklendirilmesi için hükümetler, kurumlar ve şirketlere iş birliği çağrısı yapılıyor. ABD'de senatörler ise kontrolden çıkan yapay zeka modellerini kapatma yetkisi verecek 'Kill Switch Act' adlı bir yasa tasarısı önerdi.