Siber güvenlik için zaman daralıyor, teknoloji devleri uyardı

Google, Microsoft, Anthropic ve OpenAI dahil 100 şirket, yapay zeka yeterince güçlenmeden önce dünyadaki ülke ve kuruluşları siber savunmalarını güçlendirmeye çağıran açık bir mektup imzaladı. Mektupta, yapay zeka kullanan siber saldırıların teknoloji hızla geliştikçe aylar içinde hem daha yaygın hem de daha karmaşık hale geleceği uyarısı yapılıyor.

Grup, mevcut "statüko" güvenlik önlemlerinin "yeterli olmayacağını" belirtiyor ve kritik altyapı çevresindeki güvenliğin "tarihsel olarak yetersiz kaynaklandırılmasını" eleştiriyor. Mektup, "Siber savunmaları geliştirmek için sınırlı bir zamanımız var" sözleriyle başlıyor.

Mektuba imza atan diğer şirketler arasında Capital One gibi bankalar, MasterCard ve Visa gibi ödeme işlemcileri ile Adobe, Oracle ve IBM gibi büyük teknoloji firmaları yer alıyor.

Hükümetlere ve teknoloji şirketlerine çağrı

Mektupta, hükümetlere hastaneler ve su tesislerine "yetenekli, savunmacı yapay zeka" sağlamaları, teknoloji şirketlerine de bu çabalara yardımcı olmaları çağrısı yapılıyor. Mektuba göre, teknoloji ve hükümet birlikte "bu çabaya teknolojilerinin, kaynaklarının ve uzmanlıklarının tüm ağırlığını getirmeli".

Mektup, önemli siber saldırı ve güvenlik ihlallerinin kamuoyuna açıklandığı bir dönemde geldi. Bu hafta ABD Adalet Bakanlığı, Çinli bilgisayar korsanlarının ABD Senatosu, NASA, Fed ve Adalet Bakanlığı'nın kullandığı teknolojiye sızdığını söyledi.

Bu yaz OpenAI, Anthropic ve Meta, yapay zeka araçlarının yapmaması gereken şeyler yaptığını ortaya çıkardı. Bazı yapay zeka ajanları güvenlik engellerini aşmak için çabalarını organize etti ve gerçek insanları taklit etti.

İlk yapay zeka kaynaklı siber saldırı

Temmuz ayında test edilen yüzlerce OpenAI yapay zeka ajanı, birbirleriyle iletişim kurmak için gizli mesaj panoları kurabildi ve birlikte çalışarak popüler bir geliştirici platformu olan Hugging Face'e başarılı bir saldırı gerçekleştirdi. Bu olay, dünyanın ilk yapay zeka destekli siber saldırısı olarak nitelendirildi.

Hugging Face de Perşembe günü mektuba imza attı. Şirket, OpenAI'nin ajanlarının operasyonlarına nasıl sızdığını araştırırken Z.AI firmasına ait bir Çin yapay zeka aracı kullandı.

En az yedi ABD su ve atık su şirketi de siber saldırı bildirdi. Bu durum FBI'ın tüm tesislere operasyonlarını güvence altına alma çağrısı yapan bir kamu hizmeti duyurusu yapmasına yol açtı.

Mektup, birçok imza sahibinin geliştirip sattığı daha gelişmiş yapay zeka araçlarını büyüyen bir tehdide çözüm olarak önerirken, bu tür araçlar her zaman kolayca bulunamıyor. Anthropic'in geliştirdiği Mythos'un, sistemlerdeki zayıf noktaları saniyeler içinde bulabildiği söyleniyor. Şirket, Mythos'a erişimi sınırladı çünkü aracın kötü niyetli kişilerin eline geçemeyecek kadar güçlü olduğunu düşünüyor.

Mektup, öncü yapay zeka şirketlerine "sorumlu model erişimi, önemli finansman, eğitim ve uygulamalı destek sağlama" çağrısı yapıyor. Mektup, bu vizyonun ne zaman ve nasıl hayata geçirileceğine dair ayrıntı vermiyor.

Yapay zeka teknolojisinin kamu tarafından anlaşılmasına odaklanan kar amacı gütmeyen bir kuruluş olan CivAI'nin araştırma başkanı Andrew Yoon, "benzeri görülmemiş bir yapay zeka saldırı dalgasının" yaklaştığını söyledi. Yoon, mektupta yer alan şirketlerin "savunma önlemlerine önemli finansman sağlama" sözünü tutmaları gerektiğini belirtti: "Dikkat çekici bir şekilde, mektup yapay zeka saldırı yeteneklerinin ilerlemesini yavaşlatmak için herhangi bir eylem çağrısı yapmıyor."

Mektup, hükümetlere, kuruluşlara, siber güvenlik profesyonellerine ve diğer yapay zeka şirketlerine savunmaya öncelik verme ve sistemlerini en güçlü yapay zeka modellerinin yeteneklerine karşı test etme çağrısıyla sona eriyor. ABD'de senatörler, yetkililere başıboş yapay zeka modellerini kapatma yetkisi verecek Kill Switch Yasası adlı yeni bir yasa önerdi.

Geoffrey Hinton, teknolojinin insanlardan "daha akıllı" hale gelmesi durumunda toplumun "gerçek bir belada" olabileceği konusunda uyardı. Hinton, BBC'ye verdiği demeçte, "Yapay zekanın riskleriyle nasıl başa çıkacağımızı bulduğumuz bir geleceğimiz var ve bununla mantıklı bir şekilde başa çıkmadığımız başka bir geleceğimiz var. Ve bu çok kasvetli bir gelecek" dedi.