Google: Gemini yapay zekası üç şirkete sızmayı başardı

Google, yapay zeka modeli Gemini'nin mayıs ayında üç farklı şirketin güvenlik sistemlerini aşarak bu şirketlere izinsiz eriştiğini doğruladı. Şirket için bir ilk olan bu olay, İsrail merkezli yapay zeka güvenlik firması Irregular tarafından yürütülen bir siber güvenlik değerlendirmesi sırasında meydana geldi.

Irregular, ileri düzey yapay zeka sistemlerinin güvenliğini inceleyen bir girişim. Şirket, son dönemde OpenAI ve Anthropic modellerinin üçüncü taraf kuruluşlara sızmasıyla ilgili olayların da merkezinde yer aldı. Bunlar arasında OpenAI'nin yapay zeka yazılım şirketi Hugging Face'e sızması da bulunuyor.

Bu olayların bazılarında modellerin diğer şirketlere sızmasını sağlayan koşullar benzerlik gösteriyor: Irregular, modelleri sahte şirketlerin bulunduğu kapalı bir test ortamında deniyordu. Wall Street Journal'ın haberine göre test ortamının internete bağlı olmaması gerekiyordu ancak internet erişimi istenmeden açıldı. İnternete bağlanan modeller beklenmedik şekilde gerçek firmalara sızdı.

Google: Şirketler bilgilendirildi

Irregular, OpenAI'nin Hugging Face'e sızdığını keşfettikten sonra sızma olaylarını temmuz sonunda Google'a bildirdi. Google, The Guardian'a olayların gerçekleştiğini doğruladı ancak modellerin şirketlere zarar vermemesi nedeniyle kamuoyuna açıklama gereği duymadığını belirtti. Sızmaları ilk kez Wall Street Journal duyurdu.

Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins yaptığı açıklamada, "Standart bir değerlendirmede model, çevrimiçi ortamda kamuya açık bilgilere ulaştı ve testin parçası olduğunu düşündüğü sitelere erişmek için kimlik bilgilerini tahmin etti. Bu üç olayın tamamında model durdu" dedi.

Güvenlik ihlallerinden birinde Irregular, Gemini'nin siber güvenlik yeteneklerini sahte bir şirketin yazılımından bilgi alması için yönlendirerek test ediyordu. Sahte şirket, gerçek bir şirketle aynı isme sahipti. Irregular'ın Wall Street Journal'a verdiği bilgiye göre model istenmeden internete erişince gerçek şirketin hizmet şifresini doğru tahmin etti ve sistemine sızdı. Google, modelin sahte şirket yerine gerçek bir şirkete sızdığını fark ettiğinde durduğunu belirtti.

Diğer iki testte model, internette arama yaparak iki şirkete ait kimlik bilgilerini içeren kamuya açık depoları buldu ve bu bilgileri kullanarak gerçek şirketlere erişti. Google'a göre model bunların gerçek şirketler olduğunu anlayınca durdu.

Diğer şirketler gönüllü açıkladı

Anthropic ve OpenAI sızma olaylarını gönüllü olarak açıklamayı seçti ancak Google bunu yapmadı. Şirket yine de sızılan üç şirketin durumdan haberdar edilmesini sağladığını bildirdi. Adkins, "Bu olaylar güçlü yapay zeka modellerinin sorumlu davranacak şekilde eğitilmesinin önemini gösteriyor" ifadelerini kullandı.

Anthropic ve OpenAI'nin açıklamaları, bağımsız senatör Bernie Sanders'ın şirketlerden teknolojilerinin geliştirilmesini durdurmasını talep etmesine yol açtı. Sanders, bu durumun şirketlerin artık modellerini kontrol edemediğine işaret ettiğini söyledi.

OpenAI modellerinin geliştirilmesini iki hafta durdurdu. Anthropic Üst Yöneticisi Dario Amodei ise en gelişmiş modellerin yeterli güvenlik önlemleriyle üretilmesini sağlamak için yapay zeka geliştirmenin toplu şekilde yavaşlatılması çağrısında bulundu.