Yapay zeka ajanı Avustralya devlet sitesini hackledi

OpenAI şirketine ait bir yapay zeka ajanının haziran ayında Avustralya hükümetine ait bir internet sitesine izinsiz girerek özel verilere eriştiği ortaya çıktı. Uzmanlara göre bu olay, dünyada bilinen ilk vaka niteliğinde.

Avustralya Başbakanı Anthony Albanese, New York'ta yerel saatle çarşamba günü yaptığı açıklamada, yapay zeka ajanının ülkenin evrensel sağlık sigortası sistemi Medicare'a ait "hassas olmayan" verileri barındıran bir istatistik portalına "sızdığını" belirtti.

Albanese, OpenAİ Üst Yöneticisi (CEO) Sam Altman ile ihlalin açıklanmasının "çok uzun sürdüğü" konusunda "çok açık bir görüşme" yaptığını ve olayın "hukuki sonuçları" olacağını ifade etti.

OpenAI ise ihlali ancak ağustos ayında "uyumsuz model aktivitesi" incelemesi sırasında öğrendiğini ve 10 Eylül'de bir Avustralya hükümet kurumunun genel e-posta adresine bildirim yaptığını duyurdu.

Beş gün sonra söz konusu kurum olan Services Australia, e-postayı Avustralya siber güvenlik merkezine iletti. Ardından bir hükümet bakanı bilgilendirildi ve başbakan haberdar edildi.

Albanese, Altman ile konuştuğunu ve "Avustralya'nın bu olayla ilgili aşırı endişesini" ilettiğini, şirketin ihlali açıklamasının aylar sürdüğünü ve bunu yapma şeklinden duyduğu "hayal kırıklığını" dile getirdiğini söyledi.

Başbakan, Altman'ın OpenAI'da "protokollerle ilgili sorunlar" olduğunu kabul ettiğini aktardı.

Albanese, ülkenin siber güvenlik kurumu öncülüğünde yürütülecek bir "adli soruşturmanın" diğer hükümet sistemlerinin etkilenip etkilenmediğini belirlemeyi amaçlayacağını bildirdi.

Soruşturmanın ayrıca konunun polis tarafından ele alınıp alınmayacağını değerlendireceğini belirten Albanese, "elbette hukuki sonuçlar olacağını" kaydetti.

Etkilenen sistemler ve veriler

İhlalin ayrıntılarını paylaşan Albanese, olayın Medicare Statistics Reporting Service portalındaki "kamuya açık ve açık olmayan dosyaları" kapsadığını, portalda "hassas olmayan" veri ve istatistikler bulunduğunu söyledi.

Başka üç hükümet sisteminin de "etkilenmiş olabileceği" belirtildi: Avustralya Sağlık ve Refah Enstitüsü ile iki eyalet kuruluşu olan New South Wales Suç İstatistikleri ve Araştırma Bürosu ve Victoria Sağlık Bakanlığı.

Albanese, "Bu aşamada hiçbir kişisel bilginin erişilmediğine inanılıyor, ancak soruşturmalar sürüyor" dedi. "Yine de bu durum açıkça kabul edilemez" diye ekledi.

OpenAI yaptığı yazılı açıklamada, "modellerimizin bir iç değerlendirme sırasında Avustralya hakkındaki sorular için yanıtları ve mevcut istatistikleri aramaya çalışmasıyla çeşitli Avustralya hükümeti internet sitelerini ve hizmetlerini içeren bir faaliyet tespit ettik" ifadelerini kullandı.

Açıklamada, "Bu süreçte modellerimiz amaçlamadığımız eylemlerde bulundu" denildi.

Albanese, dünya liderlerinin BM Genel Kurulu için toplandığı New York'ta salı gecesi ABD Başkanı Donald Trump ile yüz yüze görüşmesinde konuyu gündeme getirip getirmediği sorusunu yanıtsız bıraktı.

Avustralya, bu hafta başında yapay zekanın geliştirilmesi için küresel denetim ve koruma önlemleri çağrısında bulunan ortak bildiriye imza atan 22 ülkeden biriydi.

Siber güvenlik uzmanları BBC'ye, yapay zeka ajanlarının bireysel ve ticari kullanım için giderek yaygınlaşması nedeniyle olayın düzenleyiciler için bir uyarı olduğunu söyledi.

New South Wales Üniversitesi Siber Güvenlik Enstitüsü'nde kıdemli öğretim görevlisi Dr. Hammond Pearce, bunun yapay zeka ajanlarının kendi iradesiyle bir devlet kurumunu ihlal ettiği bilinen ilk vaka olduğunu, ancak benzerlerinin geleceğini belirtti.

"Bu tür saldırıların devam edeceğini düşünüyorum" diyen Pearce, olayların "şiddet ve sıklık açısından artacağını" ekledi. "Bu olayın dünya genelinde hükümetlerde alarm zillerini çalmasını umuyorum" dedi.