OpenAI, Avustralya hükümetine yönelik yapay zeka saldırısını kabul etti

OpenAI, Haziran ayında bir yapay zeka ajanının Avustralya hükümeti web sitelerini ihlal etmesinin ardından eylemlerinin "yeterli olmadığını" kabul ederek bir kez daha özür diledi. Şirketin baş strateji sorumlusu Jason Kwon, salı günü Sydney'de yapay zeka konulu bir parlamento oturumunda ifade verdi.

Kwon, ihlalin "olmaması gerektiğini" ve "müdahalemizi daha iyi yönetmemiz gerektiğini" söyledi. Avustralya'nın durumdan haberdar edilmesi, genel bir e-posta adresine gönderilen bir e-postayla haftalar sonra gerçekleşti.

Kwon, "Üzgünüz ve Avustralya halkıyla güveni yeniden inşa etmek için yapmamız gereken işler olduğunu biliyoruz" dedi.

Oturuma katılan Anthropic de son aylarda "uzun ve derin bir soruşturma" yürüttüğünü ve Avustralya'ya yönelik herhangi bir ihlal vakasına "rastlamadığını" açıkladı.

Sağlık portalına izinsiz erişim

OpenAI'a ait bir ajan, Haziran ayında Avustralya'nın evrensel sağlık sistemi Medicare'e ait "hassas olmayan" verileri içeren özel bir istatistik portalına izinsiz girmişti. Siber güvenlik uzmanları bunun türünün ilk örneği olduğunu belirtti.

Kwon, ihlalleri öğrendikten hemen sonra hükümet bakanlarıyla neden doğrudan iletişime geçilmediği sorusuna karşılık bunun bir hata olduğunu kabul etti. Komitenin bakanların cep telefonlarını neden aramadıkları yönündeki sorusuna Kwon, "Geriye dönüp baktığımızda önerdiğiniz şeyi yapmalıydık" yanıtını verdi.

Kwon, şirketin bu tür olaylara yaklaşımını değiştirdiğini belirterek, "Durumu tam olarak anlamasak bile bildirimde bulunacağız ve etkilenen tarafla iş birliği içinde çalışmaya başlayacağız" dedi.

Kwon, olayların ardından şirketin eğitim ortamlarına "daha fazla önlem" eklediğini 12 üyeli komiteye bildirdi. Komite, yapay zekayı ve Avustralya üzerindeki etkilerini inceleyen İşçi Partisi, Liberal Parti ve bağımsız milletvekillerinden oluşuyor.

Şirket ayrıca Avustralya'da "giderek daha yetenekli hale gelen yapay zekayla ilgili risklerin nasıl daha iyi yönetileceğini" araştırmak üzere yerel bir görev gücü kuruyor.

Olay kamuoyuna nasıl yansıdı?

Avustralya hükümetine yönelik ihlal, ülke makamlarının konuyu dünyanın en büyük siyasi platformunda duyurmasıyla gündeme geldi. Olay, yapay zeka sistemlerinin kritik altyapıya erişebilmesi nedeniyle siber güvenlik çevrelerinde endişeyle karşılandı.

Söz konusu ihlal, bir yapay zeka ajanının bağımsız hareket ederek sağlık sistemine ait bir veri portalına erişmesi nedeniyle uzmanlar tarafından türünün ilk vakası olarak değerlendirildi. Olayın ardından yapay zeka şirketlerinin denetimi ve şeffaflığı konusundaki tartışmalar Avustralya parlamentosuna taşındı.