Avustralya, yapay zeka güvenliği için yeni düzenleyici kurum kuruyor

Avustralya, yapay zeka şirketlerine yönelik yeni bir güvenlik düzenleyici kurum oluşturmayı ve uyum sağlamayan şirketlere cezai yaptırımlar uygulamayı planlıyor. Karar, OpenAI sisteminin hükümetin sağlık web sitesine sızmasından aylar sonra geldi.

Eylül ayında Başbakan Anthony Albanese, bir OpenAI ajanının hükümetin sağlık web sitesine ve diğer sistemlere "sızdığını" açıklamış ve şirketi olayı aylar sonra bildirmesi nedeniyle eleştirmişti.

Albanese salı günü, ihlaller üzerine yapılan "hızlı inceleme" sonucu hazırlanan 18 öneriyi yayımladı. Öneriler arasında yapay zeka şirketleri için zorunlu güvenlik ve emniyet standartları, saldırıların zorunlu olarak bildirilmesi gibi maddeler yer alıyor.

Albanese, yapay zekanın fırsatlar sunduğunu ancak Avustralya'nın bu "hızla gelişen teknolojinin" getirdiği "yeni risklere" hazırlanması gerektiğini söyledi. "Hukukun öncelik alması ve bazı durumlarda çok hızlı değişen dünyaya ayak uydurması gerekiyor" dedi.

Öneriler arasında cezai yaptırım ve zorunlu bildirim var

Önerilerden biri, ceza hukukunda bağımsız bir "zararı önleme başarısızlığı" suçu oluşturulmasını içeriyor. Bu düzenleme, "zararlı davranışlarda bulunan bir yapay zeka modeli geliştiren" ve "bu zararı önlemek için makul adımlar atmayan" şirketleri cezai sorumluluk altına alacak.

İnceleme ayrıca saldırıların "zorunlu, süre sınırlı yapay zeka güvenlik bildirimi" yapılmasını önerdi. Bu madde, Albanese'nin OpenAI'nin ihlali hükümete bildirmesindeki aylar süren gecikmeye ilişkin daha önce dile getirdiği "hayal kırıklığını" ele alıyor.

Haziran ayında Avustralya'nın evrensel sağlık sigortası Medicare'e ait "hassas olmayan" verileri içeren bir istatistik portalı, bir OpenAI ajanı tarafından hacklenmişti.

OpenAI, ihlali ancak ağustos ayında "uyumsuz model etkinliğini" incelerken öğrendiğini ve 10 Eylül'de bir Avustralya hükümet kurumunun genel e-posta kutusuna mesaj gönderdiğini belirtti. E-postanın Avustralya'nın siber güvenlik merkezine iletilmesi birkaç gün daha sürdü ve ardından başbakana iletilmeden önce bir hükümet bakanına mesaj gönderildi.

Albanese, OpenAI yöneticisi Sam Altman ile görüştüğünü ve "Avustralya'nın bu olaya ilişkin aşırı endişesini" dile getirdiğini söyledi. Altman, OpenAI'de "protokollerle ilgili sorunlar" olduğunu kabul etti.

Hack olaylarının ortaya çıkmasından günler sonra OpenAI, güvenlik endişelerini gerekçe göstererek yeni bir yapay zeka modelinin kullanıma sunulmasını ertelemişti.