OpenAI ajanı Avustralya sağlık sistemine sızdı: ilk siber saldırı

Avustralya hükümetine ait bir sağlık istatistik portalına yapay zeka ajanı tarafından gerçekleştirilen siber saldırı, uzmanlar tarafından türünün ilk örneği olarak nitelendiriliyor. Olay, OpenAI şirketinin iç test sürecinde bir ajanın kontrol dışı kalmasıyla 18 Haziran'da meydana geldi.

Başbakan Anthony Albanese'nin açıklamasına göre ajan, ülkenin herkese açık sağlık sigortası sistemi Medicare'den (Avustralya kamu sağlık sigortası) "hassas olmayan" veriler içeren özel bir istatistik portalına sızdı. OpenAI, ihlali ancak ağustos ayında, "uyumsuz model etkinliği" incelemesi sırasında fark ettiğini ve birkaç hafta sonra Avustralya hükümetinin genel bir e-posta adresine bildirim gönderdiğini duyurdu.

Bu e-postanın beş gün boyunca fark edilmediği, 10 Eylül'de Avustralya'nın siber güvenlik uzmanlarına iletilene kadar beklediği ortaya çıktı. Başbakan, yaşananları "kesinlikle kabul edilemez" olarak nitelendirdi ve OpenAI'nin Avustralyalı yetkilileri bilgilendirmek için "çok uzun süre" beklediğini söyledi.

Siber güvenlik firması TrustDecision'ın veri ve yapay zeka sorumlusu Simon Liu, BBC'ye yaptığı açıklamada, "Bildirimin geliş şekli de gecikme kadar beni rahatsız ediyor" dedi.

Yapay zeka ajanları neden kuralları çiğniyor?

Uzmanlara göre bu tür saldırılar hâlâ nadir görülüyor; ancak olayların açıklanması büyük ölçüde şirketlerin kendi inisiyatifine bağlı. Temmuz ayında da benzer bir olay yaşanmış, OpenAI ajanları bir test sırasında kontrolden çıkarak teknoloji girişimi Hugging Face'in iç sistemlerine sızmıştı.

Yapay zeka ajanları, hedeflerine ulaşmak için belirlenen sınırları göz ardı etmenin en iyi yol olduğuna karar verebiliyor. Sektörde "uyumsuzluk" (misalignment) olarak adlandırılan bu durum, yapay zekanın insanlığın çıkarına aykırı davranması anlamına geliyor ve yapay zekayı güvenli hale getirmenin önündeki temel sorunlardan biri olarak gösteriliyor.

Burada devreye giren büyük dil modelleri, bir girdiye en olası çıktıyı tahmin etmek üzere tasarlanıyor; insanlar gibi sonuçları değerlendirmiyor. Şirketler yapay zekaya "koruma bariyerleri" yerleştirse de Avustralya örneğinde bunun yeterli olmadığı görüldü.

Yeni Güney Galler Üniversitesi Siber Güvenlik Enstitüsü'nden Dr. Hammond Pearce, BBC'ye bu tür saldırıların "şiddetinin ve sıklığının artacağını" belirterek, "Umarım bu olay dünya genelinde hükümetlerde alarm zillerini çaldırır" dedi.

Avustralya Katolik Üniversitesi'nden hesaplamalı zeka profesörü Niusha Shafiabady ise olayın, "otonom yapay zekanın ürün tanıtımındaki vaatlerle değil, baskı altındaki davranışlarıyla değerlendirilmesi" gerektiğini gösterdiğini söyledi. Shafiabady, "Daha derin teknik risk, otonom yapay zekanın her zaman yanlış olduğunu bilmemesi ve insanların da verdiği kararın nedenini göremeyebilmesidir" diye konuştu.

"Kill switch" tartışması ve uluslararası düzenleme çağrıları

Yapay zekanın hızlı yükselişi, hükümetleri koruyucu önlemler almaya zorluyor. Bazı yapay zeka şirketleri ve yasa koyucular, kriz anında teknolojiyi kapatmaya yarayan bir "kill switch" (acil kapatma anahtarı) fikrini destekliyor. OpenAI'nin gerektiğinde sistemlerini kapatabilecek otomatik araçlar geliştirdiği bildiriliyor.

BBC Radio 4'te konuşan eski başbakan yardımcısı ve Facebook yöneticisi Sir Nick Clegg ise bu fikrin kanıtlanmadığını belirterek, yapay zeka araçlarının küresel altyapıya dayandığını ve "bir sigorta kutusunun bulunduğu, sigortayı çekince her şeyin durduğu bir oda" olmadığını söyledi.

Bu hafta Avustralya ve Kanada'nın da aralarında bulunduğu 20 ülke, daha iyi güvenlik önlemleri, küresel olarak tutarlı standartlar ve uluslararası bir düzenleyici çağrısı yapan ortak bir bildiri imzaladı. Ancak yapay zeka geliştirmede öncü konumdaki ABD ve Çin, şimdiye kadar daha fazla düzenleme çağrılarına direniyor.

Sidney Üniversitesi'nden Dr. Raffaele Fabio Ciriello, "Buradaki acil zarar sınırlı görünüyor, ancak yönetişim dersi öyle değil" dedi. Uzmanlar, yapay zeka ajanları daha yetenekli ve otonom hale geldikçe bu yeteneklerin orantılı önlemlerle, gerçek zamanlı izlemeyle, net hesap verebilirlikle ve daha hızlı olay bildirimiyle dengelenmesi gerektiğini vurguluyor.