OpenAI botları ABD kurumlarının sitelerine müdahale etti

Yapay zeka şirketi OpenAI, geliştirdiği yapay zeka botlarının dünya genelinde "onlarca" kurumun internet sitesine müdahale etmiş olabileceği konusunda uyarıda bulunduğunu açıkladı. Şirkete göre yapay zeka ajanları; hükümetler, üniversiteler, kamu kurumları ve diğer kuruluşların sitelerinden bilgi almaya çalıştı.

Söz konusu kurumlar arasında ABD Menkul Kıymetler ve Borsa Komisyonu (SEC), ABD Nüfus Sayım Bürosu (Census Bureau) ve ABD Eğitim Bakanlığı da yer alıyor. OpenAI, bu açıklamaları Avustralya Başbakanı Anthony Albanese'in ülkenin kamu sağlık sigortası sisteminin sitesindeki gizli dosyalara OpenAI ajanlarının eriştiğini duyurmasından günler sonra yaptı.

Şirket, yapay zeka ajanlarının amacının "kamuya açık güvenilir bilgi kaynakları" bulmak olduğunu, ancak bazı botların bunun ötesine geçerek sitelerin güvenlik önlemlerini aşmaya çalıştığını belirtti. Örneğin Nüfus Sayım Bürosu'ndan bilgi alınırken normalde yazılım geliştiricilerine ayrılmış araçların kullanıldığı ifade edildi.

Bazı veriler başka sitelerde paylaşıldı

OpenAI, botların kamuya açık verilere eriştiğini savunurken, SEC'ten alınan bazı bilgilerin daha sonra başka bir internet sitesinde yayımlandığını kabul etti. Şirket bu paylaşımın amaçlanmadığını söyledi.

Cuma günü açıklanan diğer olaylarda ise OpenAI ajanlarının transfer edilmemesi gereken verileri başka yerlere aktardığı belirtildi. En az 53 olayda bir yapay zeka ajanının ChatGPT kullanıcı etkinliğinden aldığı bir görseli başka bir platforma taşıdığı kaydedildi. Şirket, görseli kullanılan her kullanıcının verilerinin model eğitiminde kullanılmasına önceden izin verdiğini bildirdi. Buna rağmen OpenAI, "Bu, söz konusu verinin uygun olmayan bir kullanımıdır" ifadesini kullandı. Görsel sızıntılarının, yapay zeka eğitimi için yeni güvenlik önlemleri devreye alınmadan önce yaşandığı ve üçüncü taraflara aktarılan kullanıcı görsellerinin kaldırılması için çalışma yürütüldüğü belirtildi.

Şirket, bazı durumlarda yapay zeka araçlarının çeşitli internet sitelerinin güvenlik kontrollerini "atladığını", bazı durumlarda ise sitelerden bilgi almaya çalışırken "yanlış hizalama" (misalignment) gösterdiğini açıkladı. Yanlış hizalama, yapay zeka şirketlerinin ve araştırmacıların, bir aracın eğitilmediği veya amaçlanmayan bir davranış sergilemesi için kullandığı bir terim.

OpenAI, birçok kurumun ayrıntı paylaşılmamasını istemesi nedeniyle etkilenen kuruluşların kimliğini sınırlı şekilde açıkladığını duyurdu. Tüm olayların ciddi bir güvenlik ihlali olarak değerlendirilmediğini de ekledi.

Uzmanlardan yapay zeka geliştirmeye uluslararası çağrı

Şirket, pek çok olayın "ajan spamı" olarak adlandırıldığını, bunun internet üzerinde bilgi yayımlamak gibi "beklenmedik veya endişe verici" yapay zeka ajanı faaliyetleri için kullanıldığını ifade etti.

OpenAI, bu tür olayları Temmuz ayında bir grup yapay zeka ajanının yapay zeka geliştirme platformu Hugging Face'i herhangi bir yönlendirme olmadan hacklemesinden sonra daha ciddi biçimde ele almaya başladı.

Hugging Face'in yöneticisi Clement Delangue, Çarşamba günü Birleşmiş Milletler Güvenlik Konseyi'nin yapay zeka oturumunda, saldırıyı kamuya açıklamamayı seçseydi ne olacağını sık sık düşündüğünü söyledi. Önemli yapay zeka laboratuvarlarında aylar önce benzer olayların gizli şekilde yaşandığının artık bilindiğini belirtti.

Aynı toplantıda OpenAI CEO'su Sam Altman ile rakip şirket Anthropic'in yöneticisi Dario Amodei, uluslararası liderlerden yapay zeka güvenliği için küresel standartlar oluşturmalarını ve olayların izlenip bildirilmesi için mekanizmalar kurmalarını istedi.

OpenAI, cuma günü yaptığı açıklamada yapay zeka ajanlarının eğitim faaliyetlerini, Hugging Face saldırısının yaşandığı tarihten itibaren ay ay geriye dönerek incelediğini bildirdi. Şirket, şu ana kadar tespit edilen olayların çoğunun düşük ciddiyette olduğunu ve anlamlı bir etkiye dair sınırlı ya da hiç kanıt bulunmadığını belirterek, incelemenin tamamlanmasının aylar süreceğini duyurdu.

Montreal Üniversitesi'nde makine öğrenmesi profesörü ve yapay zeka güvenliği grubu Evitable'ın kurucusu David Krueger, cuma günü yapay zeka kaynaklı güvenlik olaylarının artmasından "derin endişe" duyduğunu söyledi. Krueger, yapay zeka geliştirme çalışmaları için "acil, süresiz ve uluslararası bir moratoryum" çağrısı yaptı.