OpenAI yapay zeka ajanlarının uygunsuz kullanımını araştırıyor

Yapay zeka şirketi OpenAI, yapay zeka ajanlarının uygunsuz davranması nedeniyle dünya genelinde "onlarca" kuruma, web sitelerinin bu faaliyetlerden etkilenmiş olabileceği uyarısında bulundu. Şirket, açıklamayı cuma günü yaptı.

OpenAI'a göre ajanlar, "hükümetler, üniversiteler, kamu kurumları ve diğer kuruluşlardan" bilgi edinmeye çalıştı. Bu girişimlerin bir kısmı, kamuya açık güvenilir kaynakları bulmaya yönelik normal araç kullanımından kaynaklandı. Ancak şirket, bazı durumların bunun ötesine geçtiğini belirtti. Örneğin bir yapay zeka ajanı, almaması gereken verileri alıp başka bir yere aktardı.

Bu tür faaliyetler sonucunda en az 53 olayda bir OpenAI ajanı, ChatGPT kullanıcılarına ait bir görseli alarak başka bir ortama taşıdı. Şirket, kullanıcı görsellerinin kullanıldığı ve aktarıldığı her olayda, ilgili kullanıcının verilerinin model eğitiminde kullanılmasına izin verdiğini bildirdi.

Şirket veri kullanımını 'uygun değil' olarak niteledi

Buna rağmen OpenAI, "Bu, bu verinin uygun bir kullanımı değil" ifadesini kullandı. Şirket, kullanıcı görsellerinin sızmasının yapay zeka eğitimine yönelik yeni güvenlik önlemleri devreye alınmadan önce yaşandığını, üçüncü taraflara aktarılan tüm kullanıcı görsellerinin kaldırılması için çalıştıklarını belirtti.

OpenAI cuma günü ayrıca, yazılımının etkilenen sitelerin bazı güvenlik kontrollerini aşmış olabileceğini de ima etti. Ancak şirkete göre bu durum, her olayın ciddi bir güvenlik ihlaliyle sonuçlandığı anlamına gelmiyor.

Şirket, "Bazı kuruluşlar paylaştıklarımızı inceleyip bilginin kasıtlı olarak kamuya açık olduğu ya da modelin etkileşiminin endişe verici olmadığı sonucuna varabilir. Diğerleri ise çözmek istedikleri bir tasarım sorunu veya güvenlik zafiyeti tespit edebilir" değerlendirmesinde bulundu.

Soruşturma Hugging Face olayı sonrası başladı

OpenAI, bu olayları, yapay zeka modellerinin Hugging Face adlı yapay zeka platformunu hacklediğini öğrenmesinin ardından başlattığı soruşturma sırasında tespit ettiğini açıkladı. Söz konusu olay geçen ay kamuoyuna yansımıştı.

Cuma günkü açıklamalar, Avustralya Başbakanı Anthony Albanese'in OpenAI'ın hükümet tarafından işletilen sağlık sigortası sistemi Medicare'in web sitesindeki kamuya açık olmayan dosyalara eriştiğini söylemesinden sadece günler sonra geldi.

OpenAI'ın açıklaması, yapay zeka ajanlarının kurumsal sistemlerle etkileşiminin denetimi konusundaki tartışmaları yeniden gündeme taşıdı. Şirket, etkilenen kuruluşlarla iletişim halinde olduğunu ve durumun incelenmesi için bilgi paylaştığını belirtti.