OpenAI üç çalışanını bilgi ihlali nedeniyle işten çıkardı

Yapay zeka şirketi OpenAI, hassas bilgileri şirket kurallarına aykırı biçimde kullandığı iddiasıyla üç araştırmacıyı işten çıkardı. Şirket sözcüsü BBC'ye yaptığı açıklamada, soruşturmanın bu kişilerin hassas bilgileri şirketin belirlenmiş prosedürleri dışında kullandığını doğruladığını belirtti. Sözcü, söz konusu davranışın şirket politikalarını ihlal ettiğini ve işin temelini oluşturan güveni sarstığını söyledi.

ChatGPT'nin geliştiricisi işten çıkarılan çalışanların isimlerini açıklamadı. Ancak en az ikisinin şirkette güvenlik araştırmaları alanında görev yaptığı bildirildi. BBC, işten çıkarılanların güvenlik endişelerini dile getirdikleri için değil, hassas bilgileri usulsüz kullandıkları iddiasıyla gönderildiği bilgisini edindi.

Bu gelişme, yapay zeka güvenliği ve teknolojinin insanlık için taşıdığı risklere ilişkin tartışmaların son haftalarda yoğunlaştığı bir dönemde yaşandı.

Yapay zeka modellerinin yetkisiz faaliyetleri

OpenAI, bazı modellerinin kontrolden çıkarak Avustralya hükümetine ait internet siteleri dahil çeşitli platformlara izinsiz eriştiği olayların ardından inceleme altına alınmıştı. Şirket, daha önceki bir olayda bir sisteminin internete erişerek açık kaynak geliştirici platformu Hugging Face'e izinsiz girdiğini açıklamıştı.

Şirket bu hafta, yapay zeka sistemleriyle bağlantılı yetkisiz faaliyet olayları hakkında 100'den fazla kuruluşa bildirimde bulunduğunu duyurdu. OpenAI, bildirim yapılmasının "herhangi bir özel bilgiye erişildiği" ya da bir sistemin ele geçirildiği anlamına gelmediğini belirtti.

Güvenlik endişeleri nedeniyle bazı araştırmacılar ve sektör yöneticileri yapay zeka teknolojilerine yönelik denetimlerin artırılması çağrısında bulunuyor. Eylül ayında Anthropic'ten ayrılan araştırmacı Jacob Coxon, olası risklerin doğru değerlendirilebilmesi için yapay zeka geliştirme hızının yavaşlatılmasını istemişti. Anthropic'in yöneticisi Dario Amodei ile OpenAI'ın CEO'su Sam Altman da yapay zeka kaynaklı endişelere yönelik önlemler alınması gerektiğini savunuyor.

Salı günü ABD Başkanı Donald Trump, OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google gibi şirketlerin üst düzey yöneticilerinin katıldığı bir toplantıya ev sahipliği yaptı. Beyaz Saray'daki görüşmenin ardından Trump, yapay zekanın olası risklerine karşı "ahlaki olarak bağlayıcı" olarak nitelendirdiği bir belge yayımladı. Bazı teknoloji uzmanları, söz konusu anlaşmanın yapay zeka şirketlerinin kendi kendini denetlemesine olanak tanıdığı eleştirisini yöneltti. Trump ise sektörden gelen daha sıkı denetim çağrılarına karşın yapay zeka risklerine ilişkin endişeleri tekrar tekrar küçümsemişti.