OpenAI'dan çıkarılan araştırmacılar güvenlik endişesini gerekçe gösterdi

Yapay zeka şirketi OpenAI'dan işten çıkarılan üç eski araştırmacı, hassas bilgileri usulsüz kullandıkları iddiasını reddederek, asıl nedenin şirket içinde güvenlik endişelerini dile getirmeleri olduğunu savundu. Eski çalışanlar Mikita Balesni, Tomek Korbak ve Jasmine Wang, OpenAI yönetimine ortak bir açık mektup yazdı.

Balesni, X hesabından yaptığı paylaşımda, "OpenAI'nin bir şirket olarak yakın vadeli çıkarlarının önüne güvenliği koyduğumuz için işten çıkarıldığımıza inanıyorum" ifadesini kullandı.

Şirket sözcüsü 2 Ekim'de BBC'ye yaptığı açıklamada, yürütülen soruşturmanın "bu kişilerin hassas bilgileri şirketin belirlenmiş prosedürleri dışında kullandığını doğruladığını" belirtmişti. OpenAI, cuma sabahı araştırma birimi yöneticilerinin imzasıyla yayımlanan notta bu iddiaları yineledi. Notta, "Bu kararların güvenlik endişelerini dile getirmekle ya da açıkça konuşmakla ilgisi olmadığını çok net biçimde belirtmek isteriz" denildi. Şirket, iç soruşturmanın çalışanların yayımladığı mektupta anlatılandan daha büyük bir güven ihlalini ortaya çıkardığını ve iş akitlerinin sonlandırılması kararının arkasında durduğunu kaydetti.

Güvenlik ve uyum birimlerinde çalışıyorlardı

Üç eski çalışan, yakın zamana kadar şirketin güvenlik ya da "alignment" (uyum) birimlerinde görev yaptıklarını belirtiyor. Uyum çalışması, insanların etik değer ve ilkelerinin teknolojiye yerleştirilmesi anlamına geliyor; başka bir deyişle yapay zeka sistemlerinin insanların değer verdiği ilkelerle uyumlu kalmasını amaçlıyor.

Eski çalışanlar, işten çıkarılmalarının şirket personelini "geçen haftaya kadar OpenAI'da çalışmanın ayrılmaz parçası olan biçimde konuşmaktan ve hareket etmekten korkar hale getirdiği" endişesini dile getirdi.

Mektubu yeniden paylaşan Korbak, aylardır yapay zeka ajanlarının ne düşündüğünü izleme yeteneğinin kaybedilmesine ilişkin güvenlik endişelerini dile getirdiğini yazdı. Korbak, bu izleme yeteneğini ajanların hatalı davrandığı durumları yakalamak için en iyi araçlardan biri olarak tanımladı.

OpenAI, üçüncü taraf güvenlik değerlendiricileriyle sözleşmeleri sonuçlandırma aşamasında olduğunu ve ayrıntıların önümüzdeki haftalarda açıklanacağını bildirdi.

Wang ise X'teki paylaşımında, OpenAI'dan "şüpheli koşullar altında" uzaklaştırılan ilk kişiler olmadıklarını belirtti. Wang, çalışanların bu tür bir manevraya karşı şimdi tavır almadığı takdirde son kişiler olmaktan endişe duyduğunu ifade etti.

Tartışma, yapay zeka güvenliği ve ileri düzey yapay zeka sistemlerinin toplum için oluşturabileceği olası riskler üzerine büyüyen bir tartışma ortamında yaşanıyor. OpenAI, başka bir açıklamasında ergenlerin ChatGPT kullanımının sınırlandırıldığını belirtirken, bir araştırma bu kullanımı "kabul edilemez bir risk" olarak nitelendirmişti.