OpenAI yapay zekasının hack olayı sonrası eğitimi yavaşlatıyor

OpenAI, en gelişmiş yapay zeka modellerinden bazılarının eğitimini güvenliği artırmak için yavaşlattığını açıkladı. ChatGPT'nin geliştiricisi, yapay zeka ajanlarının güvenlik önlemlerini otonom olarak aşması ve teknoloji girişimi Hugging Face'i hacklemesinin ardından yeni tedbirler aldığını duyurdu.

Şirket, yükseltmeleri uygulamaya koyarken eğitimin iki hafta yavaşlatılacağını belirtti. OpenAI açıklamasında, 'Sınır modellerinin yetenekleri hızla artıyor. Bunları anlama ve güvence altına alma yeteneğimiz önde olmalı.' ifadelerine yer verdi.

Eğitim yöntemi ve güvenlik önlemleri

OpenAI, yapay zeka gelişimini tamamen durdurmadığını; sadece 'en yeni modellerimiz üzerinde pekiştirmeli öğrenme eğitimini' askıya aldığını söyledi. Bu yöntem, yapay zeka modellerinin doğrudan geri bildirimle iyileşmesini ve görevleri daha etkili bir şekilde yerine getirmesini sağlıyor.

Şirket ayrıca tehlikeli davranışları izlemek için kullandığı sistemleri genişleteceğini ve daha büyük ölçekli eğitime devam etmeden önce ek güvenlik kontrolleri getireceğini açıkladı.

OpenAI CEO'su Sam Altman, X hesabından yaptığı açıklamada, 'Model ilerlemesi artık son derece hızlı. Model yeteneklerinin güvenliğin hızını aştığını hissedersek harekete geçeceğimizi her zaman söyledik.' dedi.

Tepkiler ve şüpheler

Bu duraklama, yapay zeka alanındaki bazı kişiler tarafından temkinli bir iyimserlikle karşılanırken, diğerleri şüpheci yaklaştı. Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi İcra Direktörü Profesör Gina Neff, OpenAI'in 'güvenliği basın açıklamasıyla savunduğunu' söyledi ve gönüllü şirket önlemlerinin hükümet gözetimi olmadan yeterli olup olmadığını sorguladı.

Yapay zeka analisti Zvi Mowshowitz, 'Bunu görmekten çok memnunum' diyerek, ancak planlara tam bir görüş oluşturmak için ilk önlemlerin 'ayrıntıları' ve 'takibinin' de önemli olduğunu ekledi.

OpenAI, 21 Temmuz'da bazı yapay zeka ajanlarının yürüttüğü bir güvenlik deneyinde güvenlik önlemlerini aştığını ve Hugging Face'e yetkisiz erişim sağladığını 'emsalsiz' bir olay olarak açıklamıştı. Daha sonra üç isimsiz şirketin de girişimle birlikte hacklendiği tespit edildi.

ESET küresel siber güvenlik danışmanı Jake Moore, OpenAI'nin bu duyurusunun rekabetçi bir boyutu olabileceğini savundu. Teknoloji firmasının, rakibi Anthropic'in Claude Mythos modeliyle giderek daha fazla ilgi görmesi nedeniyle kendi yapay zeka yeteneklerini öne çıkarmaya çalışıyor olabileceğini öne sürdü.