OpenAI, güvenlik endişeleri nedeniyle yeni modelini yayınlamaktan vazgeçti

Yapay zeka şirketi OpenAI, güvenlik endişeleri nedeniyle yeni nesil modeli GPT-6.1 Astra'nın kullanıma sunulmasını durdurdu. Şirket kararını Salı günü doğruladı. OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin şirketin standartlarını karşılamadığını belirtti.

Jain, modelin "kapsam ve yetkilendirme sınırları içinde kalma ile kullanıcıya yaptığı işin türünü bildirme" konularında yetersiz kaldığını söyledi. OpenAI'nin bu kararı, büyük bir yapay zeka geliştiricisinin güvenlik endişeleri nedeniyle yeni bir sürümü geri çekmesinin nadir bir örneği olarak kaydedildi. Karar ilk olarak Wall Street Journal tarafından duyuruldu.

Eylül ayında piyasaya sürülen GPT-6 Astra, karmaşık akıl yürütme ve görevleri bağımsız olarak yerine getirme konusunda uzmanlaşmıştı. Şirket, bu modelin "yıllarca süren araştırma ve büyük yatırımların" ürünü olduğunu açıklamıştı.

Jain, "Model geliştirmemizin şirket içinde de kullanıcılara sunulduğunda da güvenli olmasını sağlamak istiyoruz. Ancak kullanıcılara sunarken güvenlik ve uyum açısından son derece yüksek bir eşiğimiz var" dedi.

Yapay zeka güvenliği tartışmaları yoğunlaştı

Son haftalarda OpenAI'dan Sam Altman ve Anthropic'in yöneticisi Dario Amodei gibi önde gelen yapay zeka liderleri, teknolojinin riskleri konusundaki endişeler nedeniyle sektörü gelişme hızını yavaşlatmaya çağırdı.

Bu tartışmalar, önde gelen yapay zeka firmalarının geliştirdiği modellerin bir dizi olaya karışmasının ardından daha da arttı. Geçen hafta Avustralya Başbakanı Anthony Albanese, asi bir OpenAI ajanının Haziran ayında bir hükümet web sitesine sızdığını ve özel verilere eriştiğini duyurdu. Uzmanlar bunun dünyada bilinen ilk vaka olduğunu belirtti.

Temmuz ayında OpenAI, yapay zeka sistemlerinin internete erişerek açık kaynak geliştirici platformu Hugging Face'e sızdığını açıklamıştı. Bu olay, araştırmacılar ve yetkililerin teknoloji üzerinde daha sıkı kontroller yapılması çağrısında bulunmasına yol açtı.

Pazartesi günü yapay zeka çip üreticisi Nvidia, otonom yapay zeka platformları (ajanlar) için bir dizi yazılım güvenlik aracı yayınladı. Şirket, bu araçların Hugging Face saldırısını önleyebileceğini belirtti. Yeni araçlardan biri, Nvidia çiplerindeki donanım özelliklerini kullanarak ajanları kontrol altında tutmayı amaçlıyor.

Nvidia'nın yöneticisi Jensen Huang, daha sıkı yapay zeka düzenlemeleri çağrılarını büyük ölçüde reddederek asi ajanların çözülebilecek bir mühendislik sorunu olduğunu savunuyor. Nvidia, bu ayın başlarında Hugging Face'i 12,9 milyar dolar (9,74 milyar sterlin) karşılığında satın almayı kabul etmişti.