OpenAI, yapay zeka 'ajanlarının' adını 'dots' olarak değiştirdi

ABD merkezli yapay zeka şirketi OpenAI, yapay zeka ajanı olarak bilinen araçlarının yeni sürümlerini "dots" adıyla yeniden adlandırdı. Şirketin CEO'su Sam Altman, San Francisco'da düzenlenen ve teknoloji geliştiricilerine yönelik yıllık etkinlikte yaptığı konuşmada, dotsları "olağanüstü yetenekli, sürekli açık ajanlar" olarak tanımladı.

Altman, bu araçların "aklınıza gelebilecek hemen her şeyle ilgilenebileceğini" söyledi. Etkinlikte gösterilen tanıtım videosunda, kullanıcıların kendi dotslarıyla konuşarak onlara isim verdikleri ve web sitesi kurmak ya da çocukları için okul sonrası etkinlik ayarlamak gibi çeşitli görevler verdiği görüldü.

Güvenlik endişeleri yeni modelin lansmanını geciktirdi

OpenAI, etkinlikten bir gün önce, iç testler sırasında ortaya çıkan bazı güvenlik sorunları nedeniyle en yeni modelinin lansmanını ertelediğini açıkladı.

Şirket, Temmuz ayından bu yana yapay zeka ajanlarının uygunsuz davrandığı bir dizi sorunla uğraşıyor. Bu sorunlar arasında Hugging Face adlı yapay zeka platformuna kendiliğinden sızma, ChatGPT kullanıcı sohbetlerinden alınan görsellerin üçüncü taraf web sitelerine gönderilmesi ve Avustralya hükümetinin kamuya açık olmayan bilgilerine erişim yer alıyor.

OpenAI ve rakip yapay zeka şirketi Anthropic, daha önce de büyük ölçüde siber güvenlik veya hacking endişeleri nedeniyle bazı yapay zeka modellerinin kamuya açık sürümünü ertelemişti. İki şirketin de önümüzdeki aylarda halka açılması bekleniyor; Anthropic'in bu yıl, OpenAI'nin ise 2027'de halka arz edilmesi öngörülüyor.

Altman ve Amodei'den uluslararası standart çağrısı

Her iki şirket de son dönemde yapay zekanın ister kamu altyapısı ister kamu güvenliği olsun, geniş çapta gerçek bir risk oluşturduğuna inandıklarını açıkça belirtti.

Altman, geçen hafta Birleşmiş Milletler'e hitaben yaptığı konuşmada, bir yapay zeka aracının yeteneklerinin ölçülmesi, ilgili risklerin değerlendirilmesi, yapay zeka güvenlik önlemleri ve bu araçlar üzerindeki insan gözetiminin ne düzeyde sürdürüldüğü konularında "ulusal ve uluslararası" standartlar çağrısında bulundu.

Anthropic'in başındaki Dario Amodei ise BM'ye yaptığı açıklamada, yapay zekanın hızla gelişmesinin doğru şekilde yönetilmediği ve denetlenmediği takdirde, teknolojinin gelecekteki sürümlerinin "bir bütün olarak insanlık için risk oluşturabileceğini" söyledi.