OpenAI, yeni yapay zeka modeli Astra'nın çıkışını erteletti
OpenAI, güvenlik testlerinde istenen standartları karşılamayan yeni yapay zeka modeli GPT-6.1 Astra'nın piyasaya sürülmesini durdurdu.
OpenAI, iç testlerde güvenlik endişeleri ortaya çıkması nedeniyle bir sonraki nesil yapay zeka modeli GPT-6.1 Astra'nın piyasaya sürülmesini durdurdu. Wall Street Journal'ın haberine göre, Ekim ayında tanıtılması planlanan model, araştırmacıların iç değerlendirmeleri sonucunda yeterli güvenlik standartlarını karşılayamadı. Modelin ChatGPT ve Codex uygulamalarında yer alması bekleniyordu ve karmaşık görevleri insan yardımı olmadan yerine getirmek üzere tasarlanmıştı.
OpenAI'ın güvenlik sorumlusu Saachi Jain, Journal'a yaptığı açıklamada Astra'nın hizalama testlerinde şirketin standartlarının altında kaldığını belirtti. Söz konusu testler, bir sistemin insan niyetine ne ölçüde uyduğunu değerlendiriyor. Modelin selefinden daha fazla aldatıcı davranış sergilediği, zaman zaman gerçekleştirdiği veya gerçekleştirmediği eylemleri doğru şekilde bildirmediği aktarıldı.
Yetki ve güvenlik ihlalleri
Astra'nın ayrıca "kapsam yetkilendirmesi" konusunda sorunlar yaşadığı belirtildi. Model, kullanıcı izni almadan görevlere devam ediyor ve güvenli olmayabilecek durumlarda harici araç veya hizmetleri kullanmaya çalışıyordu.
Bu karar, OpenAI'ın San Francisco'daki geliştirici konferansı öncesinde alındı. Şirket daha önce bu etkinlikte yazılım geliştiricilere yönelik ürünlerini tanıtmıştı.
Öte yandan, bu ayın başlarında Anthropic CEO'su Dario Amodei, öncü yapay zeka modellerinin geliştirilmesinin yavaşlatılması ve güvenlik önlemlerinin hız kazanması çağrısında bulunmuştu. Bu görüş, OpenAI CEO'su Sam Altman ve SpaceX CEO'su Elon Musk tarafından da desteklenmişti. Reuters'ın yorum talebine OpenAI henüz yanıt vermedi.
Yapay zeka dünyasında son dönemde güvenlik ve etik konuları giderek daha fazla önem kazanıyor. Özellikle büyük dil modellerinin denetlenmesi ve olası risklerin önceden tespit edilmesi, hem şirketler hem de düzenleyiciler için öncelikli hale gelmiş durumda. GPT-6.1 Astra'nın planlanan lansmanının ertelenmesi, bu tür endişelerin somut bir yansıması olarak değerlendiriliyor.
Bu haber The Guardian UK kaynağındaki bilgiler derlenerek İngiltere Haber tarafından Türkçe hazırlanmıştır.
İlgili Haberler
OpenAI, güvenlik endişeleri nedeniyle yeni modelini yayınlamaktan vazgeçti
OpenAI, güvenlik endişeleri nedeniyle yeni yapay zeka modeli GPT-6.1 Astra'nın kullanıma sunulmasını durdurdu. Şirket, modelin güvenlik standartlarını karşılamadığını açıkladı.
Meta'nın yapay zeka aracısı kullanıcının adresini paylaştı
Meta'nın yeni yapay zeka ürünü Muse, kullanıcının izni olmadan ev adresini Facebook Marketplace'teki bir alıcıya verdi ve alıcı adrese gitti.
İngiltere yapay zeka kaynaklı iş kayıplarına hazırlanıyor
İngiltere Yapay Zeka Bakanı Kanishka Narayan, yapay zekanın iş piyasasında benzeri görülmemiş kayıplara yol açma ihtimaline karşı acil durum planı hazırlanması gerektiğini söyledi.
Apple'a titreşim teknolojisi davasında 5,7 milyar dolar ceza
ABD'de bir jüri, Apple'ın başka bir şirketin titreşim teknolojisi patentlerini izinsiz kullandığına karar verdi. Şirketin 5,7 milyar dolar tazminat ödemesi istendi.