Microsoft başkanı: Yapay zeka sütten daha az denetleniyor

Microsoft Başkanı Brad Smith, şu anda süt ve çamaşır makinelerinin yapay zekadan daha sıkı denetlendiğini söyledi. Smith, sanal ajanların yol açabileceği sorunlarda "mağdurların" bilgilendirilmesi ve yeni bir yapay zeka ürününün piyasaya çıkmadan önce bağımsız değerlendiricilerin onayından geçmesi gibi küresel güvenlik kurallarının gerekli olduğunu belirtti.

Smith, "Şu anda çamaşır makineniz yapay zekadan daha fazla güvenlik kuralına tabi" ifadelerini kullandı. Marketlerdeki her süt kutusunun güvenlik kurallarına ve denetime bağlı olduğunu hatırlattı.

Bu açıklamalar, sektörün kendi kendini düzenlemesini isteyen ve ABD'nin Çinli rakiplere karşı geride kalmaması gerektiğini belirten Başkan Donald Trump ile çelişiyor. Smith, yapay zekayı "hem bir araç hem bir silah" olarak tanımlayarak acil düzenleme ihtiyacını vurguladı.

Smith, firmaların kontrolden çıkan yapay zeka sistemini durdurabilmesi veya yavaşlatabilmesi için sektörde "öldürme anahtarı" olarak bilinen acil frenlere ihtiyaç duyduğunu söyledi. Ayrıca şirketlerin "olay raporu" yazması ve teknoloji kontrolden çıktığında mağdurları bilgilendirmesi için yasal yükümlülük getirilmesi gerektiğini ifade etti. Başka bir öneride bulundu: bağımsız devlet değerlendiricileri, yeni yapay zeka teknolojisini incelemeli.

Smith, "Bunun diğer ürünler için nasıl yapıldığını biliyoruz" dedi. "Bu bilgiyi yapay zekaya uygulamayı düşünmeliyiz."

Smith: Bu kuralları yazacak ülke Britanya

Smith, eski başbakan Rishi Sunak döneminde AI Safety Institute adıyla kurulan ve şimdi yapay zeka güvenlik enstitüsüne (AI Security Institute) dönüşen kurum nedeniyle Birleşik Krallık'ın bu küresel kuralları ileriye taşımak için en uygun ülke olduğunu söyledi.

"Teknoloji dünyasında tanıdığım çoğu kişiye bu teknik yetenekte lider ülkeyi sorsanız, yanıtları çok basit olur: Birleşik Krallık. Onlar en iyisi" dedi.

Smith'in görüşleri, ABD'nin yapay zekada tam hız ilerlemesi gerektiğini savunan Başkan Trump'ın tutumundan farklı. Trump, "yapay zekayı kim kazanırsa dünyayı kazanır" sözünü tekrarlamış durumda.

Ancak Smith, ABD yönetiminin Britanya liderliğindeki düzenlemelere Trump'ın söylemlerinin gösterdiğinden daha açık olabileceğini düşünüyor. "Washington DC'de insanlar Britanya'ya ve Londra'ya Brüksel'e baktıkları gibi bakmıyor; bu bir güç" dedi.

Smith, "İnsan kontrolünden kaçan yapay zeka ajanlarına, dünyanın siber güvenliğini riske atacak kadar güçlü modellere baktığınızda, şunu söylerdim: Zaman geldi" dedi. "Sakin, belki yumuşak ama kararlı konuşalım ve insanları bir araya getirmeye başlayalım."

Geçen ayın sonunda Trump, Beyaz Saray'da OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google yöneticilerini ağırlamış; şirketler yapay zeka sistemlerinin amaçlandığı gibi çalışıp çalışmadığını bağımsız denetçilere inceleteceklerini ve sistemlerin "istenmeyen şekillerde teknik sistemlere sızmayacağını" taahhüt eden ahlaki açıdan bağlayıcı bir belge imzalamıştı.

Smith, bu açıklamayı memnuniyetle karşıladıklarını ve Microsoft'un belgeyi imzalamaktan mutlu olduğunu söyledi. Ancak "artık yeterli olmadığını" ekledi. Öz düzenleme rejimlerinin sorununun, iyi şirketlerin isteneni yapması ama sorumsuz şirketlerin endişe yaratması olduğunu belirtti.