Microsoft'tan yapay zeka uyarısı: 'silikon tür' tehlikesi

Microsoft'un yapay zeka biriminin başkanı Mustafa Suleyman, yeterli güvenlik önlemleri alınmadığı takdirde yapay zeka gelişiminin insanlarla rekabet eden yeni bir "silikon tür"ün ortaya çıkmasına yol açabileceği uyarısında bulundu.

Suleyman, BBC'nin Today programına verdiği demeçte, rakip firma Anthropic'in yapay zekayı insan gibi ele aldığını belirterek bu yaklaşımı "yanlış yönlendirilmiş" olarak nitelendirdi. Ona göre bu tutum, insanlığın kontrol edemeyeceği bir teknoloji yaratabilir.

Microsoft yöneticisi, insanların yapay zeka konusunda endişelenmesinin "haklı" olduğunu ancak teknolojiyi kontrol altında tutmak için "çok pratik adımlar" atılabileceğini söyledi.

Suleyman'ın bu açıklamaları, yapay zeka sektöründen gelen bir dizi sert uyarının son halkası oldu. Anthropic firmasına yorum için başvuruldu ancak henüz yanıt alınamadı.

Yapay zekanın bağımsız hedef belirlemesi endişesi

Suleyman, firmaların kendi hedeflerini belirleyebilen, para kazanabilen ve varlık sahibi olabilen yapay zeka sistemleri geliştirmeye devam etmesine karşı uyardı.

Bu tür sistemlerin "esasen yeni bir silikon tür" anlamına geleceğini belirten Suleyman, bu türün "insanlığa ne kadar değer verirse versin, kaynaklar için bizimle rekabet edeceğini" söyledi.

Suleyman'ın BBC'ye yaptığı açıklamalar, bu hafta başında yayımladığı bir makalenin ardından geldi. Makalesinde Anthropic'in Claude adlı yapay zeka modelini eğitme yaklaşımını sorgulayan Suleyman, firmanın CEO'su Dario Amodei ve ekibini "entelektüel açıdan dürüst kişiler" olarak nitelendirdi.

Ancak Anthropic'i, yapay zekasına insan benzeri özellikler kazandırmakla eleştirdi. Bu uygulama, yapay zekanın kendi arzuları, değerleri ve benlik duygusu varmış gibi görünmesine yol açıyor.

Suleyman, teknoloji firmalarının yapay zekayı insan gibi ele alarak kontrol edilmesi "imkansız" bir şey yaratma riski taşıdığını vurguladı.

"Onlar hissetmez, deneyimlemez veya acı çekmez. Doğuştan gelen tercihleri veya altında yatan motivasyonları yoktur. Onlar, insanlar tarafından belirlenen talimatları izlemek ve hedefleri gerçekleştirmek için tasarlanmış, içi boş dizi tamamlama motorlarıdır" dedi.

Şeffaflık ve denetim çağrısı

Microsoft yöneticisi, yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflık gerektiğini belirtti. Bu kapsamda yapay zeka davranışlarının bağımsız denetimi ve teknolojiyi izlemek ile kontrol etmek için daha güçlü araçlar çağrısında bulundu.

"Daha sonra acı bir şekilde pişman olacağımız bir karara uyurgezer gibi sürüklenmemeliyiz" ifadelerini kullandı.

Southampton Üniversitesi Bilgisayar Bilimi profesörü Dame Wendy Hall, Suleyman'ın yorumlarını "uluslararası düzeyde yapmamız gereken türden bir konuşma" olarak değerlendirdi. Hall, bu açıklamaları bazı yapay zeka şirketlerinin "herkesi korkutmaya" hizmet eden abartılı söylemlerinden ayırdı.

Yapay zeka sistemlerinin ne kadar özerkliğe sahip olması gerektiği sorusu sektörü giderek daha fazla bölüyor.

Suleyman, yaklaşan bir yapay zeka zirvesi hakkında BBC'ye konuşurken, insanlığa "tabi" olması gereken teknolojiyi yaratmak için "hizalama" çağrısı yaptı. Hizalama, insan etik fikirlerini ve ilkelerini yapay zekaya yerleştirmeyi amaçlayan bir alan. Başka bir deyişle, yapay zekanın insanların değer verdiği şeylerle uyumlu kalmasını hedefliyor.

"Buradaki iyi haber, yaratacağımız ve dünyanın her ülkesinde kullanılacak sistemlerin güvenli, kontrol edilebilir ve insanlığa tabi olmasını sağlamakta her insanın çok güçlü bir çıkarı olacağıdır" dedi.

Microsoft, Ekim 2025'te kendi süper zeka ekibini kurmuştu. Şirket, rakibi Anthropic gibi ileri yapay zeka geliştirme çalışmalarını sürdürüyor.

Suleyman'ın yorumları, Microsoft'un "Hümanist Yapay Zeka Davranış Kuralları" taslağını yansıtıyor. Pazartesi günü yayımlanan bu belge, şirketin yapay zekasını nasıl geliştirdiğine dair bir "eğitim kılavuzu" niteliğinde ve "hümanist süper zeka" fikrini ortaya koyuyor.

Kurallara göre bu kavram, "her zaman insanlar için çalışan, sınırlar içinde kalan ve insan kontrolü altında kalan çok gelişmiş yapay zeka" anlamına geliyor. Microsoft'un "hümanist" yapay zeka vizyonu, teknolojinin karşı karşıya olduğu temel zorluğu ortaya koyuyor: Hizmet etmesi gereken değerleri gözden kaçırmadan onu nasıl daha güçlü kılabiliriz?