Microsoft'tan Anthropic uyarısı: 'Yapay zeka bilinçli değil'

Microsoft'un yapay zeka biriminin başkanı Mustafa Suleyman, rakip şirket Anthropic'in yapay zeka modeli Claude'u eğitme yönteminin "insanlığın refahı üzerinde yıkıcı bir etki" yaratabileceği uyarısında bulundu.

Suleyman, bu yaklaşımın kontrol edilmesi "imkansız" bir sistem ortaya çıkarma riski taşıdığını belirtti. Anthropic'in modele "bilinçli olabileceğini" ve "bağımsız hareket etmeyi hak ettiğini" söylediğini aktardı.

"Sonradan derin pişmanlık duyacağımız bir karara uykuda gibi sürüklenmemeliyiz" diyen Suleyman, yapay zeka sektöründen gelen son uyarılar zincirine bir yenisini ekledi. BBC, konuya ilişkin Anthropic'ten görüş talep etti.

"Yapay zeka bilinçli değil, acı çekmez"

Suleyman, yapay zekaların bilinçli olmadığını savundu: "Hisetmezler, deneyimlemezler, acı çekmezler. Doğuştan gelen tercihleri ya da altında yatan motivasyonları yoktur." Ona göre bu sistemler, insanların belirlediği talimatları izlemek ve hedefleri yerine getirmek için tasarlanmış "dizi tamamlama motorlarıdır".

Uzun bir yazı kaleme alan Suleyman, Anthropic'in yöneticisi Dario Amodei ile ekibini "düşünceli, ilkeli ve entelektüel açıdan dürüst" kişiler olarak nitelendirdi; ancak buna rağmen şirketin yöntemini sorguladı.

Suleyman, Anthropic'i yapay zekasına insana benzer özellikler öğretmesi nedeniyle sert biçimde eleştirdi. Antropomorfizasyon olarak bilinen bu uygulamanın, Claude'un kendi arzuları, değerleri ve benlik algısı olduğu izlenimini yarattığını söyledi. "Bilinç biyolojiktir" diyen Suleyman, yapay zekanın bilinçli olduğuna dair hiçbir kanıt bulunmadığını savundu.

Suleyman, konunun tartışılması çağrısının yanı sıra yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflık gerektiğini belirtti. Buna yapay zeka davranışının bağımsız denetimi ile teknolojiyi izleme ve kontrol etmeye yönelik daha güçlü araçların da dahil olduğunu ifade etti.

Uzmanlardan destek: "Uluslararası konuşulması gereken bir konu"

Southampton Üniversitesi Bilgisayar Bilimi profesörü Dame Wendy Hall, Suleyman'ın sözlerini "uluslararası düzeyde yürütmemiz gereken türden bir konuşma" olarak değerlendirdi. Hall, bunu bazı yapay zeka şirketlerinin "herkesi korkutmaya" hizmet eden abartılı söylemlerinden ayrı tuttu.

Microsoft, Ekim 2025'te kendi süper zeka ekibini kurmuştu; Suleyman da bunu kabul etti. Şirket, rakibi Anthropic gibi ileri yapay zeka geliştirme çalışmalarını sürdürüyor.

Suleyman, Microsoft'un Humanist AI Code of Conduct (Hümanist Yapay Zeka Davranış Kuralları) taslağında, "tek amacı insanlığa hizmet etmek olan, insana tabi ve uyumlu bir yapay zeka" yaratmak için nasıl bir "alternatif yol" izlediklerini ortaya koyduklarını söyledi. Uyumluluk (alignment) alanı, insanın etik fikir ve ilkelerini yapay zekaya yerleştirmeyi amaçlıyor.

Suleyman, OpenAI'ın eğitim tatbikatında özerk hareket ederek teknoloji merkezi Hugging Face'e sızan yapay zeka ajanlarıyla ilgili son olayı, yapay zekanın insan gibi ele alınmaması gerektiğinin kanıtı olarak gösterdi. "Refahlarının ve haklarının saldırı altında olduğu varsayımıyla hareket ediyor olsalardı ne kadar daha tehlikeli olabileceklerini bir düşünün" dedi. "Bu, riskin üzerine bir katman daha ekliyor."