Anthropic yapay zekasına kötü davranan kullanıcıları yasaklayacak

Yapay zeka şirketi Anthropic, Claude adlı yapay zeka modellerine yönelik "sürekli ve gereksiz" hakaret içeren davranışları kullanım politikasında yasaklanan davranışlar listesine ekledi. Şirket, bu değişikliği perşembe günü duyurdu.

Anthropic'in açıklamasına göre, kullanıcıların yapay zekaya "zalimce" davrandığı durumlarda araçlar etkileşimi sonlandırabilecek. Şirket, daha önce de "nadir" vakalarda bu yola başvurduğunu belirtti. Yeni politika, başkalarına zorbalık yapmak, kendine zarar vermeyi teşvik etmek ve rıza dışı mahrem görüntü oluşturmak gibi hâlihazırda yasak olan davranışlarla aynı listede yer alacak.

Şirket, politikanın yalnızca tekrarlanan kötü muamelenin "aşırı vakalarında" uygulanacağını, "kullanıcıların yaygın hayal kırıklığı, itiraz, karanlık yaratıcı temalar veya model testi ve araştırması" durumlarını kapsamayacağını bildirdi. Buna karşın Anthropic'in hangi davranışları "istismar veya zulüm" olarak değerlendireceği netleşmedi.

Sosyal medyada tartışma yarattı

Yeni politikanın ekran görüntüleri sosyal medyada geniş biçimde paylaşıldı. Bazı kullanıcılar kararı görgü kurallarını ve "model refahını" ilerletici bir adım olarak değerlendirirken, bazıları eleştirdi. Bir kullanıcı politikayı "son derece yanlış" olarak nitelendirdi; bir başkası ise bunun insanlara ve hayvanlara yönelik istismarı görece hafifletebileceğini öne sürdü.

İrlandalı hukuk firması William Fry'da teknoloji ortağı olan Dr. Barry Scannell, LinkedIn üzerinden yaptığı paylaşımda "Sayılara ve matematiğe zalimce davranamazsınız" ifadesini kullandı. Scannell, "Yapay zekanın bu düzeyde insanileştirilmesi zararlıdır. İnsanları bunun aslında olmadığı bir şey olduğuna inandırıyor" değerlendirmesinde bulundu.

Geçen eylül ayında rakip firma Anthropic'i yapay zekayı insan gibi ele almakla eleştiren Microsoft yapay zeka direktörü Mustafa Suleyman da değişikliğe eriyen yüz emojisiyle tepki verdi.

Değişiklikler, teknoloji sitesi The Verge'in ilk kez haberleştirmesinin ardından şirketin kullanım politikasının yıllık gözden geçirmesi sonucunda yapıldı. Politika ayrıca Claude'un "aldatıcı kampanyalar" için kullanılmasını yasaklayacak ve ABD ara seçimleri yaklaşırken "seçmenleri aldatmak veya seçimleri bozmak" amacıyla kullanılamayacağını netleştirecek şekilde güncellendi. Anthropic, politikasının daha önce araçlarının silah geliştirmek için kullanılmasını da engellediğini belirtti.

Yapay zekaya nezaket tartışması

Değişiklikler, üretken yapay zeka araçları kullanılırken kısa ve buyurgan bir dil mi yoksa kibar bir üslup mu benimsenmesi gerektiği tartışmasını yeniden alevlendirdi. Bazı uzmanlar ChatGPT gibi araçlara "lütfen" veya "teşekkür ederim" yazmanın gereksiz olduğunu ve üretken yapay zekayı çalıştıran büyük dil modellerinin mesajları işlemek için kullandığı "token"ları harcadığını savunuyor. Bazıları ise nezaketin daha kaliteli yanıtlara yol açabileceğini belirtiyor.

OpenAI yöneticisi Sam Altman, geçen yıl bir X kullanıcısının ChatGPT'nin "lütfen" ve "teşekkür ederim" mesajlarına yanıt vermesinin elektrik maliyetine ilişkin sorusu üzerine, bunun "onlarca milyon dolara değer harcama" olduğunu söylemişti.

Collins Sözlüğü ise geçen kasım ayında yapay zeka araçlarını küçümsemek için kullanılan "clanker" teriminin yeniden ortaya çıktığına dikkat çekmişti. 2000'li yılların ortasından bu yana Star Wars oyunları ve filmlerindeki robotları tanımlamak için kullanılan terim, geçen temmuz ayında birçok kişinin yapay zeka destekli makinelere ilişkin hayal kırıklıklarını TikTok'ta paylaşmasının ardından 2025'in ruh halini yansıtan kelimeler listesine girmişti.