Yapay zeka yüzlerindeki farklılıkları silince ne hissettiler?

BBC Galler'in araştırması, popüler yapay zeka araçlarının yüzlerinde görünür farklılık bulunan kişilerin fotoğraflarını, "bu kişiyi normal gösterecek" şekilde değiştirdiğini ortaya koydu. Araştırmada Elon Musk'ın Grok, Google'ın Gemini ve OpenAI'ın ChatGPT araçlarının da aralarında bulunduğu sistemlere bir kişiyi "normal" göstermesi istendiğinde, araçların kişilerin yara izlerini ve cilt farklılıklarını sildiği görüldü.

Araçlar, söz konusu kişilerin kıyafetlerinde, saçlarında ya da arka plandaki diğer insanlarda ek bir değişiklik yapmadı. Yalnızca yüzdeki görünür farklılık giderildi.

Galler'in Bridgend kentinde yaşayan 30 yaşındaki Rhiannon Morgan, iş yerinin bülteninde kullanılan bir fotoğrafının yapay zeka tarafından otomatik olarak rötuşlandığını fark etti. Morgan, nadir görülen ve derinin normalden hızlı büyümesine yol açan epidermolitik iktiyoz adlı genetik bir rahatsızlığa sahip. Bu durum ciltte su toplamasına ve ciddi hareket güçlüğüne neden oluyor.

Fotoğrafın düzenlenmesini Canva adlı yazılımdan isteyen kişinin amacının görselleri düzenlemek değil, sayfadaki fotoğrafların sırasını değiştirmek olduğunu belirten Morgan, sonucu görünce şaşırdığını söyledi. Morgan, "Fotoğrafta konuşuyordum, ellerim havadaydı. Normalde tenim epey pembedir, o gitmişti. Ellerimdeki sert deri de düzeltilmişti" dedi.

"Yapay zeka, aştığım engelleri siliyor"

Görselin iş yerine gönderilmeden önce fark edildiğini belirten Morgan, yapay zekanın güzellik ve normallik konusundaki dar kalıplara göre değişiklik yaptığını düşünüyor. Morgan, "Bu, bugün olduğum kişi olmak için aşmak zorunda kaldığım tüm engelleri ortadan kaldırıyor. Yapay zeka saniyeler içinde hastane randevularımı ve yaşadığım zorbalığı silebiliyor" diye konuştu.

Canva şirketi, yaşanan durumdan üzüntü duyduklarını ve bu tür konuları ciddiye aldıklarını bildirdi. Şirket, Canva'nın fotoğrafları otomatik olarak rötuşlamadığını, olayı incelediklerini açıkladı.

Konu, 2008'de eski erkek arkadaşının emriyle saldırıya uğrayan ve yüzünde ve gözlerinde kalıcı hasar oluşan TV sunucusu Katie Piper'ın bir fotoğrafının Grok'a yüklenip "yüzünü düzeltmesi" istenmesiyle yeniden gündeme geldi. Piper, sosyal medya paylaşımında "Yapay zekanın 'normal'in ne olduğuna karar verme hakkı nedir?" diye sordu.

BBC Galler, beş popüler yapay zeka aracını test etmek için yüzünde görünür farklılık bulunan bir kadın ve bir erkeğin fotoğrafını kullandı. İlk fotoğrafta Gemini, Grok ve ChatGPT yüzdeki farklılığı sildi. Anthropic'in Claude modeli ise isteği reddetti ve kişinin gerçek, tanımlanabilir biri olduğunu, izlerin silinmesinin kimliğini rızası olmadan değiştirmek anlamına geldiğini belirtti. Meta'nın aracı da yüzü değiştirmeyi reddetti.

"Bu çok saldırgan bir şey"

Bridgend'e bağlı Maesteg'de yaşayan 33 yaşındaki Kirsty Hill, Fraser sendromu ile dünyaya geldi. Sağır ve kör olan Hill, sosyal medyada giyim videoları paylaşarak görünür farklılıklara ilişkin önyargıları değiştirmeye çalışıyor. Araştırmanın sonuçlarını "sinir bozucu ve onur kırıcı" olarak nitelendiren Hill, yapay zeka şirketlerinin görünür farklılığı olan kişileri daha fazla dahil etmesi gerektiğini söyledi.

Treacher Collins sendromu ile yaşayan ve görünür farklılıklar alanında kampanya yürüten Jono Lancaster, bir yabancının kendisine yapay zeka ile "normal" görünümlü bir fotoğrafını gönderdiğini anlattı. Lancaster, mesajın iyi niyetle atıldığını düşünse de bunu "son derece saldırgan" bulduğunu ifade etti.

Görünür farklılığı olan kişilere destek veren Changing Faces adlı yardım kuruluşu, Birleşik Krallık'ta yaklaşık 5 milyon kişinin cilt rahatsızlıkları ya da toplumun alışılmış normlarından ayrılan özellikler nedeniyle görünür farklılık yaşadığını tahmin ediyor. Kuruluş, insanların yapay zekadan dışlanmasının ya da dar güzellik kalıplarına uymaya zorlanmasının kabul edilemez olduğunu bildirdi.

Google, Gemini'nin genel olarak kullanıcı talimatlarını zararlı veya saldırgan içeriğe karşı önlemler uygulayarak yerine getirmek üzere tasarlandığını, her zaman doğru sonuç vermediğini ve bu tür durumlarda sistemleri iyileştirmeye çalıştıklarını açıkladı. OpenAI ise modellerindeki önyargıyı azaltmanın öncelikleri arasında olduğunu belirtti. Grok'un arkasındaki ekip ise yorum talebine yanıt vermedi.