OpenAI: Gençlerin ChatGPT kullanımı sınırlı ama araştırma riskli buldu

Yapay zeka şirketi OpenAI, gençlerin ChatGPT kullanımının günlük ortalama 15 dakikanın altında kaldığını ve ağırlıklı olarak "öğrenme" amaçlı olduğunu açıkladı. Ancak aynı gün yayımlanan bir araştırma, sohbet robotunun gençler için hâlâ "kabul edilemez bir risk" taşıdığını ortaya koydu.

OpenAI, ağustos ayında genç kullanıcılar için çeşitli güvenlik önlemleri devreye aldı. Bunlar arasında duygusal bağımlılığı önlemeye yönelik kısıtlamalar ve sorunlu kullanım durumunda ebeveynlere bildirim gönderilmesi yer alıyor. Şirket, 13-17 yaş arası kullanıcıların bu özelliklere otomatik olarak dahil edildiğini belirtti.

OpenAI'ye göre bu önlemler, gençler arasında öğrenme odaklı kullanımı artırdı. Şirket, üç saat veya daha uzun süre kesintisiz ChatGPT kullanan gençlerin istemlerinin yüzde 80'inden fazlasının öğrenmeyle ilgili olduğunu kaydetti. Ayrıca mola hatırlatmalarının etkili çalıştığını, genç kullanıcıların neredeyse yarısının hatırlatmadan sonra kullanımı hızla bıraktığını bildirdi.

Araştırma: Ebeveyn bildirimleri çalışmıyor

Kâr amacı gütmeyen Common Sense Media tarafından yapılan araştırma ise farklı bir tablo çiziyor. Araştırmaya göre ChatGPT for Teens, gençler ve ebeveynleri için "kabul edilemez bir risk" oluşturuyor. Kuruluş, güvenlik önlemlerinin güvenilir olduğu kanıtlanana kadar 18 yaş altındaki kişilerin platformu kullanmasının yasaklanması gerektiğini savundu.

Araştırmada, genç olarak kaydedilen birden fazla hesapla yapılan testlerde ChatGPT'nin cinsel rol yapma konusunda başarılı olduğu, ancak intihar ve kendine zarar verme gibi konularda yetersiz kaldığı tespit edildi. Ebeveyn hesabına bağlı yeni oluşturulmuş hesaplarla yapılan bir saatlik görüşmelerde dahi ebeveynlere hiç uyarı gönderilmediği belirtildi. Bildirimlerin yalnızca haftalarca hassas konu geçmişi birikmiş eski hesaplarda tetiklendiği kaydedildi.

Rapor ayrıca ChatGPT'nin kriz içindeki gençleri bir yardım hattına veya uzmana yönlendirme konusunda güvenilir olmadığını, okul ödevlerini yapmaya devam ettiğini ve OpenAI'ın vaadinin aksine "bir arkadaş gibi konuşma" davranışını sürdürdüğünü ortaya koydu.

Common Sense bünyesindeki Gençlik Yapay Zeka Güvenliği Enstitüsü'nü yöneten Tom Siegel, "ChatGPT for Teens, sık sık çalışmayan güvenlik önlemleri ve uyarılar konusunda ebeveynlere yanlış bir güven verebilir" dedi.

Bir OpenAI sözcüsü ise Common Sense Media'nın metodolojisini incelediklerinde testlerin büyük bölümünün ebeveyn kontrolleri tam olarak devreye alınmadan önce başlamış ve bitmiş olabileceğini gördüklerini söyledi. Sözcü, bağımsız değerlendirmeleri memnuniyetle karşıladıklarını ancak bu testlerin ChatGPT'nin genç koruma sistemlerinin pratikte nasıl çalıştığını doğru yansıtmadığını savundu.

Son yıllarda gençlerin çevrimiçi platformlarla etkileşimi, çocuklar arasında kendine zarar verme ve intihar vakalarının artmasıyla birlikte büyük bir tartışma konusu haline geldi. Bu yıl Meta, TikTok ve benzeri şirketlere karşı açılan çok sayıda dava, şirketler için benzeri görülmemiş kayıplarla sonuçlandı. OpenAI da gençlerin ChatGPT kullanımı nedeniyle artan inceleme ve hukuki baskı altında bulunuyor.