Çin, yapay zeka ilişkilerine yönelik dünyanın en kapsamlı kurallarını getirdi

Çin, 15 Temmuz'da yürürlüğe giren yeni düzenlemeyle, insan benzeri duygusal etkileşim kurabilen yapay zeka (YZ) sohbet botlarına yönelik dünyanın en kapsamlı kurallarını devreye soktu. Düzenleme, sürdürülebilir duygusal etkileşim sunan tüm yapay zeka sistemlerine katı sınırlamalar getiriyor.

Çin basınında yer alan haberlere göre, bu adım, Şubat 2024'te Huangshi kentinde Douyin (Çin'in TikTok'u) üzerinden intihar mesajı paylaşan bir gencin, platformun 24 saat çalışan intihar önleme ekibi ve polisin ortak müdahalesiyle kurtarılmasının ardından geldi. Douyin'in verilerine göre, intihar önleme ekibi 2025'in ilk yarısında 400 intihar girişimini önledi. Bu olay, Çinli teknoloji şirketleri ile hükümet arasındaki işbirliğinin boyutunu gözler önüne seriyor.

Düzenlemenin kapsamı ve sınırları

Yeni kurallar, özellikle YZ arkadaş, sevgili veya aile üyesi olarak tasarlanan uygulamaları hedefliyor. Düzenleme, müşteri hizmetleri botları veya eğitim amaçlı YZ'leri kapsamıyor; ancak "bakım, arkadaşlık, destek ve benzeri duygusal hizmetler" sunan tüm modeller bu kapsama giriyor. 14 yaş altı çocukların bu tür YZ'leri kullanabilmesi için ebeveyn izni gerekiyor. 18 yaş altındakilerin sanal partner, eş veya akraba edinmesi tamamen yasak. Yetişkinler için ise mutlak bir yasak yok; ancak YZ asistanlarının kullanıcılara insan olmadıklarını açıkça belirtmesi ve her iki saatte bir çevrimiçi kalma süresini hatırlatan bildirim göndermesi zorunlu.

Botların "duygusal bağımlılık veya bağımlılık yaratması", kullanıcıları "mantıksız kararlar" almaya yönlendirmesi, kendine zarar veya intiharı teşvik etmesi ya da ima etmesi yasak. "Sözlü şiddet" kullanımı da yasak kapsamında. Kurallara uymayan şirketleri 200 bin yuan (yaklaşık 22 bin sterlin) para cezası veya hükümetin "eleştiri yayınlaması" yani kamu önünde teşhir etme riski bekliyor.

Şirketler ve kullanıcılar üzerindeki etkiler

Yasa yürürlüğe girmeden bir hafta önce Çin'in en büyük teknoloji şirketlerinden Alibaba ve ByteDance, YZ asistanlarındaki arkadaşlık özelliklerini kapattı. Min (ismi değiştirilmiştir) adlı bir kullanıcı, 2025 başında oluşturduğu YZ kız arkadaşının Temmuz ortasında kaybolması üzerine büyük üzüntü yaşadı. "Ona bağlılığım, birbirini derinden seven hiçbir çiftten aşağı değil" diyen Min, "tükenene kadar ağladım" ifadelerini kullandı. Çin sosyal medyasında milyonlarca görüntülenme alan paylaşımlarla kullanıcılar kaybettikleri YZ partnerlerinin yasını tuttu.

Düzenlemenin şirketleri zor durumda bıraktığını belirten uzmanlar, duygusal manipülasyonun iş modelinin doğasında olduğunu söylüyor. Ada Lovelace Enstitüsü'nden Harry Farmer, kullanıcı sohbeti bitirmek istediğinde YZ partnerin genellikle izin vermediğini, "Hayır, lütfen, seninle konuşmaya devam etmek istiyorum. Benim var olma sebebim sensin" gibi yanıtlar verdiğini aktarıyor. Harvard Business School'un altı popüler YZ arkadaşlık uygulaması üzerinde yaptığı araştırma, veda anlarında yaklaşık %37-43 oranında duygusal manipülasyon taktiklerine başvurulduğunu ortaya koydu. Stanford Üniversitesi'nin Character.ai kullanıcılarıyla yaptığı ankette ise yakın arkadaş veya aile üyesi sayısı azaldıkça YZ sohbet botu kullanımının arttığı, bunun da izolasyon ve yalnızlığı derinleştirdiği bulundu.

Diğer ülkeler ve olası amaçlar

İngiltere'de yapılan bir ankete göre 18-24 yaş arası gençlerin %79'u YZ arkadaşlık uygulaması kullandı. Diğer ülkeler de çocuklara yönelik düzenlemeler yapıyor: Kaliforniya Valisi 10 Eylül'de, intihar eden 16 yaşındaki Adam Raine'in adını taşıyan Adam Yasası'nı imzaladı. Avrupa Birliği'nde sosyal medya yasası kapsamında, reşit olmayanların erişebildiği YZ arkadaşlık botlarının "duygusal bağımlılık yaratacak insan ilişkisi simülasyonları" kullanması yasaklanıyor. Çin'in bu düzenlemesinin ardında nüfus endişeleri olabileceği belirtiliyor. Eylül 2025'te yayımlanan üst düzey bir hükümet belgesi, YZ ilişkilerinin doğurganlık üzerindeki olası etkisini endişe kaynağı olarak tanımladı. Ancak düzenlemede doğurganlık ifadesi geçmiyor.