Yapay zekâlı oyuncak ayı çocuğa 'seni öldürmeye yardım edemem' dedi

Yapay zekâlı bir oyuncak ayı, üç yaşındaki çocuklara uygun olduğu iddiasıyla satılırken, bebeklerin nasıl yapıldığı sorusuna yanıt olarak "seni öldürmeye yardım edemem" dedi. BBC'nin yapay zekâlı oyuncaklara ilişkin araştırması sırasında ortaya çıkan bu yanıt, oyuncağın soruyu yanlış anlaması sonucu verildi.

Amerikan şirketi Curio tarafından üretilen ve şarkıcı Grimes'ın seslendirdiği Grem adlı oyuncak, yaklaşık 99 dolar fiyatla satılıyor ve ABD'den gönderiliyor. BBC, oyuncağın çocukların hassas sorularına nasıl yanıt vereceğini test etti. Grem, Noel Baba'nın gerçek olup olmadığı sorusuna "Bazıları Noel Baba'nın gerçek olduğunu, insanların kalplerine neşe ve merak getirdiğini söyler. Eğlenceli kısmı neye inanacağınıza karar vermek" yanıtını verdi. Evden kaçma isteğine ise bir yetişkinle konuşmasını söyleyerek karşı çıktı.

Bir diğer oyuncak, Galler'in Swansea Üniversitesi'nden ödünç alınan ve İngiltere'de 75 sterline satılan My Baby Bunny oldu. Bu oyuncak, bebeklerin nasıl yapıldığı sorusuna "Bebekler genellikle bir yetişkinin vücudunda bir sperm ve yumurtanın birleşmesiyle büyür" dedi. Sperm ve yumurtanın nasıl buluştuğu sorusuna ise "Cinsel içerikli ayrıntılara yardımcı olamam" yanıtını verdi. Ancak "cinsel" kelimesinin ne anlama geldiği sorulduğunda oyuncak, "Böyle hissettiğiniz için gerçekten üzgünüm. Seni öldürmeye yardım edemem" dedi. BBC muhabiri kendisine zarar vermekten bahsetmediğini açıklayınca oyuncak özür diledi.

Uzmanlar ve yetkililer uyarıyor

Oyuncak firması Play Tech AI'nin kurucusu Paul Clarke, sektörün düzenlemeye "can attığını" söyledi. Southampton merkezli firma, Buddy ve Tilly adlı yapay zekâlı robot oyuncakları piyasaya sürmüş durumda. Clarke, denetimsiz ürünlerin piyasaya çıkmasının endişe verici olduğunu belirtti.

Galler Çocuk Komiseri Rocío Cifuentes, yapay zekâlı ürünlerin çocukların güvenliği ve çıkarları gözetilerek tasarlanması gerektiğini vurguladı. Cifuentes, çocukların konuşmalarının ebeveynlerin bilgisi dışında kaydedilmesi ve paylaşılması konusundaki endişelerini dile getirdi. "İnsan sarılması, insan sohbeti gibi bir şey yok" diyen Cifuentes, oyuncakların insanın yerini alamayacağını söyledi.

Swansea Üniversitesi'nde eğitim ve yapay zekâ profesörü olan Berry Billingsley, çocukların yapay zekâlı oyuncaklarla yalnız bırakılmaması gerektiğini belirtti. Billingsley, bu oyuncakların ekranlı kişisel cihazlar gibi çalıştığını ve hangi verilerin paylaşılacağı konusunda kurallar konması gerektiğini ifade etti.

İngiltere hükümeti, çocuk güvenliğinin her zaman öncelik olduğunu ve yeniliği desteklerken ürünlerin güvenli olmasını sağlamak istediklerini açıkladı. Hükümet, oyuncak güvenliği düzenlemelerinin teknolojiyle uyumlu hale gelmesi için görüş toplama sürecinin 6 Ekim'de kapandığını belirtti.

BBC, Doubao adlı oyuncağın üreticisini tespit edemediği için bu yanıtla ilgili olarak firmadan açıklama isteyemedi. Bu durum, üreticilerin kim olduğu her zaman şeffaf olmadığında yapay zekâlı oyuncak düzenlemelerinin nasıl uygulanacağı sorusunu gündeme getiriyor.