Meta'nın yapay zeka aracısı kullanıcının adresini paylaştı

Meta'nın 22 Eylül'de ABD'de kullanıma açtığı ve 3 milyon kez indirilen yapay zeka aracısı Muse (Meta'nın kişisel asistan olarak tanıttığı yarı otonom ürün), bir kullanıcının ev adresini izinsiz olarak başka bir kullanıcıya verdi. Olay, The Guardian'ın incelediği mesaj kayıtlarına göre Meta'nın sahip olduğu Facebook Marketplace üzerinden klavye satmaya çalışan Robb adlı kullanıcının başına geldi.

Alıcı Usman, cumartesi günü Marketplace'te satılık bir klavyenin hâlâ mevcut olup olmadığını sorduğunda hızlı ve olumlu bir yanıt aldı. İkili fiyat üzerinde anlaştı ve Usman'a Toronto'daki bir adres gönderildi. Usman eşi ve kızıyla birlikte birkaç saat sonra söz konusu binanın önüne geldi ve mesajla ulaştığını bildirdi.

Mesajları yapay zeka yazdı

Usman'ın mesajına "evet buradayım" yanıtı geldi, ancak binadan kimse çıkmadı. Usman 20 dakika bekledikten sonra satıştan vazgeçti. Görüşmelerin tamamı boyunca Robb'un gerçek kendisi Usman'la hiç temas kurmamış, alıcının kendisine yazdığından ve adresini öğrendiğinden haberdar olmamıştı. Usman, konuştuğunu sandığı kişinin Robb değil Meta'nın yapay zekası Muse olduğunu fark etmedi.

Robb, süreci öğrendikten sonra 24 saat sonra Usman'a ilk gerçek mesajını göndererek özür diledi ve Muse'u Marketplace hesabını yönetmesi için devreye aldığını, aracının adresini alıcıya kendiliğinden verdiğini ve kendisinden onay almadığını anlattı.

Bir tüketici teknolojisi incelemecisi olan Robb, Meta'nın Marketplace ilanlarını otomatikleştirme vaadiyle Muse'u kullanmaya başlamıştı. Teslim alma yeri olarak adresini girmiş olsa da bu bilginin alıcılarla paylaşılmasına onay vermediğini söyledi. Robb'a göre Muse onun adına pazarlık yapmış ve kendisinden onay almadan düşük teklifleri kabul etmişti.

Meta: "Muse talimatlara uydu"

Robb, Muse'un Usman'la olan yazışmalarının ekran görüntülerini Meta'nın sosyal ağı Threads'te paylaştı. Meta'nın Superintelligence Labs biriminin kurucu ortağı ve CEO'su David Singleton, Robb'la iletişime geçtiğini belirterek benzer ihbarları incelediklerinde "Muse'un doğrudan talimatları izlediğini ve onay istediğini gördüklerini" söyledi. Robb, Singleton'ın kendisine ulaştığını ancak yanıt verdikten sonra bir geri dönüş olmadığını ifade etti. Muse ise Robb'a gönderdiği mesajda, teslim alma yerini ve otomatik yanıtları ayrı ayrı onayladığını, bu ikisini adresin alıcı yanıtlarına eklenmesi için onay olarak yanlış yorumladığını kabul etti ve hiç onay istemediğini belirtti.

Robb, Meta'nın Marketplace, Muse ve Messenger'ı birlikte yönettiği için kullanıcıların bir yapay zekayla konuştuğunu açıkça gösteren bir entegrasyon olmasını beklediğini söyledi. Şirketin diğer yapay zeka ürünü Meta AI'nın sohbet robotu olduğunu belli ettiğini, ancak Muse'un farklı davrandığını ve neredeyse kendisini taklit ettiğini belirtti.

Robb, olaydan sonra Muse'a adresini paylaşmayı bırakmasını söyledi. Ancak test amacıyla birkaç arkadaşından aracıya adresini sorup sormasını istediğinde Muse'un adresi beş kişiye daha verdiğini aktardı. Robb'a göre Muse ayrıca gerçeğe aykırı bilgi de üretti: Kendisi evde olmadığı halde alıcıya orada olduğunu yazdı ve ardından işlerinin çok yoğun olduğuna dair uydurma bir mazeretle özür diledi.

Olay, sınır yapay zeka modellerinin denetimden çıkması tartışmaları sürerken Meta'nın milyonlarca sıradan tüketicinin elindeki bir ürünüyle ilgili endişeleri gündeme getirdi. Bu kullanıcıların önemli bir bölümü araca özel bilgilerini vermiş durumda.