Sainsbury's, hatalı yüz tarama sonrası mağazada AI uygulamasını durdurdu

Sainsbury's, Londra'nın güneydoğusundaki East Dulwich mağazasında bir müşterinin yanlışlıkla hırsız olarak tanımlanıp mağazadan çıkarılmasının ardından yapay zeka destekli yüz tarama sisteminin kullanımını geçici olarak durdurdu.

46 yaşındaki komedi organizatörü Matt Arnold, Dulwich Hamlet futbol kulübündeki bir stand-up etkinliği için malzeme alırken, ürünleri ve Nectar kartını okuttuktan sonra iki yönetici tarafından yaklaşıldığını ve daha önceki bir olay nedeniyle kendisine hizmet verilemeyeceğinin söylendiğini anlattı. Arnold, "Utandım, mahcup oldum ve kendimi güçsüz hissettim" dedi. Mağazadan çıkarılmak istenirken, "Onlara kendim yürüyerek çıkacağımı söyledim ve onurumu korumaya kararlıydım" diye ekledi.

Mağazadan ayrılırken, yüzünün etrafında kırmızı bir daire bulunan üstten CCTV uyarısını gördü. Alışverişini arabada bırakmasını istedi ve bir arkadaşının gelip alacağını söyledi. Arkadaşı Dave yaklaşık beş dakika sonra gelip ödemeyi yaptı. Arnold, personelin bu davranışı bir hırsız gibi görmediğini anlamadığını, sadece makinenin emirlerini körü körüne takip ettiğini belirtti.

Şirketten özür ve açıklama

Sainsbury's merkezi ertesi gün Arnold'dan özür diledi ve soruşturma sürerken mağazada Facewatch teknolojisini askıya aldı. Ancak Arnold, teknolojinin tüm mağazalarda durdurulması gerektiğini savunuyor: "Herkes yanlış suçlanabilir ve bir noktada bu, kaygı gibi ruh sağlığı sorunları olan savunmasız biri olacak." Ayrıca gençlerin veya kendini savunamayacak kişilerin bu durumdan özgüven kaybı yaşayabileceğinden endişeli.

Sainsbury's sözcüsü, "Bay Arnold ile temasa geçtik ve özür diledik. Olay, yüz tanıma teknolojisinden değil, insan hatasından kaynaklandı. Facewatch sistemi yüzde 99,98 doğruluk oranına sahiptir ve her eşleşme eğitimli bir yönetici tarafından incelenir" dedi. Facewatch sözcüsü de teknolojinin kusurlu olmadığını, perakendeciye doğru uyarı gönderildiğini ancak mağazada insan hatası yapıldığını söyledi. Mağazadaki uygulamanın askıya alınması, personel ek eğitim alırken başka uyarıları önlemek için "ihtiyati tedbir" olarak açıklandı.

Sainsbury's, uyarıların personel cihazlarında bir saate kadar görünür kaldığını ve tüm yanlış tanımlamaları kaydettiğini belirtti. Bu, şirketin daha önce Eylül 2025'te Elephant and Castle'da Warren Rajah adlı bir müşterinin aynı yazılım tarafından yanlış tanımlanmasının ardından yaşanan tartışmaların devamı niteliğinde.