Sainsbury's yüz tanıma kameralarını yanlış alarm sonrası geçici durdurdu

İngiltere'de faaliyet gösteren zincir market Sainsbury's, Londra'nın güneydoğusundaki East Dulwich şubesinde yüz tanıma kameralarını geçici olarak askıya aldı. Karar, 46 yaşındaki bir müşterinin yapay zeka destekli kameralar tarafından yanlışlıkla hırsız olarak işaretlenmesi ve mağazadan çıkarılmasının ardından geldi.

Olay, 6 Ağustos'ta yaşandı. Komedi organizatörü Matt Arnold, East Dulwich'teki mağazada alışveriş yaparken self-servis kasada yönetim tarafından durduruldu ve mağazayı terk etmesi istendi. Arnold, durumu 'geleceğin dehşet verici bir önizlemesi' olarak nitelendirirken, perakendede kullanılan gözetim teknolojilerinin müşterileri aşağılayabileceği ve çalışanların insan mantığını kullanmadan otomatik uyarılara uymak zorunda kalabileceği uyarısında bulundu.

Sainsbury's, Arnold'tan özür dilediğini ve hatanın 'insan hatasından' kaynaklandığını açıkladı. Ancak eleştirmenler teknolojinin tamamen kaldırılması çağrısında bulunuyor.

Mağazadan çıkarılma anı

Olay günü Arnold, dulwich Hamlet Futbol Kulübü'nde düzenlenecek stand-up etkinliği için alışveriş yapıyordu. Alkol satın alımının onaylanması için görevliyi beklerken, iki yönetici yanına geldi ve 'hafta başında yaşanan bir olay' nedeniyle kendisine hizmet verilemeyeceğini söyledi. Arnold, görevlilerden birinin 'yapay zeka tarafından tanımlandığını ve kameraların kendisini işaretlediğini' belirttiğini aktardı. Mağazadan çıkarılırken, tavan kamerasındaki monitörde yüzünün etrafında kırmızı bir daire olduğunu gördüğünü de sözlerine ekledi.

Arnold, yaşadıklarının gelecekteki bir tehlikeye işaret ettiğini savundu: 'Bir hırsız elinde bu kadar çok alışverişle dolaşmaz, ürünleri kasadan geçirmez ve sadakat kartını kullanmaz. Beni asıl üzen, insanların makinenin söylediklerini düşünmeden dinlediği bir geleceğin mümkün olduğunu görmek.'

Yanlış tanıma vakaları artıyor

Bu, Sainsbury's'in Facewatch adlı teknoloji firmasıyla kullandığı yüz tanıma sisteminin masum bir müşteriyi haksız yere şüpheli göstermesiyle ilgili ilk vaka değil. Eylül ayında Warren Rajah adlı bir müşteri de Elephant and Castle şubesinde yanlış alarmla karşılaşmış, Facewatch firması daha sonra Rajah'ın sistemlerinde kayıtlı bile olmadığını doğrulamıştı. Facewatch'ın benzer yanlış alarmlarının diğer perakendecilerle olan uygulamalarında da görüldüğü bildiriliyor.

Sainsbury's sözcüsü, teknolojinin East Dulwich şubesinde inceleme süresince askıya alındığını ancak sistemin yaygınlaştırılmasını savunduklarını belirtti. Sözcü, Facewatch sisteminin yüzde 99,98 doğruluk oranına sahip olduğunu ve her eşleşmenin eğitimli bir yönetici tarafından doğrulandığını söyledi. Facewatch da hatanın kendi yazılımlarından kaynaklanmadığını, doğru alarmın mağazadaki müdahalede insan hatasıyla karıştırıldığını açıkladı.

Sainsbury's, perakende çalışanlarına yönelik şiddet olaylarını gerekçe göstererek sistemin gerekliliğine vurgu yapıyor. British Retail Consortium verilerine göre ülkede mağaza çalışanlarına yönelik günlük şiddet ve taciz vakaları 1.600'e ulaşırken, 2020'de bu sayı 455'ti. Sainsbury's, sistemin deneme sürecinde hırsızlık ve anti-sosyal davranış olaylarında yüzde 46 düşüş olduğunu ve suçluların yüzde 90'ının bu mağazalara geri dönmediğini bildirdi.

Sivil haklar örgütü Big Brother Watch'ın direktörü Silkie Carlo ise teknolojinin tamamen kaldırılmasını isteyerek 'bu tür ciddi hataların, ulusal bir perakendecinin yüz binlerce kimlik doğrulamasını ayrım gözetmeksizin yapması durumunda kaçınılmaz olduğunu' ifade etti. Arnold, Sainsbury's'in kendisine verdiği 150 sterlinlik hediye çekini yerel bir gıda bankasına bağışladı. Teknolojinin neden sadece kendi şubesinde değil de tüm mağazalarda askıya alınmadığını sorguladı.