Sainsbury's yapay zeka yuz tanima sistemini askiya aldi

Londra'daki bir Sainsbury's subesi, yapay zeka destekli yuz tanima teknolojisini geçici olarak durdurdu. Bir musteri, sistemin kendisini hirsiz olarak yanlis isaretlemesi uzerine magazadan cikarildi.

46 yasindaki Matt Arnold, East Dulwich'teki magazadan alisveris yaptigi sirada self-checkout kasasinda yonetim tarafindan durduruldu ve 'hafta basinda yasanan bir olay' nedeniyle magazadan ayrilmasi istendi.

Arnold, deneyimi 'gelecegin urkutucu bir onizlemesi' olarak tanimladi ve perakende gozetim teknolojisinin musterileri asagilama riski tasidigini ve calisanlarin insan mantigini uygulamadan otomatik uyarilari takip etmek zorunda kaldigi bir sistem yarattigini soyledi.

Sainsbury's, Arnold'dan ozur diledi ve hatanin 'insan hatasindan' kaynaklandigini acikladi. Ancak elestirmenler teknolojinin tamamen kaldirilmasi cagrisinda bulunuyor.

Olay, 6 Agustos'ta yasandi. Arnold, yan taraftaki Dulwich Hamlet Futbol Kulubu'nde duzenlenen bir stand-up etkinligi icin malzeme aliyordu ve alkol satin alimi icin personelin onayini bekliyordu. Nectar sadakat kartiyla urunlerini tarattiktan sonra gorevliye el salladigini ancak iki yoneticinin kendisine yaklasip hafta icinde yasanan bir olay nedeniyle servis edilemeyecegini soyledigini anlatti.

Arnold, BBC London'a yaptigi aciklamada, 'Yapay zeka tarafindan tanimlandigim ve kameralarin beni isaretledigi soylendi. Bir hirsiz bu kadar cok alisverisle dolasmaz, urunleri taratmaz, Nectar kartini kullanmaz. Beni uzun duşunduren, insanlarin sonuclari dusunmeden makinenin soylediklerini yapmasi - gelecegin boyle olabilecegiydi' dedi.

Magazandan cikarildiktan sonra Arnold, giris kapisindan geriye baktiginda tavan kamerasinin monitorunde yuzunun etrafinda kirmizi bir daire olan bir uyari gordügünü belirtti.

Daha onceden de benzer olaylar yasandi

Sainsbury's'in Facewatch tarafindan tedarik edilen yuz tanima sistemi, masum musterilerin haksiz yere sorgulanmasina yol acan ilk olay degil. Eylul ayinda Warren Rajah, Elephant and Castle subesinde ayni yazilim tarafindan yanlis isaretlenerek magazadan cikarildi. Guvenlik firmasi daha sonra Rajah'in sistemde kayitli bile olmadigini dogruladi ve olay yine 'insan hatasi' olarak nitelendirildi.

Facewatch, Home Bargains ve B&M gibi diger perakendecilerde de benzer vakalara karismis durumda. Arnold, bu deneyimin, calisanlarin yogun magaza ortaminda sistemi kullanmakta zorlandigini gosterdigini dusundugünü belirtti: 'Bana yasanan korkunc olsa da calisanlar icin uzuluyorum; hatalar olacaktir. Yapay zekayi duzgun uygulayacak donanima sahip degiller.'

Sainsbury's sozcusu, Dulwich subesinde sorusturma surerken teknolojinin askiya alindigini dogruladi ancak sistemin genel kullanimini savundu. Sirket, perakende calisanlarina yonelik artan siddete dikkat cekerek, 'Musteriler, Facewatch sisteminin %99,98 dogruluk oranina sahip oldugundan ve her eslesmenin egitimli bir yonetici tarafindan incelendiginden emin olabilir' dedi.

Facewatch sozcusu da teknolojinin hatasiz oldugunu savunarak, 'Magazaya dogru bir uyari gonderildi ancak sonrasinda magazada insan hatasi yapildi' ifadelerini kullandi. Firma, sistemi askiya almanin, personel ek egitim alirken 'onleyici bir tedbir' oldugunu belirtti.

Sivil toplum kurulusu Big Brother Watch direktoru Silkie Carlo, Sainsbury's'in teknolojiyi kaldirmasi cagrisinda bulunarak, sirketin 'musterilere suclu gibi davrandigini' soyledi: 'Ulusal bir perakendeci bu gozetim teknolojisiyle ayrım gozetmeksizin yuz binlerce kimlik kontrolu yaptiginda bu tur ciddi hatalar kacilinmazdir.'

Arnold, Sainsbury's'in kendisine verdigi 150 sterlinlik iyi niyet kuponunu yerel bir gida bankasina bagisladi ve teknolojinin neden diger magazalarda hala aktif oldugunu sorguladi: 'East Dulwich subesinde askiya aliyorlarsa, sorun oldugunu kabul ediyorlar demektir. Neden her magazada askiya almiyorlar?'