Sainsbury’s, un supermarket din Anglia, a suspendat utilizarea inteligenței artificiale (IA) pentru recunoașterea facială după ce un client a fost acuzat pe nedrept de hoție, potrivit BBC.

Matt Arnold, în vârstă de 46 de ani, a descris întreaga experiență drept o „privire terifiantă a viitorului”. El a avertizat că tehnologia de supraveghere a comerțului cu amănuntul riscă să umilească clienții. Potrivit acestuia, personalul se va simți obligat să urmeze alerte automate fără a aplica logica umană.

Supermarketul a declarat că și-a cerut scuze față de Arnold și a susținut că greșeala a fost „cauzată de o eroare umană”, dar criticii au cerut eliminarea tehnologiei.

Un client a fost acuzat pe nedrept de hoție într-un supermarket din Anglia

Incidentul a avut loc pe 6 august. Arnold aștepta la o casă self service ca un membru al personalului să aprobe o achiziție de alcool. După ce și-a scanat deja produsele alături de cardul său de fidelitate Nectar, el a spus că i-a făcut semn unui angajat să vină.

Imediat a fost abordat de doi membri ai conducerii și i s-a spus că nu poate fi servit din cauza unui incident „petrecut la începutul săptămânii”.

„Au venit și mi-au spus că trebuie să plec. Membrul personalului a spus că am fost identificat de inteligența artificială. Mi-au zis că camerele m-au semnalat”, a declarat el pentru BBC Londra.

„Un hoț din magazine nu se plimbă cu atâtea cumpărături, nu le scanează, nu își introduce cardul Nectar. Dar ceea ce m-a supărat a fost gândul că ăsta ar putea fi viitorul. Oamenii ascultă pur și simplu ce le spune aparatul să facă fără să se gândească la consecințe”, a precizat Matt Arnold.

În timp ce era escortat în afara sediului, el s-a uitat pe un monitor CCTV și a văzut un cerc roșu în jurul feței sale.

Sediul central Sainsbury’s l-a contactat pe Arnold a doua zi pentru a-și cere scuze. Supermarketul a susținut că incidentul a fost cauzat de o „eroare umană” și nu de o defecțiune a software-ului.

Nu este prima dată când un sistem de recunoaștere facială Sainsbury’s – furnizat de firma de tehnologie Facewatch – a dus la interceptarea unui cumpărător nevinovat.

În septembrie, Warren Rajah a fost obligat să părăsească o sucursală din Elephant and Castle după ce a fost semnalat în mod eronat de același software Facewatch. Firma de securitate a confirmat ulterior că nici măcar nu era în sistemul său. Acest incident a fost, de asemenea, atribuit „erorii umane” de către Sainsbury’s.

Recunoașterea facială pe baza inteligenței artificiale dă rateuri

Arnold a spus că experiența sa l-a făcut să creadă că personalul se chinuia să opereze sistemul într-un mediu aglomerat al magazinelor.

„Chiar dacă ceea ce mi s-a întâmplat a fost oribil, îmi pare rău pentru personal. Se vor întâmpla greșeli. Nu sunt pregătiți pentru a implementa corect inteligența artificială”, a spus el.

Un purtător de cuvânt al Sainsbury’s a confirmat că tehnologia a fost suspendată la magazinul Dulwich din sud-estul Londrei în timp ce are loc o anchetă. Totuși, a apărat implementarea pe scară largă a sistemului invocând escaladarea infracțiunilor.

„L-am contactat pe domnul Arnold pentru a ne cere scuze pentru experiența sa la hipermarketul nostru din Dulwich. Incidentul a fost cauzat de o eroare umană, nu de tehnologia de recunoaștere facială. Clienții pot fi liniștiți că sistemul Facewatch are o rată de precizie de 99,98%. Fiecare potrivire este revizuită de un manager instruit”, a transmis respectivul supermarket din Anglia.

Un purtător de cuvânt al Facewatch a mai spus că tehnologia lor „nu a fost de vină” în acest caz.