Inteligență Artificială & LLM

Algoritmi de recunoaștere facială și părtinire rasială: majoritatea au probleme în identificarea non-caucazieni

Algoritmi de recunoaștere facială și părtinire rasială: majoritatea au probleme în identificarea non-caucazieni

Conform unui studiu publicat de Institutul Național de Standarde și Tehnologie (NIDT), o agenție guvernamentală din SUA, algoritmii de recunoaștere facială au destul de multe probleme când vine vorba de recunoașterea afro-americanilor și asiaticilor. Studiul a analizat 189 de algoritmi de la 99 de dezvoltatori (Microsoft, Intel și SenseTime, printre mulți alții) și concluziile sunt că mai este loc de îmbunătățire când vine vorba de prejudecățile rasiale.

După cum explică Patrick Grother, autorul principal al studiului (PDF), „deși este, în general, incorect să facem afirmații prin algoritmi, am găsit dovezi empirice ale existenței celor mai diferențiale demografice ale faciale. algoritmi pe care i-am studiat”. O diferență, ca să o punem în context, apare atunci când capacitatea unui algoritm de a lega două imagini ale aceleiași persoane variază de la un grup demografic la altul.

Multe mai multe rezultate false pozitive la afro-americani și asiatici

Recunoașterea facială 2

Studiul ia în considerare performanța algoritmilor de recunoaștere facială în două sarcini. Primul, un test unu-la-unu, care constă în confirmarea faptului că o fotografie se potrivește cu o altă fotografie diferită a aceleiași persoane din aceeași bază de date. Acesta, de exemplu, este folosit pentru a verifica un pașaport sau pentru a debloca un smartphone cu recunoaștere facială 2D. Al doilea test, „unu-la-mulți”, constă în a determina dacă persoana dintr-o fotografie are o potrivire într-o bază de date, utilă, de exemplu, pentru identificarea unei persoane în căutare și capturare.

Din ce în ce mai multe școli folosesc recunoașterea facială pentru a preveni împușcăturile... o utilizare care este extinsă ulterior pentru a monitoriza elevii
Din ce în ce mai multe școli folosesc recunoașterea facială pentru a preveni împușcăturile... folosiți-o apoi pentru a monitoriza elevii

Cercetătorii explică că, pentru a evalua performanța algoritmilor, au fost măsurați doi parametri: negative false și pozitive false. Un fals negativ apare atunci când software-ul nu reușește să se potrivească două fotografii care arată aceeași persoană. Între timp, un fals pozitiv apare atunci când software-ul consideră că două fotografii în care apar persoane diferite arată aceeași persoană.

Testul a fost efectuat cu patru baze de date foto cu 18,27 milioane de imagini cu 8,49 milioane de persoane, toate provenind de la Departamentul de Stat, Departamentul pentru Securitate Internă și FBI. Aceștia precizează că „echipa nu a folosit nicio imagine obținută direct din surse de pe Internet precum rețelele sociale sau supravegherea video”. Fiecare imagine a fost etichetată cu vârsta, sexul și rasa sau țara de naștere a persoanei fotografiate.

Facial Recognition 3

Care au fost rezultatele? Principala este că potrivirea unu-la-unu are rate mai mari de faze pozitive pentru fețele asiatice și afro-americane în comparație cu fețele caucaziene. Cât mai exact? Un factor de zece până la o sută de ori, în funcție de algoritm. Cercetătorii subliniază că „falsele pozitive pot prezenta o problemă de securitate pentru proprietarul sistemului, deoarece pot permite accesul impostorilor”.

În ceea ce privește algoritmii dezvoltați în Statele Unite, aceștia au prezentat rate similare de fals pozitive la indivizii asiatici, afro-americani și nativi, cum ar fi indienii americani sau indienii din Alaska. Contrastă cu algoritmii dezvoltați în țările asiatice, care nu prezentau „o diferență atât de dramatică în fals pozitive în potrivirea unu-la-unu a fețelor asiatice și caucaziene”. Deși studiul nu abordează relația cauză-efect a acestui fapt, ei cred că motivul poate fi că au fost instruiți cu date mai diverse.

Algoritmii dezvoltați în Asia au o rată de eroare mai mică la identificarea persoanelor caucaziene și asiatice

În ceea ce privește potrivirea „unu-la-mulți”, femeile afro-americane au avut cele mai mari rate de fals pozitive. Cercetătorii susțin că diferențele de fals pozitive „sunt deosebit de importante, deoarece consecințele ar putea include acuzații false”. De asemenea, ei subliniază că în acest test a fost folosită o bază de date FBI cu 1,6 milioane de fotografii.

Studiul concluzionează că diferiți algoritmi funcționează diferit, chiar dacă fac practic același lucru și că cei mai corecti algoritmi sunt printre cei mai precisi. Iar algoritmii, dacă sunt antrenați cu imagini părtinitoare, vor eșua atunci când oamenii sunt părtinși de rasă sau sex. Este o dezbatere deschisă și care nu este prima dată când apare.

Mai multe informații | NIST

Partajează acest dosar: