Inteligență Artificială & LLM

Pot algoritmii să fie rasiști?

Pot algoritmii să fie rasiști?

Întrebarea, recunosc, poate fi oarecum ciudată. Există puține lucruri în această lume mai fiabile, mai neutre și mai puțin „părtinitoare” decât un algoritm bun. Să ne gândim că un computer poate fi rasist, sexist sau un fan al lui Joss Whedon ne poate părea ridicol.

Și, totuși, cercetările recente de la Harvard și Georgetown întoarce peste cap tot ceea ce credeam despre internet ca fiind „cel mai mare egalizator social din istorie. Ce se întâmplă dacă rezultatele pe care ni le-au oferit motoarele de căutare ar fi xenofobe, sexiste sau părtinitoare ideologic fără ca noi să știm?

Latanya Sweeney este profesor de științe politice și tehnologie la Harvard University. Într-o zi, în biroul său de la universitate, și-a căutat numele pe Google pentru a căuta un articol pe care îl scrisese cu câțiva ani în urmă. În imaginea următoare puteți vedea ce a găsit:

Capturaracismoinformatico

A fost surprinzător pentru că profesorul Sweeney nu fusese niciodată arestat. Atunci de ce a returnat Google acele anunțuri atunci când a căutat numele tău? După ce am făcut câteva cercetări și am încercat câteva nume, a apărut o ipoteză puțin ciudată: ce se întâmplă dacă rezultatele ar varia în funcție de dacă ai un nume „negru” sau nu?

Părea ridicol. La urma urmei, un algoritm este un algoritm. Ce este mai obiectiv decât un algoritm? Cum ar putea un algoritm să fie rasist? Din păcate, după cercetări în Statele Unite, Sweeney a descoperit că, de fapt, cu cât era mai probabil ca un nume să aparțină unei persoane de culoare, cu atât era mai probabil să fie legat de arestări sau caziere judiciare (chiar dacă acele reclame nu au dus mai târziu la înregistrări reale). Într-adevăr, calculatoarele erau rasiste.

Cum este posibil acest lucru?

Înainte de a deveni curioși, trebuie să recunoaștem că, chiar dacă nu ne-am gândit niciodată la asta, este normal. Așa cum Alvaro Bedoya, de la Centrul pentru Confidențialitate și Tehnologie, spune orice proces de discriminare și de autodiscriminare a algoritmului polarizări care apar acolo unde se lucrează: dacă există inegalități de gen la selectarea personalului, algoritmul va învăța din acele inegalități și se va adapta la ele.

Așadar, răspunsul, mai degrabă decât linii lungi de comenzi, pare să fie că algoritmii, mașinile și computerele trăiesc în lumea reală, interacționează cu ea și învață din ea: inteligența artificială (învățarea automată) a fost aceasta.

Acest lucru face problema mult mai complexă. Matematicianul Cathy O'Neil a avertizat că, deși algoritmii au un mare potențial de a îmbunătăți lumea, ei ne pot muta în direcția opusă. De fapt, deseori lucrurile făcute cu cele mai bune intenții merg foarte prost.

Ne confruntăm cu o versiune ciudată a problema filtrului, dar la scară socială: ca în alea pisicilor, internetul ne oferă o versiune a noastră care este atât reală, cât și deformată.

Cum se rezolvă acest lucru?

9515167717 79f571672c K

Confruntați cu posibilitatea ca aparenta neutralitate a datelor mari și a algoritmilor să mascheze sub un strat de lac situații sociale nedrepte și încălcări ale libertăților civile, Sweeney și Bedoya propun trei strategii fundamentale pentru a realiza:

  • Consolidați societatea civilă prin îmbunătățirea cunoștințelor tehnologice ale experților juridici și încurajând implicarea socială a experților în tehnologie. Avem nevoie de mai mulți ingineri care participă la dezbaterile politice și de mai mulți politicieni familiarizați cu algoritmii și big data.

  • Apărarea „transparenței algoritmice”. Trebuie să se asigure că algoritmii care sprijină sistemele de bază ale coeziunii sociale, cum ar fi educația, sănătatea sau justiția, sunt deschiși și transparenți.

  • Protecția socială a datelor personale. Nu numai că legile și reglementările rămân cu mult în urma tehnologiei atunci când vine vorba de protejarea datelor cu caracter personal, ci și că, în multe cazuri, regulile care sunt dezvoltate ex novo nu sunt eficiente.

Pe măsură ce promisiunea noii tehnologii devine realitate și adjectivul „nou” devine din ce în ce mai învechit și lipsit de sens, descoperim că acest lucru a fost grav. După cum a spus faimosul filosof social Benjamin Parker, „cu o mare putere vine o mare responsabilitate”. Iar dezbaterile care vor veni vor fi cheie pentru a ști ce responsabilitate suntem dispuși să ne asumăm ca societate.

Via | Fundația Ford Imagini | raphaelstrada,

Partajează acest dosar: