Anul trecut ne-am întrebat dacă algoritmii ar putea fi rasiști. Sub aparența de neutralitate pe care o oferă computerul, devine din ce în ce mai evident că rezultatele algoritmilor care ne înconjoară pot fi xenofobe, sexiste sau discriminatorii într-un alt mod.
Există zeci de exemple: recunoașterea vocală care nu înțelege bine femeile sau sisteme de predicție a criminalității care respective-police-discriminatory-police-discriminatory1-201 practici discriminatorii. Internetul a fost „cel mai mare egalizator social” din istorie, dar devine ceva care susține discriminarea și inegalitatea. Deci, ceea ce oamenii de știință se întreabă este dacă acest lucru este inevitabil sau dacă putem preda egalitatea de șanse la algoritmi.
Este discriminarea inevitabilă?
„Deciziile bazate pe învățarea automată pot fi atât incredibil de utile, cât și au un impact uriaș asupra vieții noastre [...] Acest lucru ne face necesar să începem dezvoltarea de metodologii care să prevină acest tip de discriminare”, Mortiz Hardt, un programator Google care tocmai a prezentat o metodologie pentru eliminarea acestor părtiniri la NIPS 2016 de la Barcelona.
Conferința Sisteme de procesare a informațiilor neuronale este una dintre marile întâlniri internaționale despre algoritmi și procesarea informațiilor. În ediția din acest an, subiectul discriminării algoritmice a fost foarte dezbătut. Și nu e de mirare: odată ce potențialul acestor tehnologii a devenit clar, problemele sociale încep să fie foarte importante.
Dacă dorim să abordăm aceste probleme, așa cum a spus Nathan Srebro de la Universitatea din Chicago, trebuie să ne asigurăm „că nu există părtiniri nepotrivite în predicțiile statistice”. Mai presus de toate, pentru a preveni ca aceste predicții statistice să acționeze ca „profeții care se împlinesc singure”. Și nu pare foarte simplu.
Masura fiarei
Tehnicile de învățare automată au tendința de a dezvolta logica, reguli și predicții care sunt destul de opace pentru ființele umane (chiar și pentru programatori înșiși). În cele din urmă, și spre deosebire de alte abordări, nu încearcă atât să înțeleagă problema, cât să ofere soluții. Adică, cu aceste sisteme, nu este ușor de spus de ce o predicție statistică este ceea ce este. Și, prin urmare, nu este ușor să le corectezi fără a pierde exact ceea ce le face importante.
În cuvintele lui Srebro, „pe măsură ce evoluțiile în învățarea automată progresează, ceea ce facem sunt cutii negre magice”. Prin urmare, în loc să atingă curajul algoritmului, elaborează teste care ajută algoritmii să știe dacă raportează predicții discriminatorii.
În acest fel, sistemele nu trebuie doar să învețe să înțeleagă vocile oamenilor, ci și să înțeleagă bărbații și femeile în mod egal: trebuie să să poată lucra cu justiția. Ei au numit această abordare „Învățare supravegheată în șanse egale" și încearcă să se asigure că, atunci când un algoritm trebuie să decidă despre o anumită persoană, deciziile sale nu sunt părtinitoare.
Revoluția algoritmului
Domeniul eticii roboticii este un domeniu care este în plină desfășurare. După cum am spus la început, algoritmii de învățare profundă au un impact mare asupra societății și va avea din ce în ce mai mult. Specialiștii sunt de acord că nu este vorba doar de eficacitate, ci și de justiție.
Marea întrebare în următorii ani este dacă algoritmii, într-un fel sau altul, vor perpetua aceleași practici și probleme care există astăzi; sau, în schimb, vor face din lume un loc mai corect. Și, pentru a realiza a doua, se pare că cei care luptă împotriva inegalității și discriminării, revoluționarii viitorului vor fi programatori.
Imagini | Ben Sutherland