AI are de obicei vocea unei femei. De la primul Siri la actualul Alexa, inclusiv GPS: asistenții virtuali au adoptat în mod tradițional voci feminine în mod implicit. Nu este o coincidență, există motive psihologice pentru aceasta. Pentru a înțelege această dinamică, un grup de cercetători elvețieni a analizat modul în care influențează genul unui agent virtual.
Participarea
Industria tehnologiei a dat prioritate vocilor feminine până când acestea au devenit practic norma. Această decizie este susținută de prejudecăți cognitive moștenite de la o societate sexistă: studiile comportamentale susțin asocierea dintre vocea feminină și funcțiile de asistență, primire sau atenție publicului.
Une IA pe care o percepem ca fiind feminină îi atribuim de obicei bunătate, empatie și capacitatea de a ne calma. Prin urmare, vocea implicită a acestor instrumente este de obicei cea a unei femei: avem percepția că este mai ușor să comunicați cu ele în acest fel. Și opusul se întâmplă cu femeile de sex masculin: părtinirile cognitive indică o mai mare autoritate și fermitate.
Testul
O echipă de cercetători de la mai multe universități europene, inclusiv Universitatea din Limerick și Universitatea din Zurich, a testat aceste părtiniri într-un experiment profesional intitulat „Aspect uman și masculin? Modul în care designul asistenților AI influențează încrederea și recompensele financiare în munca în realitate virtuală.' Pentru a face acest lucru, au echipat 189 de participanți cu ochelari de realitate virtuală.
Studiul a testat patru asistenți diferiți: un chatbot text, un robot desktop și doi agenți asemănătoare oamenilor, pe nume Johan și Johanna. Fiecare participant a interacționat cu trei dintre ei: chatbot-ul, robotul și unul dintre cele două avatare umane. Toți au folosit același model, GPT-4 de la OpenAI.
Aceeași muncă, recompensă diferită
La sfârșitul testelor, participanții au trebuit să evalueze contribuția fiecărui IA la muncă și să le atribuie o recompensă financiară. Ar putea să-i dea până la patru franci elvețieni și să păstreze banii rămași. Rezultatele, rezumate, au fost:
Asistenții asemănătoare oamenilor au generat mai multă încredere și au primit recompense mai mari decât robotul, în ciuda faptului că mulți participanți au spus că preferă o IA care nu arată ca o persoană. Toate instrumentele AI au folosit același model OpenAI.
Prejudecățile sunt, de asemenea, antrenate
Lipsa diversității în industria tehnologiei intensifică diferențele de gen. Potrivit date UNESCO, femeile ocupă doar 20% din posturile tehnice și reprezintă 12% dintre cei care cercetează inteligența artificială. Modelele de limbaj ajung să reproducă această dinamică în timpul formarea lor.
Un raport UNESCO arată că modelele mari de limbaj reproduc stereotipurile de gen, atât în generarea de text, cât și în imagini. Alte cercetări privind generarea de videoclipuri au identificat, de asemenea, stereotipuri între anumite profesii și genul lucrătorilor lor.
AI moștenește prejudecățile noastre
Experimentul ne lasă cu o lecție incomodă: avem mai multă încredere în AI, cu cât ea pare mai umană, dar ajungem să-i transferăm și prejudecățile pe care le aplicăm oamenilor. Johan și Johanna împărtășeau tehnologia și aceleași sarcini. Cu toate acestea, participanții nu i-au tratat la fel. Deși studiul nu permite ca diferența să fie atribuită exclusiv genului, arată că aspectul unei IA poate influența modul în care prețuim munca sa.
Prin | jeuxvideo.com
Imagine de copertă | Generat și adaptat de AI
În investigația noastră tehnică | Cele mai bune inteligențe artificiale pentru studenți: instrumente gratuite și ceea ce face fiecare