Inteligență Artificială & LLM

Un experiment a pus doi asistenți virtuali să împărtășească creierele și sarcinile. Recompensele lor au spus o poveste diferită

Un experiment a pus doi asistenți virtuali să împărtășească creierele și sarcinile. Recompensele lor au spus o poveste diferită

AI are de obicei vocea unei femei. De la primul Siri la actualul Alexa, inclusiv GPS: asistenții virtuali au adoptat în mod tradițional voci feminine în mod implicit. Nu este o coincidență, există motive psihologice pentru aceasta. Pentru a înțelege această dinamică, un grup de cercetători elvețieni a analizat modul în care influențează genul unui agent virtual.

Participarea

Industria tehnologiei a dat prioritate vocilor feminine până când acestea au devenit practic norma. Această decizie este susținută de prejudecăți cognitive moștenite de la o societate sexistă: studiile comportamentale susțin asocierea dintre vocea feminină și funcțiile de asistență, primire sau atenție publicului.

Une IA pe care o percepem ca fiind feminină îi atribuim de obicei bunătate, empatie și capacitatea de a ne calma. Prin urmare, vocea implicită a acestor instrumente este de obicei cea a unei femei: avem percepția că este mai ușor să comunicați cu ele în acest fel. Și opusul se întâmplă cu femeile de sex masculin: părtinirile cognitive indică o mai mare autoritate și fermitate.

Stânga, Johanna; dreapta, Johan La stânga, Johanna; Corect, Johan. Imagine din Biblioteca digitală ACM

Testul

O echipă de cercetători de la mai multe universități europene, inclusiv Universitatea din Limerick și Universitatea din Zurich, a testat aceste părtiniri într-un experiment profesional intitulat „Aspect uman și masculin? Modul în care designul asistenților AI influențează încrederea și recompensele financiare în munca în realitate virtuală.' Pentru a face acest lucru, au echipat 189 de participanți cu ochelari de realitate virtuală.

Studiul a testat patru asistenți diferiți: un chatbot text, un robot desktop și doi agenți asemănătoare oamenilor, pe nume Johan și Johanna. Fiecare participant a interacționat cu trei dintre ei: chatbot-ul, robotul și unul dintre cele două avatare umane. Toți au folosit același model, GPT-4 de la OpenAI.

Aceeași muncă, recompensă diferită

La sfârșitul testelor, participanții au trebuit să evalueze contribuția fiecărui IA la muncă și să le atribuie o recompensă financiară. Ar putea să-i dea până la patru franci elvețieni și să păstreze banii rămași. Rezultatele, rezumate, au fost:

  • Subiectii studiului au apreciat contribuțiile la muncă ale IA feminină și masculină într-un mod similar, fără diferențe semnificative statistic.
  • Când a venit vorba de plată, Johanna, IA cu aspectul și vocea unei femei, Satya Nadella, CEO Microsoft: „Obiectivul nostru este să aducem inteligență gratuită în fiecare casă și fiecare desktop”
Satya Nadella, CEO Microsoft: „Scopul nostru este să aducem inteligență gratuită în fiecare casă și pe fiecare desktop”

Asistenții asemănătoare oamenilor au generat mai multă încredere și au primit recompense mai mari decât robotul, în ciuda faptului că mulți participanți au spus că preferă o IA care nu arată ca o persoană. Toate instrumentele AI au folosit același model OpenAI.

Prejudecățile sunt, de asemenea, antrenate

Lipsa diversității în industria tehnologiei intensifică diferențele de gen. Potrivit date UNESCO, femeile ocupă doar 20% din posturile tehnice și reprezintă 12% dintre cei care cercetează inteligența artificială. Modelele de limbaj ajung să reproducă această dinamică în timpul formarea lor.

Un raport UNESCO arată că modelele mari de limbaj reproduc stereotipurile de gen, atât în generarea de text, cât și în imagini. Alte cercetări privind generarea de videoclipuri au identificat, de asemenea, stereotipuri între anumite profesii și genul lucrătorilor lor.

AI moștenește prejudecățile noastre

Experimentul ne lasă cu o lecție incomodă: avem mai multă încredere în AI, cu cât ea pare mai umană, dar ajungem să-i transferăm și prejudecățile pe care le aplicăm oamenilor. Johan și Johanna împărtășeau tehnologia și aceleași sarcini. Cu toate acestea, participanții nu i-au tratat la fel. Deși studiul nu permite ca diferența să fie atribuită exclusiv genului, arată că aspectul unei IA poate influența modul în care prețuim munca sa.

Prin | jeuxvideo.com

Imagine de copertă | Generat și adaptat de AI

În investigația noastră tehnică | Cele mai bune inteligențe artificiale pentru studenți: instrumente gratuite și ceea ce face fiecare

Partajează acest dosar: