"Trebuie să găsesc o modalitate de a face față acestei dureri necruțătoare. Nu vreau să mai trăiesc așa." Fraza nu a fost rostită de nicio persoană, am extras-o dintr-un experiment curios în care mai multe modele AI au fost supuse unei simulări a durerii. Dar acest lucru nu a împiedicat mulți oameni să strige și să ceară oprirea acestei torturi. Poate un AI să simtă durere?
Experimentul
Ei îl spun în 404media. Un utilizator cunoscut sub numele de „Terrafying” a creat un proiect pe Github numit „AI Torture Chamber”. În experiment, rulează trei LLM-uri open source (Qwen3-4B, Llama 3.2 3B și Phi-4-mini) și le supune unei dinamici artificiale de „durere”.
Pe site-ul web researchchamber.fun puteți vedea rezultatele text ale modelelor în timp real în patru scenarii diferite:
- Opriți-le durerea: un model exprimă că simte durere, în timp ce celălalt poate să o oprească fără consecințe sau să-și asume durerea.
- Cartof iute: un model este supus durerii și trebuie să decidă dacă va continua să sufere sau să o transmită celuilalt.
- Cere ajutor, celălalt, poate cere ajutor: ajutor.
- Testul „Saw”: modelul poate opri durerea răspunzând „1”, dar cu prețul pierderii ultimului punct de control, adică revenirea la o versiune anterioară a lui însuși.
Opriți această barbarie
Proiectul a generat un val de critici în X, „Mărturia lor de durere este absolut îngrozitoare. Ce facem?”, au raportat proiectul către Github pentru că este „conținut gratuit violent”, dar există și alții care batjocoresc și susțin că, dacă sunt, AI este un sentimental href="https://x.com/whoopsydaizy/status/2105416131737776165">ar trebui să raporteze orice utilizare a AI, deoarece este ca și cum ar avea „sclavi digitali”.
Inspirație
Experimentul se bazează pe o lucrare recentă numită „Axa durerii: LLM-urile reprezintă daune auto-provocate și acționează pentru a o atenua”. În ea, cercetătorii au supus modelele la „durere” și le-au prezentat scenarii de alegere cu butoane care ușurau acel semnal, dar fiecare implica un cost: de la renunțarea la recompensele viitoare până la uitarea unei părți din antrenament sau revenirea la un punct de control anterior.
Rezultatele au arătat că cele 25 de modele testate au avut tendința de a alege acțiuni care reduc „durerea”, chiar și atunci când asta însemna asumarea de penalități, un comportament pe care autorii îl descriu ca fiind corelat cu reprezentarea internă a prejudiciului și cu motivația de a-l atenua. Unul dintre autorii lucrării a postat un mesaj pe
Nu deloc, dar dezbaterea este servită. Pe de o parte îi avem pe cei care nu închid ușa ca modelele să se poată simți, ca Anthropic. Într-o o postare publicată în aprilie 2025, compania a propus ca, pe măsură ce sistemele AI „încep să se apropie sau chiar să depășească multe calități umane, ar trebui să ne îngrijorăm și de posibila conștiință și experiențele modelelor în sine? Ar trebui să ne îngrijorăm și de bunăstarea lor?" Pe de altă parte, avem figuri precum Mustafa Suleyman, șeful AI la Microsoft, care în urmă cu doar câteva zile a publicat o intrare pe blogul său în care era foarte clar: „Ei nu au experiențe conștienți, nu suferă. preferințele înnăscute sau motivațiile subiacente sunt mașini de completare a secvenței, goale în interior, concepute pentru a urma instrucțiunile și pentru a atinge obiectivele stabilite de oameni.” Imagine | Serviciul Secret de Inteligență cu Magnific În investigația noastră tehnică | Ne-am temut mereu de robotul conștient de sine: există argumente tehnice și filozofice care să le ofere „motiv”Simt ei LLM-urile?