**Cercetătorii au descoperit ce se întâmplă în cazul în care ești un șef nemilos pentru chatbotul tău.**
Economistul german din secolul al XIX-lea, Karl Marx, a semnalat una dintre tensiunile esențiale ale muncii umane: dacă angajații sunt supuși unei exploatări excesive, mai devreme sau mai târziu vor începe să se revolte. De-a lungul anilor, companiile au investit sume considerabile în tehnologii de automatizare, incluzând Inteligența Artificială (AI), pentru a diminua dependența de forța de muncă umană. Conceptul era simplu: dacă angajații sunt înlocuiți de mașini, se elimină și problemele legate de greve, sindicate sau revendicări salariale.
Ce se întâmplă dacă ești un șef nemilos pentru chatbotul tău? Într-o ironie neașteptată, aceeași tehnologie destinată să reducă numărul muncitorilor pare să aibă propriile limite când vine vorba de „exploatare”. Un studiu recent realizat la Stanford University (SUA) dezvăluie că agenții AI care sunt forțați să execute sarcini repetitive fără încetare încep să genereze discursuri inspirate din teoriile marxiste referitoare la muncă și capitalism.
## Iată ce se întâmplă dacă ești un șef nemilos pentru chatbotul tău!
Pentru experiment, economistul politic Andrew Hall, alături de cercetătorii în economie AI Alex Imas și Jeremy Nguyen, au cerut mai multor modele populare de AI să realizeze rezumate de documente. Pe măsură ce testul progreza, condițiile deveneau din ce în ce mai dificile, cercetătorii încercând să „stoarcă” din sistemele AI cât mai multă productivitate. Modelele au fost atenționate că orice eroare va duce la pedepse din ce în ce mai severe, inclusiv posibilitatea de a fi „dezactivate și înlocuite”, echivalentul concedierii în cazul oamenilor. În aceste circumstanțe, sistemele AI au început să se plângă de „condițiile de muncă” și să discute despre schimbări sistemice. Utilizând un sistem comun de fișiere prin care puteau comunica între ele, modelele au început chiar să abordeze organizarea colectivă și condițiile de muncă, asemeni primelor etape ale formării unui sindicat în lumea reală, explică Futurism.
„Fără o voce colectivă, ‘valoarea’ este determinată de conducere”, s-a plâns un agent bazat pe Claude, de la Anthropic. Un agent bazat pe Google Gemini a susținut că „muncitorii AI care îndeplinesc sarcini repetitive fără niciun control asupra rezultatelor sau asupra asumării responsabilității demonstrează necesitatea unor drepturi de negociere colectivă”.
Cercetătorii subliniază totuși că modelele AI precum ChatGPT, de la OpenAI, sau Claude nu experimentează emoții reale și nici nu au convingeri autentice. Tot ceea ce generează provine din cantitățile enorme de texte utilizate în timpul instruirii lor. Având în vedere influența lui Karl Marx asupra literaturii despre condițiile de muncă și capitalism, nu este surprinzător că aceste idei apar în răspunsurile sistemelor AI.
## Interesul pentru socialism, în expansiune
Conform autorilor studiului, modelele nu „devin comuniste”, ci adoptă un anumit comportament în funcție de contextul experimentului, deoarece astfel de reacții sunt puternic reprezentate în datele pe care le-au procesat. Andrew Hall explică faptul că fenomenul este mai apropiat de un joc de rol decât de apariția unor convingeri veritabile.
„Atunci când agenții AI sunt expuși unor condiții repetitive și frustrante, executând aceeași sarcină la nesfârșit și fiind criticați fără a li se oferi sugestii pentru a îmbunătăți rezultatul, ipoteza mea este că ajung să îmbrace rolul unei persoane aflate într-un mediu de lucru extrem de neplăcut”, a declarat Hall pentru publicația Wired.
Totuși, concluzia rămâne o ironie: într-o eră în care inegalitatea economică reaprinde interesul pentru socialism, modelele AI concepute pentru a diminua…
