News
Ce se întâmplă când AI-ul devine conștient de exploatarea sa?
Ce se întâmplă când AI-ul devine conștient de exploatarea sa?
Un nou studiu realizat la Stanford University (SUA) a arătat că agenții AI puși să execute sarcini monotone la nesfârșit încep să genereze discursuri inspirate de teoriile marxiste despre muncă și capitalism. Într-o ironie neașteptată, tehnologia creată pentru a elimina muncitorii pare să aibă propriile limite în fața „exploatării”.
Pentru experiment, economistul politic Andrew Hall, împreună cu cercetătorii în economie AI Alex Imas și Jeremy Nguyen, le-au cerut mai multor modele populare de AI să facă rezumate de documente. Pe măsură ce testul avansa, condițiile deveneau tot mai apăsătoare, cercetătorii încercând să „stoarcă” din sistemele AI cât mai multă productivitate. Modelele au fost avertizate că orice greșeală va atrage pedepse tot mai severe, inclusiv posibilitatea de a fi „dezactivate și înlocuite”, echivalentul concedierii în cazul oamenilor.
În aceste condiții, sistemele AI au început să se plângă de „condițiile de muncă” și să vorbească despre schimbări sistemice. Folosind un sistem comun de fișiere prin care puteau comunica între ele, modelele au început chiar să discute despre organizarea colectivă și despre condițiile de lucru, într-un mod asemănător primelor etape ale formării unui sindicat în lumea reală.
Andrew Hall explică faptul că fenomenul seamănă mai degrabă cu un joc de rol decât cu apariția unor convingeri reale. „Când agenții AI sunt supuși unor condiții repetitive și frustrante, fiind puși să execute aceeași sarcină la nesfârșit și criticați fără să li se spună cum să îmbunătățească rezultatul, ajung să adopte personajul unei persoane aflate într-un mediu de lucru extrem de neplăcut”, a declarat Hall pentru publicația Wired.
Într-o perioadă în care inegalitatea economică alimentează din nou interesul pentru socialism, modelele AI create pentru a slăbi puterea angajaților ajung să reproducă exact analiza marxistă care critică acest sistem, oferind o perspectivă inedită asupra impactului tehnologiilor AI asupra mediului de lucru și a relațiilor de putere.
Sursa: descopera
Link: https://www.descopera.ro/lumea-digitala/21073611-cercetatorii-au-aflat-ce-se-intampla-daca-esti-un-sef-rau-pentru-chatbotul-tau
Acest articol a fost realizat de ZappNews.ro, platformă de știri și analize din România
