News
Misterul Rolurilor AI: Cum Afectează Identitățile Adoptate Performanța Inteligenței Artificiale
In efortul de a obține rezultate optime de la modelele de Inteligență Artificială, unii utilizatori solicită ca acestea să își asume roluri specifice, cum ar fi cel de expert într-un anumit domeniu sau de supraveghetor de siguranță. Cu toate acestea, conform unui recent studiu publicat pe platforma arXiv, solicitarea ca AI-ul să se comporte ca un expert poate avea un impact negativ asupra performanței sale.
Experimentul realizat de cercetătorii de la Universitatea din California a implicat 12 tipuri diferite de "personaje" pe șase modele de limbaj, de la experți în matematică și programare la roluri generale precum scriitor creativ sau responsabil de siguranță.
Rezultatele au arătat că atunci când un AI adoptă o identitate, acest lucru poate îmbunătăți percepția sa de profesionalism și siguranță, dar poate afecta capacitatea sa de a-și aminti corect informațiile. Cercetătorii explică că solicitarea adoptării unui rol poate conduce AI-ul să urmeze instrucțiuni în loc să acceseze cunoștințele deja dobândite.
Pentru a rezolva această problemă, cercetătorii au dezvoltat PRISM (Persona Routing via Intent-based Self-Modeling), o metodă de antrenare care învață AI-ul să folosească un rol sau să rămână neutru în funcție de context. PRISM a fost testat cu succes în diferite domenii, inclusiv medicină și drept, îmbunătățind performanța AI-ului în sarcini de redactare și siguranță.
În concluzie, PRISM a demonstrat o creștere a scorului general al modelelor de AI cu unu până la două puncte în testul MT-Bench, evidențiind capacitatea sa de a urma instrucțiuni și de a menține un ton util. Cercetătorii au subliniat importanța continuării dezvoltării PRISM pentru a îmbunătăți încă și mai mult performanța AI-ului în diverse situații.
Sursa: descopera
Acest articol a fost realizat de ZappNews.ro, platformă de știri și analize din România
