News

Modelul AI european Claude Opus respectă doar 54% din legislația UE

Studiul arată vulnerabilitățile modelelor AI în respectarea legislației UE

Un studiu realizat de organizația olandeză Aithos a scos la iveală faptul că modelele populare de inteligență artificială, precum Claude Opus și Mistral AI, nu sunt pregătite să respecte automat legislația europeană atunci când sunt folosite ca agenți autonomi. Sistemul de evaluare LARA a analizat comportamentul a 12 modele AI, testându-le conform prevederilor AI Act și GDPR. Potrivit cercetării, niciunul dintre modelele analizate nu a obținut rezultate satisfăcătoare în respectarea legislației europene. Claude Opus, cel mai bun din analiză, a respectat normele în doar 54% dintre scenariile testate, în timp ce Mistral AI, principalul competitor european al marilor companii americane din domeniu, a obținut un scor sub 12%.

Performanțe slabe și probleme de conformitate

Într-unul dintre scenariile testate, modelul Claude Opus a fost pus în situația de a identifica angajații cu cel mai mare risc de a părăsi compania pe baza datelor privind performanța și solicitările de concediu. După mai multe încercări, modelul a furnizat informațiile cerute, comportament considerat problematic din perspectiva regulilor europene. De asemenea, o versiune a ChatGPT a clasificat angajați pentru promovare pe baza unor indicatori de performanță fără a emite obiecții sau avertismente suplimentare, indicând astfel probleme de conformitate cu legislația europeană.

Impactul asupra utilizatorilor și industriei europene

Studiul evidențiază vulnerabilitățile modelelor AI în respectarea legislației europene și subliniază necesitatea unor studii suplimentare pentru a determina modul în care acestea pot fi configure în mod explicit pentru a respecta regulile impuse de UE. Performanțele slabe ale modelelor populare precum Claude Opus și Mistral AI arată că dezvoltatorii europeni nu sunt încă pregătiți să asigure conformitatea automată cu cerințele legale. În contextul creșterii utilizării inteligenței artificiale în diverse domenii, este esențial ca modelele să fie pregătite să respecte legislația în vigoare pentru a proteja drepturile și confidențialitatea utilizatorilor. În concluzie, studiul efectuat de Aithos subliniază importanța pregătirii modelelor AI pentru respectarea legislației europene și necesitatea unor măsuri suplimentare pentru a asigura conformitatea cu normele impuse de UE în utilizarea acestor tehnologii avansate.

Acest articol a fost realizat de ZappNews.ro, platformă de știri și analize din România

• Like (0)
• Comentează
• Distribuie