News
Ce ascund generatoarele de text?
Studenții sunt avertizați să fie precauți în utilizarea ChatGPT pentru proiectele lor, conform unui studiu realizat de cercetători de la Penn State University, SUA. Echipa de cercetare a investigat modul în care generatoarele de text plagiază conținutul, identificând trei forme diferite de plagiat: verbatim, parafrazare și plagiat de idei.
Algoritmul creat de cercetători a fost testat pe GPT-2 al OpenAI, folosind 210.000 de texte generate pentru a detecta tipurile de plagiat. Rezultatele au arătat că generatoarele de text plagiază folosind toate cele trei forme de plagiat, iar cu cât setul de date și parametrii de antrenament sunt mai mari, cu atât crește frecvența plagiatului.
Studiul a subliniat faptul că modelele de limbaj ajustate au redus plagiatul verbatim, dar au crescut cazurile de parafrazare și de plagiat de idei. Mai mult, s-a observat că modelele lingvistice pot expune informații private ale indivizilor prin toate cele trei forme de plagiat.
Concluziile studiului vor fi prezentate la ACM Web Conference din 2023, unde cercetătorii vor sublinia importanța suplimentară a cercetărilor privind generatoarele de text și dilemele etice și filosofice pe care le ridică acestea.
În final, cercetătorii au atras atenția asupra necesității de a aborda problemele etice și legale legate de generatoarele de text, subliniind că, deși aceste modele pot fi utile pentru anumite sarcini, trebuie să se acorde o atenție deosebită riscurilor pe care le implică utilizarea lor.
Sursa: descopera
Acest articol a fost realizat de ZappNews.ro, platformă de știri și analize din România
