Cercetătorul Lyubomir Penev avertizează că inteligența artificială funcționează ca un „superplagiat” și generează referințe false
Modelele actuale de inteligență artificială combină masiv date fără o trasabilitate clară a surselor, generând atât răspunsuri corecte, cât și erori sau referințe bibliografice inexistente în literatura de specialitate, arată cercetătorul Lyubomir Penev într-un interviu acordat News.ro.
Prezent la București cu ocazia congresului internațional ZoologyCon, Lyubomir Penev, cercetător în biodiversitate și fondator al editurii științifice Pensoft, a explicat limitele actuale ale tehnologiei generative și riscurile asociate integrării acesteia în mediul academic.
Potrivit lui Penev, modelele lingvistice mari funcționează în prezent ca un „superplagiat”, combinând date dintr-un volum imens de surse. Această arhitectură poate oferi răspunsuri relevante, dar poate duce și la fenomenul de halucinație artificială. În lipsa unor informații clare despre proveniența datelor de antrenare și despre verificările de calitate aplicate, evaluarea corectitudinii conținutului generat devine foarte dificilă pentru utilizatori.
Referințe inexistente în lucrările de cercetare
Problema informațiilor fabricate de sistemele de calcul începe să fie documentată în mediul academic. O analiză citată de News.ro, publicată de revista Nature pe un eșantion de 2,5 milioane de articole biomedicale din PubMed Central, a identificat aproape 3.000 de lucrări care conțineau referințe bibliografice de negăsit în literatura de specialitate. Deși studiul nu atribuie toate aceste erori inteligenței artificiale, analiza a remarcat o creștere accentuată a referințelor false începând cu anul 2023.
Penev a semnalat că inclusiv în domeniul taxonomiei a fost înregistrată o primă retragere a unei lucrări de specialitate din cauza citărilor inventate de AI, determinând comunitatea editorială să dezvolte reguli stricte privind utilizarea acestor instrumente în redactarea și evaluarea manuscriselor.
Soluția datelor structurate și a standardelor FAIR
Pentru a diminua riscul de dezinformare, cercetătorul susține că viitorul aparține unor instrumente AI specializate, antrenate exclusiv pe seturi de date de referință bine verificate, denumite „golden datasets”. Acestea trebuie să respecte principiile FAIR (date ușor de găsit, accesibile, interoperabile și reutilizabile) și să păstreze identificarea precisă a autorilor și a surselor originale.
Pensoft colaborează deja la proiecte precum integrarea de „nanopublications” – afirmații științifice standardizate formulate într-un mod care poate fi verificat și procesat direct de calculatoare.
Dezbateri despre știință și tehnologie la ZoologyCon
Declarațiile au fost făcute în contextul organizării ZoologyCon la București, eveniment coordonat de Muzeul Național de Istorie Naturală „Grigore Antipa” în parteneriat cu Academia Română și Universitatea din București.
Manifestarea reunește peste 120 de autori din 23 de țări pentru a discuta despre evoluția speciilor, adaptarea la schimbările climatice, rolul colecțiilor muzeale și modul în care noile tehnologii informatice pot fi utilizate responsabil în cercetarea lumii naturale.
