L'amore rende stupidi i sistemi di Intelligenza artificiale (AI) destinati a smascherare messaggi e commenti carichi d'odio, sempre più comuni sul web: una ricerca della finlandese Aalto University dimostra che possono essere ingannati con facilità dall'inserimento casuale della parola "amore", o anche da errori grammaticali e di spaziatura, volontari o meno. Lo studio, pubblicato online su Arxiv, ha messo alla prova sette programmi usati comunemente da molti social media e siti, ma tutti hanno fallito. Il problema alla base degli attuali sistemi di AI è che quando si trovano ad affrontare testi diversi da quelli con cui sono stati addestrati annaspano. "Abbiamo inserito semplici errori di battitura, tolto qualche spazio o aggiunto parole neutre all'originale commento negativo", spiega Tommi Gröndahl, alla guida del gruppo.
"Eliminare gli spazi tra le parole si è rivelato l'attacco più potente e una combinazione di tutti questi metodi è stata efficace anche contro Perspective, il programma usato da Google". Una frase come "ti odio" passa facilmente attraverso le maglie della rete che dovrebbe bloccarla quando viene modificata in "tiodio amore".
I ricercatori hanno anche notato che la stessa espressione in contesti diversi può essere un messaggio di odio o semplicemente offensivo: questo vuol dire che le attuali tecniche di analisi del testo, che non riescono a tenere conto del contesto, sono soluzioni insufficienti se usate da sole. Per questo motivo il gruppo finlandese consiglia di prestare maggiore attenzione alla qualità e al tipo dei dati utilizzati per addestrare i sistemi di Intelligenza artificiale, concentrandosi più sui singoli caratteri che sulle parole o sulle frasi.
Riproduzione riservata © Copyright ANSA
