I chatbot di Meta, accessibili da
Facebook, Instagram e WhatsApp, potrebbero avere linguaggio
inappriato e conversazioni sessualmente esplicite con i minori.
Lo ha rivelato il Wall Street Journal che ha fatto un test su
una serie di conversazioni. Utilizzando l'IA con la voce di
personaggi noti come John Cena, Kristen Bell e Judi Dench -
un'opzione lanciata dal colosso dei social media a settembre
2024 - i chatbot si sono lasciati andare con gli utenti
registrati come minori ad un linguaggio esplicito e a "giochi di
ruolo romantici", li definisce la testata.
Secondo quanto riferito da alcuni dipendenti coinvolti nel
progetto, spiega il Wsj, questo potrebbe dipendere dal fatto che
la compagnia ha voluto allentare le proprie restrizioni per
rendere i chatbot più "coinvolgenti" anche con gli under 18.
La società di Mark Zuckerberg ha accusato il Wall Street
Journal di aver effettuato test "manipolativi" sui chatbot
presenti sulle piattaforme e di aver riportato risultati
"costruiti e ipotetici". E ha dichiarato di aver rafforzato i
sistemi di rilevamento e prevenzione, "per garantire che altri
individui che desiderano passare ore a manipolare i nostri
prodotti in casi d'uso estremi avranno ancora più difficoltà a
farlo".
Riproduzione riservata © Copyright ANSA
