"Le immagini di abusi sessuali su minori generate dall'intelligenza artificiale più convincenti possono essere visivamente indistinguibili da immagini e video reali". È l'allarme lanciato dalla Internet Watch Foundation (Iwf) che nel suo ultimo rapporto ha registrato un'impennata del 380% rispetto al 2023 nelle segnalazioni che contenevano immagini di abusi sessuali su minori generate dall'IA. Un fenomeno, osservano gli analisti, che rappresenta "una preoccupazione crescente", soprattutto perché "gli strumenti di generazione di immagini dell'intelligenza artificiale si stanno evolvendo rapidamente e stanno diventando più facili da usare".
"Le immagini e i video sessuali di bambini generati dall'intelligenza artificiale sono estremamente dannosi, soprattutto perché la creazione di queste immagini utilizza volti o corpi di bambini reali, sia direttamente nelle immagini stesse sia utilizzati dietro le quinte come strumento di addestramento per i generatori di intelligenza artificiale" si legge nel report, in cui si mette in guardia dalla capacità di questa tecnologia di "creare immagini di abusi sessuali su minori su vasta scala e ad alta velocità". Complessivamente sono state 245 le segnalazioni elaborate nel 2024 che contenevano immagini di abusi sessuali su minori generati dall'IA, pari a un aumento del 380% rispetto al 2023, quando solo 51 contenevano immagini di abusi sessuali su minori generate dall'IA. Le segnalazioni corrispondevano a 7.644 immagini e a un limitato numero di video. La percentuale maggiore di queste immagini, il 39%, rientra nella categoria A, che a sua volta include le tipologie più estreme di contenuto di abuso sessuale su minori.
Derek Ray-Hill, CEO ad interim dell'IWF, ha sottolineato la "necessità di una legislazione cardine dell'Ue per affrontare la perniciosa diffusione degli abusi sessuali sui minori online" chiedendo che gli Stati membri dell'Ue "si uniscano e agiscano su questo tema" adottando "senza indugio" il regolamento sugli abusi sessuali sui minori oltre che "la direttiva sugli abusi sessuali sui minori, che criminalizzerebbe la produzione e la diffusione di materiale pedopornografico generato dall'IA".
Riproduzione riservata © Copyright ANSA
