Grok e deepfake di natura sessuale. È ora di agire!

Il Consiglio federale è incaricato di presentare un progetto di legge che obblighi i fornitori di applicazioni di intelligenza artificiale generativa a effettuare, prima di commercializzare le applicazioni, valutazioni dei rischi e dei danni correlati alla creazione di contenuti deepfake di natura sessuale nonché ad adottare misure di protezione qualora le loro applicazioni siano in grado di creare contenuti di questo tipo. Occorre istituire un’autorità di controllo incaricata di verificare le valutazioni dei rischi e le misure adottate e, se del caso, di sanzionare i fornitori.

Lo strumento di IA «Grok», integrato nella piattaforma «X», ne è un esempio: l’IA ha modificato immagini di donne e bambini in modo tale da mostrarli in abiti estremamente succinti e in pose provocanti. Le immagini sono state pubblicate sulla piattaforma. Questa palese violazione dei diritti della personalità degli interessati è inaccettabile. Soprattutto nel caso di bambini, i deepfake di natura sessuale costituiscono una grave forma di violenza sessualizzata, con conseguenze potenzialmente gravi e a lungo termine per i minorenni coinvolti.

Chi produce i mezzi tecnici per tali violazioni della personalità e li mette a disposizione per l’uso deve essere obbligato a esaminare approfonditamente i loro rischi e a integrare meccanismi di protezione. Non basta perseguire penalmente le violazioni della personalità solo a posteriori: strumenti di IA generativa permettono di creare e diffondere deepfake di natura sessuale in gran numero, a grande velocità e su scala mondiale, molto più rapidamente di quanto possano essere rimossi o perseguiti penalmente.

I fornitori di servizi digitali che includono l’uso di IA generativa devono essere obbligati a verificare le loro offerte per quanto riguarda la creazione di contenuti vietati o lesivi della personalità. Le valutazioni dei rischi devono essere sottoposte a un’autorità svizzera di controllo. I fornitori devono adottare misure volte a minimizzare i rischi individuati e i potenziali danni. L’autorità svizzera di controllo potrà sanzionare i fornitori che non affrontano i rischi.

Il Consiglio federale propone di accogliere la mozione.

Accogliere