Considerazione dei deepfake nella prevista legge sull'IA

1. In che misura la problematica dei deepfake è considerata nella prevista legge sull'IA?

2. Quali disposizioni sono previste per affrontare gli impieghi abusivi dell'IA generativa, in particolare per quanto riguarda contenuti sessualizzati non consensuali e usurpazioni d'identità?

3. Quali strumenti applicativi sono previsti per rimuovere rapidamente i contenuti illegali e far rispettare le azioni inibitorie?

4. È prevista una normativa specifica in materia di responsabilità per le piattaforme, in particolare in caso di moderazione insufficiente?

5. Quali misure preventive sono previste per impedire tempestivamente la creazione e la diffusione di deepfake abusivi?

6. Come si garantisce che le autorità inquirenti dispongano di strumenti adeguati per perseguire efficacemente contenuti sintetici abusivi, in particolare in caso di rapida diffusione e di fattispecie transfrontaliere?

7. Sono previsti obblighi vincolanti di trasparenza o di marcatura per i contenuti generati o manipolati dall’IA? In caso affermativo, come si prevede di impostarli?

8. Come si tiene conto della protezione delle persone particolarmente vulnerabili, soprattutto i minorenni, le persone con disabilità o in altre situazioni di vulnerabilità?

9. In che modo il Consiglio federale garantisce la compatibilità della legge sull'IA con gli sviluppi internazionali?

A fine 2023 il Consiglio federale ha deciso di ratificare la Convenzione sull’IA del Consiglio d’Europa e di elaborare entro la fine del 2026 un progetto di legge sull’IA. In questo contesto sorgono interrogativi in merito alla gestione dei contenuti sintetici, in particolare i deepfake. Sistemi basati sull’IA consentono di creare rapidamente contenuti audio, immagini e video realistici che raffigurano persone reali a loro insaputa. Contenuti di questo tipo sono sempre più spesso utilizzati in modo abusivo, soprattutto sotto forma di rappresentazioni sessualizzate non consensuali o nel contesto di un’usurpazione d’identità. Ne sono vittime in particolare le donne, i minorenni e altre persone in situazioni di vulnerabilità. L’attuale ordinamento giuridico è in linea di massima impostato sulla neutralità tecnologica, ma presenta notevoli lacune in materia di applicazione ed esecuzione quando si tratta di contenuti sintetici, in particolare nel caso di una diffusione rapida e transfrontaliera.

1./2./5./7./8./9. La Convenzione sull’IA del Consiglio d’Europa impone misure graduate in funzione del rischio (art. 2 e 16) durante l’intero ciclo di vita dei sistemi d’IA, che tengano debitamente conto delle necessità specifiche delle persone vulnerabili (art. 18). In particolare, esige misure in materia di trasparenza e cita a titolo d’esempio l’etichettatura dei contenuti generati dall’IA (art. 8). In questo contesto, il Consiglio federale ha proposto di accogliere la mozione Mahaim 26.3458 «Grok e deepfake di natura sessuale. È ora di agire!». Misure specifiche ai deepfake sono quindi esaminate nell’ambito dei lavori legislativi volti ad attuare la Convenzione.

Il Consiglio federale segue con attenzione gli sviluppi internazionali in materia di IA, soprattutto a livello europeo. Anche l’Unione europea (UE) ha firmato la Convenzione sull’IA. La regolamentazione svizzera dell’IA ha l’obiettivo di garantire un livello di protezione dei diritti fondamentali equivalente a quello dell’UE.

Il quadro giuridico vigente sanziona già, in virtù del diritto civile e penale, determinati comportamenti legati ai deepfake (cfr. anche le mozioni in corso Amaudruz 26.3955 «Proteggere i minori dalle immagini intime generate con l'intelligenza artificiale» e Bürgin 26.3851 «Combattere i deepfake sessualizzati e migliorare la protezione delle vittime», che il Consiglio federale propone di accogliere).

3./4. L’avamprogetto di legge federale sulle piattaforme di comunicazione e i motori di ricerca (AP-LPCom) prevede una procedura di segnalazione per i contenuti diffusi sulle grandi piattaforme di comunicazione, la quale permette agli utenti di segnalare facilmente determinati contenuti, compresi quelli generati con l’ausilio dell’IA, che ritengono illeciti e costitutivi di uno o più reati elencati in maniera esaustiva nel testo di legge (p. es. diffamazione, calunnia, minacce, coazione sessuale, incitamento all’odio). Secondo l’avamprogetto, le piattaforme devono esaminare le segnalazioni e decidere rapidamente, ad esempio, se rimuovere il contenuto.

L’AP-LPCom non contiene regole specifiche in materia di responsabilità per le grandi piattaforme di comunicazione, le quali sono tuttavia già soggette alle regole generali vigenti nel diritto civile e penale e devono rispondere dei loro atti secondo gli stessi principi applicati alle altre imprese e persone responsabili (cfr. Mo. Pult 25.3783 «Nessun privilegio in materia di responsabilità per le piattaforme Internet»). La consultazione sull’AP-LPCom si è conclusa il 16 febbraio 2026 ed è attualmente in corso di valutazione.

6. La rete nazionale NEDIK e la Confederazione promuovono e coordinano la cooperazione tra le polizie svizzere nel settore della cibercriminalità. Provvedono tra l’altro affinché le autorità di perseguimento penale seguano corsi di formazione e formazione continua e dispongano dei software necessari a svolgere i loro compiti legali. Per l’acquisizione di prove all’estero è attualmente sviluppata una soluzione svizzera basata sul modello di «e-Evidence», la quale permetterà di accelerare la cooperazione internazionale con gli Stati dell’UE e contattare direttamente fornitori di servizi Internet all’estero.