Protezione contro la discriminazione nell'utilizzo dell'IA e degli algoritmi

Il Consiglio federale è incaricato di creare o adeguare le disposizioni di legge al fine di fornire un'adeguata protezione contro la discriminazione derivante da processi decisionali parzialmente o completamente automatizzati.

È risaputo che uno dei maggiori rischi di tali processi decisionali completamente o parzialmente automatizzati è la discriminazione. Ciò ha ad esempio un impatto rilevante nell'attribuzione di abitazioni, nel calcolo dei premi assicurativi e della solvibilità o nel trattamento di candidature per posti di lavoro. Purtroppo, la protezione generale contro la discriminazione di cui all'articolo 8 capoverso 2 Cost. (che, in combinato disposto con l'art. 35 cpv. 3 Cost., dovrebbe applicarsi anche tra privati) non è però al momento concretizzata nella legge. Questo deve essere cambiato. Nel caso di procedure decisionali (parzialmente) automatizzate, si deve tenere conto in particolare che la discriminazione può avvenire non solo in modo diretto, bensì anche in modo indiretto (tramite proxy) e che a causa degli effetti di scala può essere colpito un gran numero di persone. A seconda del rischio dell'applicazione, sono quindi necessari anche adeguati obblighi di trasparenza e di diligenza, comprese le valutazioni d'impatto. Infine, è necessario prestare particolare attenzione all'applicazione del diritto. Ciò non deve essere ostacolato perché è molto difficile o tecnicamente impossibile presentare prove individuali, soprattutto per le applicazioni IA senza un meccanismo decisionale trasparente e chiaro (problema della scatola nera). Tramite il mandato del 22.11.2023, il Consiglio federale sta già conducendo un'analisi interdipartimentale sulla regolamentazione dell'IA. La protezione contro la discriminazione qui richiesta può essere eventualmente integrata in successive procedure legislative e, ove possibile e opportuno, allineata alle regolamentazioni internazionali.

Il Consiglio federale è consapevole che il crescente impiego di sistemi decisionali basati su algoritmi comporta numerose opportunità ma anche determinati rischi. Ad esempio, nelle sue Linee guida del 2020 sull'intelligenza artificiale (IA) per la Confederazione, il Consiglio federale ha già dichiarato che le persone, i gruppi e i generi devono essere protetti dalla discriminazione e dalla stigmatizzazione. E anche nel 2023, nel Codice di comportamento della Confederazione per una scienza dei dati incentrata sull'essere umano e affidabile, la non discriminazione è definita come un principio fondamentale e una caratteristica di affidabilità, così come la comprensibilità, la tracciabilità e la trasparenza.

Come indicato nella mozione, il 22 novembre 2023 il Consiglio federale ha incaricato il DATEC (UFCOM) e il DFAE (Divisione Europa) di elaborare una panoramica dei possibili approcci normativi per l'impiego dell'IA. Nell'ambito di questa analisi, che dovrebbe essere disponibile entro la fine del 2024, sarà esaminata anche la questione della discriminazione algoritmica.

In base alla panoramica sulla regolamentazione dell'IA, il Consiglio federale deciderà se occorra intervenire sul piano legislativo per quanto riguarda la protezione dalla discriminazione derivante da processi decisionali parzialmente o completamente automatizzati, come richiesto dalla mozione, e in caso affermativo, come affrontare il problema in modo concreto. Al momento non è opportuno anticipare i risultati di questi lavori.

Il Consiglio federale propone di respingere la mozione.

Respingere