Regole internazionali per i rischi gravi legati all'IA

Il Consiglio federale è incaricato di cogliere l'occasione della «Road to Geneva» e del Geneva AI Summit 2027 per avviare un dialogo internazionale volto a giungere a un accordo il più ambizioso possibile, vincolante ai sensi del diritto internazionale, per controllare i rischi gravi derivanti dai sistemi di intelligenza artificiale particolarmente potenti.

Poiché sarà difficile giungere a un accordo politico di ampio respiro entro l'inizio del Vertice, il Consiglio federale è incaricato di avviare e coordinare, come obiettivo minimo, un processo tecnico-diplomatico di tipo "Track-1.5".

Un'intelligenza artificiale potente può facilitare gli attacchi informatici e la manipolazione politica, nonché fornire conoscenze che potrebbero essere utilizzate in modo improprio per la creazione di armi biologiche o chimiche. L'impiego dell'IA nei sistemi d'arma autonomi e la possibile perdita del controllo umano comportano ulteriori rischi. Anche se i Paesi leader nel campo dell'intelligenza artificiale sono coinvolti in una corsa agli armamenti in questo settore, è nel loro interesse comune evitare la perdita di controllo, errori di calcolo e danni a livello transnazionale.

L'accordo auspicato dovrebbe prevedere standard di sicurezza comuni, procedure di riconoscimento del rischio e un controllo indipendente nonché meccanismi di segnalazione e consultazione indipendenti in caso di gravi incidenti di sicurezza o segni di perdita di controllo. Vanno tenuti in considerazione in particolare i rischi informatici, biologici e chimici, nonché l'uso dell'intelligenza artificiale in sistemi d'arma autonomi e la manipolazione politica mirata. Un accordo globale entro il 2027 appare poco realistico viste le contrapposizioni geopolitiche. Un progetto tecnico può tuttavia preparare il terreno per successive trattative politiche.

Un processo tecnico-diplomatico di tipo “Track 1.5” dovrebbe coinvolgere esperti governativi e indipendenti provenienti dai principali Paesi leader nel campo dell’IA e da altri Stati rilevanti dal punto di vista della politica di sicurezza, nonché organizzazioni internazionali, il mondo accademico, il settore economico e la società civile. L'obiettivo è preparare un progetto di accordo il più ambizioso possibile e negoziabile. Laddove non è possibile raggiungere un consenso su norme più dettagliate, l'accordo dovrebbe almeno prevedere misure concrete volte a rafforzare la fiducia, in particolare punti di contatto e meccanismi di segnalazione e consultazione per gravi incidenti relativi alla sicurezza dell’IA.