Règles internationales relatives aux risques majeurs de l’IA

Le Conseil fédéral est chargé de profiter du Geneva AI Summit 2027 et des « pre-events » de la « Road to Geneva » pour lancer un processus visant à élaborer un accord international contraignant et aussi ambitieux que possible sur la maîtrise des risques majeurs des systèmes d’IA particulièrement performants.

Comme il serait difficile de parvenir à une large entente politique d’ici au sommet, le Conseil fédéral lancera et coordonnera, à titre d’objectif minimal, un processus de diplomatie hybride technique.

Les IA performantes peuvent faciliter les cyberattaques et la manipulation politique et fournir des connaissances susceptibles d’être détournées à des fins de fabrication d’armes biologiques ou chimiques. Leur utilisation dans des systèmes d’armes autonomes et la perte éventuelle du contrôle humain comportent des risques supplémentaires. Ainsi, même si les pays à la pointe de l’industrie de l’IA sont engagés dans une course aux armements, il est dans leur intérêt commun d’éviter toute perte de contrôle, toute erreur d’appréciation et tout préjudice transfrontalier.

L’accord envisagé prévoira des normes de sécurité communes, des procédures d’évaluation indépendante et de gestion des risques ainsi que des mécanismes de signalement et de consultation en cas d’incidents de sécurité graves ou de signes d’une perte de contrôle. Seront notamment à prendre en compte les cyberrisques, les risques biologiques et chimiques, l’utilisation de l’IA dans les systèmes d’armes autonomes et la manipulation politique ciblée. Compte tenu des tensions géopolitiques actuelles, il serait difficile de parvenir à un large accord d’ici 2027. Un projet jetant les bases techniques peut toutefois préparer le terrain pour des négociations politiques ultérieures.

Dans le cadre d’un processus de diplomatie hybride technique, il conviendra de réunir des experts gouvernementaux et indépendants issus des principaux pays à la pointe de l’industrie de l’IA, d’autres pays importants en matière de sécurité, des organisations internationales, de la science, de l’industrie et de la société civile. L’objectif est d’aboutir à un projet d’accord aussi ambitieux que possible et prêt à faire l’objet de négociations. Dans la mesure où il n’est pas possible de s’accorder sur des règles plus détaillées, il convient au moins de prévoir des mesures concrètes visant à instaurer la confiance, notamment des points de contact ainsi que des mécanismes de signalement et de consultation disponibles en cas d’incidents de sécurité graves liés à l’IA.