Internationale Regeln für schwere KI-Risiken

Der Bundesrat wird beauftragt, die «Road to Geneva» und den Geneva AI Summit 2027 zu nutzen, um einen internationalen Prozess für ein möglichst ambitioniertes, völkerrechtlich verbindliches Abkommen zur Kontrolle schwerwiegender Risiken besonders leistungsfähiger KI-Systeme einzuleiten.

Da eine umfassende politische Einigung bis zum Gipfel kaum erreichbar ist, initiiert und koordiniert der Bundesrat als Mindestziel einen technisch-diplomatischen Track-1.5-Prozess.

Leistungsfähige KI kann Cyberangriffe und politische Manipulation erleichtern sowie Wissen bereitstellen, das für biologische oder chemische Waffen missbraucht werden kann. Ihr Einsatz in autonomen Waffensystemen und ein möglicher Verlust menschlicher Kontrolle bergen zusätzliche Risiken. Selbst wenn sich die führenden KI-Staaten in einem KI-Wettrüsten befinden, liegt es in ihrem gemeinsamen Interesse, Kontrollverluste, Fehlkalkulationen und grenzüberschreitende Schäden zu verhindern.

Das angestrebte Abkommen soll gemeinsame Sicherheitsstandards, Verfahren zur Risikoerkennung und unabhängigen Überprüfung sowie Melde- und Konsultationsmechanismen bei schweren Sicherheitsvorfällen oder Anzeichen eines Kontrollverlusts vorsehen. Einzubeziehen sind insbesondere Cyberrisiken, biologische und chemische Risiken, der Einsatz von KI in autonomen Waffensystemen sowie gezielte politische Manipulation. Ein umfassendes Abkommen ist angesichts geopolitischer Gegensätze bis 2027 kaum realistisch. Ein technisch ausgearbeiteter Entwurf kann jedoch spätere politische Verhandlungen vorbereiten.

Bei einem technisch-diplomatischen Track-1.5-Prozess sollen staatliche und unabhängige Fachpersonen aus den führenden KI-Staaten und weiteren sicherheitspolitisch relevanten Staaten sowie internationale Organisationen, Wissenschaft, Wirtschaft und Zivilgesellschaft einbezogen werden. Ziel ist ein möglichst ambitionierter, verhandlungsfähiger Abkommensentwurf. Soweit weitergehende Regeln nicht konsensfähig sind, soll er zumindest konkrete vertrauensbildende Massnahmen vorsehen, insbesondere Kontaktstellen sowie Melde- und Konsultationsmechanismen für schwere KI-Sicherheitsvorfälle.