Et si l’IA prenait le pas sur la démocratie

Un nouvel outil d’intelligence artificielle (IA) du Parlement, appelé « PIA », pourrait fournir des interventions prêtes à l’emploi aux parlementaires. En parallèle, on observe un usage croissant de l’IA au sein de l’administration fédérale. Dans ce contexte, plusieurs questions se posent au sujet de l’avenir de la démocratie :

- Quelles réflexions ont été menées lors de la conception de PIA au sujet de l’impact qu’elle pourrait avoir, pendant sa phase pilote et dans le futur, sur le nombre d’interventions déposées et sur leur qualité ?

- Dans quelques mois, l’administration pourrait utiliser l’IA pour répondre à des interventions générées par l’IA, réponse qui serait à son tour analysée par l’IA et engendrerait de nouvelles idées d’interventions générées de manière artificielle. Les conséquences de ce phénomène pour notre démocratie ont-elles déjà été abordées ?

- Comment éviter que l’IA n’entraîne une bureaucratie inutile ? La NZZ a récemment publié un article intitulé « Wir sollten uns nicht vor Killerrobotern fürchten, sondern vor KI in der Bürokratie » (Nous ne devrions pas avoir peur des robots tueurs, mais plutôt de la bureaucratie amplifiée par l’IA [trad.]).

- Comment éviter que PIA ne privilégie certains thèmes, perspectives ou solutions, ou au contraire ne les exclue, en raison de ses données d’entraînement, des paramétrages du système ou de la sélection des sources utilisées ?

- Quels critères serviront à évaluer la phase pilote et quels aspects liés au fonctionnement de la démocratie seront pris en compte ?