Agentenbasierte KI: Wer entscheidet für uns?

Suchen, vergleichen, Fehler machen, entscheiden: So bildet man sich eine Meinung. KI-Agenten bieten nun an, dies für uns zu übernehmen. Unter ihnen ist Muse, der am 8. September 2026 von Meta in den USA eingeführt wurde und Schätzungen zufolge schneller durchstartete als ChatGPT. Dieser in WhatsApp integrierte Chatbot wird bald auf den Brillen von Meta und auf Muse Charm verfügbar sein, einem Schlüsselanhänger mit Avatar im Tamagotchi-Stil. Er läuft im Hintergrund, auch wenn die App geschlossen ist; mit einer Brille könnte er sehen und hören, was wir gerade erleben. Wenn uns ein solcher Agent ständig zur Seite steht, entscheiden wir dann noch bewusst, welche Aufgaben wir ihm übertragen?

Je mehr man delegiert, desto weniger sieht man, welche Alternativen verworfen werden, und desto weniger beübt man die Fähigkeiten, die die Grundlage unserer Selbstständigkeit bilden. Der Agent handelt im Verborgenen, und ein Avatar weckt Vertrauen. Damit kann sich die Wachsamkeit verringern. Dieses Risiko trifft alle, auch ältere und ganz besonders junge Menschen, die gerade dabei sind, ihr Urteilsvermögen zu entwickeln. Muse ist nur für Erwachsene bestimmt, ist jedoch in WhatsApp integriert, das bereits ab 13 Jahren zugänglich ist, und die Altersüberprüfung liegt allein in der Verantwortung von Meta.

Gefahr lauert auch für die Demokratie. Ein Agent, der Informationen auswählt, beeinflusst, was wir vor einer Abstimmung sehen; in einer direkten Demokratie, in der mehrmals im Jahr abgestimmt wird, wiegt dies schwer. Wenn irgendwelche Gruppen diese Agenten kontrollieren, kontrollieren sie damit einen entscheidenden Zugang zu Informationen. Es gibt keine Anhaltspunkte dafür, dass das Bundesgesetz über Kommunikationsplattformen und Suchmaschinen (KomPG) auch Agenten abdecken wird, und in den angekündigten Schwerpunkten der KI-Regulierung werden weder Kognition noch Meinungsbildung erwähnt.

• Wie bewertet der Bundesrat die Auswirkungen einer wiederholten Delegation an KI-Agenten auf die kognitiven Fähigkeiten (Aufmerksamkeit, Gedächtnis, Denk- und Urteilsvermögen) und die Gedankenfreiheit, insbesondere bei Jugendlichen? Beabsichtigt er, diesen Effekt über einen längeren Zeitraum hinweg zu untersuchen, beispielsweise im Rahmen einer Längsschnittstudie?

• Hält er eine vom Anbieter kontrollierte Altersgrenze für ausreichend, oder will er eine Altersüberprüfung verlangen, beispielsweise über die E-ID? Wird die KI-Regelung unter Berücksichtigung von Artikel 11 der Bundesverfassung (BV) verbindliche Verpflichtungen zum Schutz der kognitiven Integrität von Minderjährigen vorsehen?

• Artikel 34 Absatz 2 BV schützt die freie Meinungsbildung. Wie beurteilt er gestützt darauf die Auswirkungen von Chatbots und KI-Agenten auf Abstimmungen und Wahlen? Beabsichtigt er, sie in den Geltungsbereich des KomPG aufzunehmen oder sie im Rahmen der KI-Vorschriften zu regeln?