Chancen und Risiken von KI-Systemen in der Cybersicherheit

Der Bundesrat wird beauftragt, in einem Bericht darzulegen, inwiefern das Aufkommen von Machine Learning, Deep Laerning oder Large Language Models - landläufig als Künstliche Intelligenz (KI) bezeichnet - generell Cybersicherheit beeinflusst, welche Chancen sich daraus ergeben und wie mit den Risiken umzugehen ist. Der Bericht soll ebenfalls aufzeigen, inwiefern die Nationale Cyberstrategie NOS den sich rasch verändernden KI-Entwicklungen gerecht wird und welche Schlüsse aus einer solchen Analyse zu ziehen sind.

Künstliche Intelligenz ist eine Grundlagentechnologie in rasanter Entwicklung. Schon jetzt werden Fähigkeiten erreicht, die Experten erst in 5 bis 10 Jahren erwartet haben. Dazu gehören generelle mathematische Problemlösungen, realistische Text-zu-Video Generierung, Generierung von Programmiercode sowie Stimmimitation und cybergestützte Beeinflussungsoperationen für die Cybersicherheit. KI-gesteuerte Bots können massenhaft personalisierte und überzeugende Phishing-Angriffe durchführen, indem sie menschenähnliche Texte erstellen, um Benutzer dazu zu bringen, sensible Informationen preiszugeben oder schädliche Links anzuklicken. Fortgeschrittene KI-Modelle ermöglichen täuschend echte Deepfakes, bei denen Gesichter in Videos manipuliert werden. Diese Technologie kann für betrügerische Zwecke genutzt werden, um gefälschte Videos von Prominenten oder politischen Führungspersonen zu erstellen und Desinformation zu verbreiten oder Rufschädigung zu betreiben. KI-Systeme können autonom Cyberangriffe durchführen, ohne menschliche Intervention. Durch maschinelles Lernen können sie Schwachstellen identifizieren und ausnutzen, um bösartige Aktionen wie DDoS-Angriffe, Netzwerkeindringen oder Datenkompromittierung durchzuführen.

KI-Anwendungen spielen jedoch auch eine Rolle in der Cyberabwehr und Cybersicherheit. Sie erkennen Bedrohungen, wehren Angriffe ab und überwachen Schwachstellen in Echtzeit. KI-Algorithmen analysieren groe Datenmengen, identifizieren Anomalien, verbessern die Erkennung von Malware und unterstützen automatisierte Reaktionen auf Vorfälle. Mit maschinellem Lernen verbessern sich KI-Systeme kontinuierlich und passen sich neuen Bedrohungen an. Von der Identifizierung von Phishing-Angriffen bis zur Erkennung von Zero-Day-Exploits bietet KI eine leistungsstarke Verteidigung gegen immer raffiniertere Cyberangriffe.

Der Bundesrat beantragt die Annahme des Postulates.

Annahme