Stimmklonierung mittels künstlicher Intelligenz. Erfordert die zunehmende Verbreitung von Stimmfälschung eine eingehendere Untersuchung dieses Phänomens in der Schweiz?

In den letzten Jahren hat sich das Parlament bereits mehrfach mit den Risiken befasst, die mit Deepfakes , Phishing, dem Diebstahl digitaler Identitäten und anderen Formen der auf künstlicher Intelligenz basierenden Cyberkriminalität verbunden sind. Gleichzeitig taucht ein Phänomen auf, das sich immer schneller verbreitet und besonders beunruhigt: die sogenannte „ “ Stimmenklonierung, also die KI-generierte Nachahmung der Stimme einer Person.

Zahlreichen Fachberichten und Fällen zufolge, über die kürzlich auch in der Schweizer Presse berichtet wurde, reichen heute bereits wenige Sekunden einer Tonaufnahme – die oft leicht in den sozialen Medien oder im Internet zu finden sind – aus, um äusserst glaubwürdige Stimmimitationen zu erstellen. Diese Technologien werden für Telefonbetrug, betrügerische Aufforderungen zu Banküberweisungen, gefälschte Eilaufträge oder Manipulationen gegenüber Privatpersonen, Unternehmen und älteren Menschen genutzt. Auch das Bundesamt für Cybersicherheit (BACS) hat kürzlich einen Anstieg von Voice-Phishing-Fällen gemeldet, die durch den Einsatz künstlicher Intelligenz immer raffinierter werden.

Angesichts dieser Entwicklungen stelle ich dem Bundesrat folgende Fragen:

• Welche bekannten oder geschätzten finanziellen Schäden sind in der Schweiz auf Fälle von „ “ Stimmklonierung oder von „ “ Voice-Phishing zurückzuführen, die auf Technologien der künstlichen Intelligenz basieren? Verfügt der Bundesrat über Einschätzungen darüber, wie sich dieses Phänomen und die damit verbundenen Schäden künftig entwickeln könnten?

• Gibt es bereits Formen einer strukturierten Zusammenarbeit zwischen Bund, Kantonen, Telekommunikationsanbietern, digitalen Plattformen, Technologieanbietern, Banken und anderen Finanzintermediären, um Fälle von „ “ Stimmklonierung zu betrügerischen Zwecken aufzudecken, zu melden und zu verhindern? Falls ja, reichen sie nach Ansicht des Bundesrates aus?

• Hält es der Bundesrat für notwendig, eine nationale Statistik zu Fällen von Betrug mittels Stimmklonierung einzuführen und diese von anderen Formen von Phishing oder Cyberkriminalität abzugrenzen?

• Welche Sensibilisierungs- und Präventionsmassnahmen wurden bereits ergriffen oder sind geplant, um die Bevölkerung – insbesondere ältere Menschen, Unternehmen und Behörden – über die Risiken im Zusammenhang mit der betrügerischen Verwendung von KI-generierten Stimmen zu informieren?

Zu 1) Zwischen Voice Phishing (sog. Vishing) und Voice Cloning besteht ein wesentlicher Unterschied. Als Voice Phishing werden betrügerische Telefonanrufe bezeichnet, bei denen Kriminelle mit menschlichen oder computergenerierten Stimmen versuchen, das Vertrauen der Opfer zu erschleichen und sie zu täuschen, ohne dabei die Stimme einer konkreten Person nachzuahmen. Als Voice Cloning bezeichnet man hingegen die KI-gestützte Imitation der Stimme einer bestimmten realen Person mit dem Ziel, deren Identität gezielt zu fälschen.

Im ersten Halbjahr 2026 wurden dem Bundesamt für Cybersicherheit (BACS) knapp 2’000 Fälle von Voice Phishing gemeldet. In diesem Bereich der Betrugsformen ist in den vergangenen Monaten eine deutliche Zunahme der Fälle zu verzeichnen, wobei die Schadenssumme nicht bekannt ist. Ebenfalls kann nicht festgestellt werden, welchen Anteil KI an der Zunahme der Fälle hat. Zwar erleichtert der Einsatz von KI die Durchführung solcher Angriffe, diese können aber auch ohne Verwendung von KI umgesetzt werden.

Anders verhält es sich beim Voice Cloning, welches erst durch KI ermöglicht wird. Der bei einem solchen Vorgehen nötige Aufwand lohnt sich für die Angreifer nur bei besonders lukrativen Zielen. Entsprechend beschränken sich gezielte Angriffe über Voice Cloning, bei denen beispielsweise die Stimme eines CEOs geklont wird, primär auf grosse Unternehmen. Dem BACS wurden bisher nur wenige solcher Fälle gemeldet. Jedoch setzt der breite Zugang zu generativen KI-Modellen die Hürden für Voice-Cloning herab.

Zu 2) Das BACS nimmt Meldungen zu Cybervorfällen und Cyberbedrohungen entgegen und tauscht sich regelmässig mit den Strafverfolgungsbehörden, Telekommunikationsanbietern, Banken und weiteren Betroffenen aus. Dieser Informationsaustausch funktioniert und ist insbesondere im Bereich Phishing gut etabliert.

Zu 3) Aus heutiger Sicht erscheint eine eigene Statistikkategorie für Voice Cloning nicht zielführend. Entsprechende Fälle sind sehr selten, weshalb der Erkenntnisgewinn einer solchen Kategorie gering wäre. Zudem fehlen zuverlässige Methoden, um nachträglich festzustellen, ob eine Stimme mittels KI geklont wurde.

Zu 4) Das BACS, die Kantonspolizeien, die Banken und weitere Unternehmen und Organisationen sensibilisieren aktiv über verschiedene Kanäle zum Thema Phishing und speziell zu Voice Phishing. Beispiele dafür sind die Informationen auf der Webseite des BACS, auf der Webseite cybercrimepolice.ch oder die nationalen Sensibilisierungskampagnen «s-u-p-e-r.ch» und «e-Banking - aber sicher!». Für ein junges Zielpublikum hat ausserdem das Bundesamt für Kommunikation (BAKOM) eine Sensibilisierungskampagne in Form von Comics (abrufbar unter www.websters.swiss) herausgegeben. Die Sensibilisierung hat zum Ziel, die Bevölkerung aufzuklären, dass eine angezeigte Nummer und eine vertraute Stimme kein verlässlicher Identitätsbeweis sind und bei dringenden Zahlungsaufforderungen am Telefon die Verbindung unterbrochen werden soll. Unter anderem wird die Vereinbarung von Familien-Codewörtern explizit empfohlen. Die Sensibilisierungskampagnen werden laufend der aktuellen Bedrohungslage angepasst.