Grok und sexualisierte Deepfakes. Jetzt handeln!

Der Bundesrat wird beauftragt, einen Gesetzesentwurf vorzulegen, mit welchem die Anbieter von Anwendungen generativer künstlicher Intelligenz verpflichtet werden, vor der Markteinführung der Anwendungen Risiko- und Schadensabschätzungen hinsichtlich der Erstellung von sexualisierten Deepfake-Inhalten vorzunehmen sowie Schutzmassnahmen zu ergreifen, wenn ihre Anwendungen sexualisierte Deepfake-Inhalte erstellen können. Es soll eine Prüfinstanz geben, die Risikoabschätzungen und ergriffene Massnahmen prüft und gegebenenfalls die Anbieter sanktionieren kann.

Die in der Plattform «X» integrierte KI «Grok» machte es vor: Bilder von Frauen und Kindern wurden von der KI so verändert, dass sie die Frauen und Kinder in äusserst knapper Kleidung und in aufreizenden Posen zeigten. Die Bilder wurden über die Plattform veröffentlicht. Diese eklatante Verletzung der Persönlichkeitsrechte der betroffenen Personen darf nicht einfach hingenommen werden. Insbesondere bei Kindern stellen sexualisierte Deepfakes eine schwere Form sexualisierter Gewalt dar, mit potenziell gravierenden und langfristigen Folgen für die betroffenen Minderjährigen.

Wer die technischen Mittel für solche Persönlichkeitsverletzungen herstellt und zur Benutzung zur Verfügung stellt, muss verpflichtet sein, die Risiken dieser Mittel genau zu prüfen und Schutzmechanismen einzubauen. Es reicht nicht aus, Persönlichkeitsverletzungen erst nachträglich strafrechtlich zu verfolgen: Mit generativen KI-Tools können sexualisierte Deepfakes in grosser Zahl, mit hoher Geschwindigkeit und weltweiter Reichweite erstellt und verbreitet werden, deutlich schneller, als sie entfernt oder strafrechtlich verfolgt werden können.

Anbieter digitaler Dienste, welche die Nutzung generativer KI enthalten, müssen verpflichtet werden, ihre Angebote hinsichtlich der Herstellung verbotener oder persönlichkeitsverletzender Inhalte zu prüfen. Risikoabschätzungen sind einer Schweizer Prüfinstanz vorzulegen. Es sind von den Anbietern Massnahmen zu ergreifen, um die erkannten Risiken und zu erwartenden Schäden zu minimieren. Die Schweizer Prüfinstanz soll die Möglichkeit haben, die Anbieter im Fall von nicht adressierten Risiken zu sanktionieren.

Der Bundesrat beantragt die Annahme der Motion.

Annahme