Im Wallis sorgt derzeit ein erschreckender Fall für Aufsehen: Ein Betreuer soll mittels Künstlicher Intelligenz ein Nacktbild einer 14-jährigen Schülerin erstellt haben, basierend auf einem harmlosen Instagram-Foto, auf dem sie im Bikini zu sehen war. Das Bild wurde durch die Technik so bearbeitet, dass der Bikini entfernt wurde. Ein klarer Verstoß gegen die Grenzen des Anstands und der Moralkodizes, der nun vor dem Kantonsgericht Wallis verhandelt wird. Dem Mann wird die Erstellung von illegalem pornografischem Material vorgeworfen, doch gilt auch hier die Unschuldsvermutung, bis das Urteil gefällt ist. Dieser Fall könnte möglicherweise der erste in der Schweiz sein, bei dem sexualisierte Deepfakes von Minderjährigen strafrechtliche Konsequenzen nach sich ziehen.

Die Debatte über digitale Gewalt und die Gefahren von Deepfake-Pornografie hat jüngst an Fahrt gewonnen, insbesondere nach den Vorwürfen gegen den deutschen Schauspieler Christian Ulmen. Immer mehr Menschen, darunter Millionen von Frauen und Kindern, sind betroffen. Eine Tech-NGO hat bereits über 100 Nudify-Apps identifiziert, die mehr als 700 Millionen Mal heruntergeladen wurden. Der Nationalrat hat reagiert und eine Einschränkung von Deepfake-Anwendungen beschlossen. Ein Vorschlag von Nationalrat Raphaël Mahaim, der darauf abzielt, KI-Anbieter zur Verantwortung zu ziehen, wird vom Bundesrat unterstützt – und das, obwohl man zuvor zögerte, neue Vorschriften für KI und soziale Medien einzuführen.

EU plant Maßnahmen gegen Deepfakes

Parallel dazu plant die EU ein Verbot von KI-Anwendungen, die sexualisierte Deepfakes erstellen. Vertreter der Mitgliedstaaten und des Europäischen Parlaments haben sich auf eine Anpassung des europäischen KI-Gesetzes geeinigt, die ab dem 2. Dezember 2026 in Kraft treten soll. Dieses Verbot zielt auch auf Inhalte ab, die sexuellen Kindesmissbrauch darstellen, und wird vom KI-Amt der EU durchgesetzt. Deepfakes, die manipulierte Videos mit Gesichtern oder Stimmen von Personen ohne deren Zustimmung zeigen, sind ein besorgniserregendes Phänomen.

Die Diskussion über digitale Gewalt hat durch den KI-Chatbot Grok und die Vorwürfe gegen Christian Ulmen neue Impulse erhalten. In Deutschland brodelt die Debatte über digitale und sexualisierte Gewalt gegen Frauen. Bereits seit Mai 2024 gilt in der EU eine Richtlinie, die manipulierte Darstellungen sexueller Handlungen ohne Zustimmung strafbar macht, doch Deutschland hat diese noch nicht umgesetzt. Der neue Gesetzentwurf soll den Fokus von der Bestrafung einzelner Taten auf das Verbot bestimmter KI-Anwendungen verschieben, wobei man darauf abzielt, eine klare Definition für sexualisierte Inhalte festzulegen.

Ein Blick in die Zukunft

Die Industrie drängt auf weniger Doppelregulierung, um die Wettbewerbsfähigkeit nicht zu gefährden. Anbieter von KI-Inhalten müssen ab Dezember 2026 diese Inhalte mit Wasserzeichen kennzeichnen. Das klingt zwar gut, aber die Umsetzung erweist sich als herausfordernd. Fachstellen warnen bereits vor einer alarmierenden Zunahme von Nacktbildern von Kindern und Jugendlichen, die mit KI erstellt werden. Kinderschutz Schweiz meldet eine Verzehnfachung von Meldungen zu pädokriminellem Material seit 2022.

Werbung
Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Das Phänomen der Deepfakes hat auch andere düstere Seiten: Sie werden nicht nur zur Erpressung und zum Mobbing eingesetzt – eine Studie zeigt, dass einer von 17 Jugendlichen betroffen ist. Ermittlungsbehörden haben Schwierigkeiten, zwischen echten und KI-generierten Inhalten zu unterscheiden, was die Lage noch komplizierter macht. Forensiker warnen vor der Gefährlichkeit dieser Technologien und deren möglichen Einfluss auf die Hemmschwelle für physische Übergriffe. Es ist eine Zeit, in der die Grenzen zwischen Realität und Fiktion mehr denn je verschwimmen.

In den USA wurde der „Take It Down Act“ verabschiedet, der Online-Plattformen verpflichtet, nicht einvernehmliche intime Bilder innerhalb von 48 Stunden zu entfernen. Diese Maßnahmen könnten als Vorbild für zukünftige Regulierungen in Europa dienen, während sich die Gesellschaft auf einen Kampf gegen diese digitale Bedrohung vorbereitet. Der Weg ist steinig, aber notwendig, um Kinder und Jugendliche vor den Gefahren der digitalen Welt zu schützen.