KI-generierte Bilder sehen inzwischen oft täuschend echt aus. Sogenannte Deepfakes ermöglichen aber auch neue Ausprägungen digitaler Gewalt: Menschen werden etwa ohne ihr Einverständnis in pornografische Inhalte retuschiert. Täterinnen und Täter verfolgen zum Beispiel das Ziel, ihre Opfer bloßzustellen oder zu erpressen.

Wir haben mit der Juristin Jacqueline Sittig darüber gesprochen. Sie sagt: Bildbasierte sexualisierte Gewalt ist kein neues Phänomen. Die breite Verfügbarkeit von generativer KI hat dem aber eine ganz neue Dimension gegeben.

Im Gespräch erklären wir,

• warum bildbasierte sexualisierte Gewalt uns alle betrifft,
• wie die rechtliche Lage in Deutschland aussieht
• und welche Rolle Anbieter von KI-Tools und Plattformen spielen.

Außerdem gibt es Handlungsempfehlungen für Betroffene. Eine Folge über gesamtgesellschaftliche Verantwortung, juristische Herausforderungen – und darüber, warum Jacqueline Sittig dennoch empfiehlt, nicht den Kopf in den Sand zu stecken.

• Formen digitaler Gewalt: https://www.bsi.bund.de/DE/Themen/Verbraucherinnen-und-Verbraucher/Cyber-Sicherheitslage/Methoden-der-Cyber-Kriminalitaet/Digitale-Gewalt/digitale-gewalt_node.html

• Deepfakes – Gefahren und Gegenmaßnahmen: https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/Deepfakes/deepfakes_node.html

• NetzBeweis – Beweissicherung im Internet: https://www.netzbeweis.com/

• Hate Aid – Unterstützung für Betroffene: https://www.hateaid.org

• Jacqueline Sittig beim Deutschen Juristinnenbund e.V.: https://www.djb.de/bundeskongress-25/vorstellung-referentinnen/sittig-jacqueline

Zum Transkript der Folge: https://multimedia.gsb.bund.de/BSI/Podcast/260527BSI-PodcastFolge67_Transkript.pdf

Kontakt: • Website https://www.bsi.bund.de/ • Instagram https://www.instagram.com/bsi_bund/ • Mastodon https://social.bund.de/@bsi • E-Mail bsi@bsi.bund.de