00:00:07:

00:00:08: Wie gut bist du in so TikTok-Tänzen?

00:00:11: Ach, also wenn ich vor fünf Jahren gefragt hätte, hätte ich gesagt, dass das irgendwas was im Schwarzwald hergestellt wird.

00:00:18: Antwort ist auch im Jahr zum Jahrzehntausend sechsundzwanzig nicht besonders gut, weil ich weniger anschaue.

00:00:23: Also du weißt weiß ich meine mit Tiktok-Tänzen ne?

00:00:25: Wenn so die jungen Leute immer irgendwelche Choreografien bei Social Media durchtanzen und ich finde es sieht immer so leicht aus aber wenn ich da mal damit anfange dann merke ich halt doch ganz schnell dass der Disco Fox von früher immer noch hart in meinen Knochen steckt und noch einiges anderes anscheinend was meine Beweglichkeit jetzt mit Mittevierzig etwas einschränkt.

00:00:44: mittlerweile

00:00:45: Und das musst du dir auf TikTok rausschütteln, weil eigentlich müsstest du ja gar nicht mehr TikTok tanzen.

00:00:51: Wenn du noch Disco Fox kennst und es gibt doch außerdem falls du doch das betrifft.

00:00:55: Das heißt jetzt die passenden KI-Tools da muss nur ein Foto von dir hochladen und dann wird ein Video von der erstellt indem's genau so aussieht als wärst du TikTok Zielgruppe Mitte zwanzig und könntest pantherhaft agil jeden Dance Move der Erde Stehende in der Luft tanzen.

00:01:12: Mit meiner Pantherhaften Agilität, ja ganz genau!

00:01:14: Das habe ich tatsächlich noch nie probiert.

00:01:16: aber auf die Art könnten wir uns jetzt zusammen vielleicht mal so eine Choreo erstellen um dann auch diesen Podcast trennten zu lassen vielleicht auf TikTok und dann wäre ein Deepfake von uns zumindest mal sowas sinnvollem gut.

00:01:29: denn in sehr vielen anderen Fällen sind diese Deepfakes ziemlich problematisch und darüber sprechen wir heute.

00:01:44: Wenn du mich nach meiner Lieblingskoreografie auf KI fragst, da wäre ich natürlich sehr dabei wenn wir diese Szene wo die beide so in der Luft schweben bei The Matrix.

00:01:53: zusammen nachspielen.

00:01:54: Du weißt was ich meine?

00:01:54: Also, ich bin der eine aber wichtig ist wenn ich es richtig sehe du hast von problematischen KI-Simulationen gesprochen dass wir beide wahrscheinlich einverstanden sind bevor wir so ne Marshall Arzt Szene gemeinsam hier in die Luft legen.

00:02:07: Richtig

00:02:08: und dann müssen wir aber selbstverständlich auch noch offenlegen das es sich um einen KI generierten Inhalt handelt.

00:02:15: Und da sind wir jetzt schon bei einigen wichtigen rechtlichen Fragen rundum sogenannte Deepfakes.

00:02:19: Was wir uns heute allerdings noch genauer anschauen möchten dieser Folge und jetzt wird es ernst, sind sexualisierte Deepfakes.

00:02:25: Und damit verlassen wir den Fun-Part der Unterhaltung und steigen in einen deutlich dunkleren Bereich der KI generierten Netzinhalte ab.

00:02:33: Vorher erklärt Hadi euch aber noch mal kurz die genaue Definition!

00:02:51: Meist sind es Videos, Bilder oder Audios in denen Gesichter Stimmen oder Bewegungen so verändert oder künstlich erzeugt wurden dass sie zum Beispiel aussehen und klingen wie echte Personen.

00:03:02: Dafür werden sogenannte neuronale Netze genutzt die aus riesigen Mengen an Bild- und Tonmaterial lernen.

00:03:07: Diebfakes werden zum Beispiel genutst um sich online als eine andere Person auszugeben etwa für Betrug Erpressung oder Identitätsdiebstahl.

00:03:16: In anderen Fällen geht es Menschen darum, falsche Informationen zu verbreiten – etwa Politikerinnen oder Politikern Aussagen in den Mund zu legen die sie nie gemacht haben.

00:03:25: Ein besonders schwerwiegender Fall sind sexualisierte Deepfakes bei denen echte Personen ohne Einwilligung in pornografische Szenen eingefügt werden.

00:03:33: Weil Deepfake so real wirken wird es immer schwerer Wahrheit von Fälschung zu unterscheiden!

00:03:40: Bevor wir jetzt weiter ins Thema einsteigen und ihr unsere Interviewpartnerin der heutigen Folge kennenlernt, möchte ich noch kurz den Hinweis an euch geben.

00:03:48: Es geht in unserem Gespräch um sexuelle Gewalt – wenn ihr selbst oder vielleicht jemand in eurem Umfeld Gewalterfahrungen machen musstet und ihr wisst dass es euch schwerfällt darüber zu hören, holt euch vielleicht noch jemanden mit dazu damit ihr nicht allein seid oder es gibt die Folge!

00:04:02: Die wichtigsten Hinweise zur Hilfe für Betroffene setzen wir euch in die Show-Notes.

00:04:08: Schlin hat mit Jacqueline Sittig gesprochen, sie ist Juristin Mitglied der Strafrechtskommission des deutschen Juristinnenbunds und Expertin für bildbasierte sexualisierte Gewalt.

00:04:20: worüber sie auch ihre Doktorarbeit schreibt.

00:04:22: Eine wirklich

00:04:22: beeindruckende Frau mit einem beeindruckenden Wissen über Paragrafen und Zusammenhänge, unser Thema betreffend das in diesem Jahr ja nochmal besonders an Fahrt aufgenommen hat.

00:04:32: Jacqueline herzlich willkommen bei Update verfügbar und danke dass du dir die Zeit nimmst für uns!

00:04:37: Vielen Dank Schleen.

00:04:38: ich freue mich heute mit dir über dieses spannende und hoch aktuelle Thema zu sprechen.

00:04:42: Ja, hochaktuell ist es vor allem.

00:04:43: Es ist dieses Jahr auch schon sehr hoch gekocht durch verschiedenste Fälle.

00:04:47: der bekannteste Kulin Fernandes liegt auf dem Tisch sozusagen.

00:04:52: da werden wir auch noch ein bisschen drauf eingehen auf jeden Fall.

00:04:54: aber das Thema Deepfake is allgemein gesellschaftlich sehr hochgekocht und durch KI natürlich immer aktueller geworden.

00:05:02: je weiter die KI fortschreitet desto schlechter sind Deepfakes zu unterscheiden mittlerweile.

00:05:07: Jacqueline, es ist ja dein Fachgebiet sozusagen Wofür du rechtlich absolut brennst.

00:05:14: Kannst Du uns mal so ein bisschen erklären, was verstehen wir denn unter Bildbasierter sexualisierte Gewalt?

00:05:21: Also bildbasierte, sexualisierte Gewalt.

00:05:23: Das ist ein Überbegriff für viele Erscheinungsformen die an sich gar nicht so neu sind.

00:05:27: also beispielsweise wenn einen Ex-Freund nach dem Ende der Beziehung ursprünglich einvernehmlich erstellte Nacktbilder unbefugd verbreitet dann ist das etwas dass wir als Phänomen als Rache Pornografie kennengelernt haben.

00:05:40: und da es auch schon ja seit Jahrzehnten gibt das gibt's natürlich in analoger Form.

00:05:44: Und nun mit der Digitalisierung bekommt das eben eine neue Tragweite weil die Verbreitung im Netz von solchen Bildern Wir kennen es alle, einmal im Internet rasend schnell voranschreitet.

00:05:54: Wir haben da eine Lawine der Verbreitung von solchen Aufnahmen und bildbasierte sexualisierte Gewalt beschreibt Audio oder visuelle Inhalte die quasi zur Sexualisierung herangezogen werden von den abgebildeten Personen.

00:06:08: Eine weitere Erscheinungsform ist zum Beispiel das sogenannte Upskirting und Downplossing.

00:06:12: Also, upskirting, das meint mit einer Kamera meistens mit so winzig kleinen Spycams, denn dass es jetzt technologisch möglich unter den Rock zu filmen oder zu fotografieren oder eben auch down the blouse also in die Bluse hineinzu fotografieren.

00:06:26: Bekannt geworden ist das Phänomen damals im Rahmen von einer Petition, in der es darum ging, dieses strafrechtlich zu erfassen.

00:06:33: Wir hatten dann tatsächlich einen Straftatbestand eingeführt wurde Und all diese Vereins Ausprägung oder Scheinungsformen von bildbasierter sexualisierter Gewalt haben natürlich eine neue Komponente bekommen, eine ganz neue Dimension durch den Einsatz von künstlicher Intelligenz.

00:06:46: Nämlich im Rahmen von sexualisierten Deepfags.

00:06:49: und während es da auch unschädliche gibt, gibt es vor allem schädliche wenn das Einvernehmen fehlt um diese Deepfax zu erstellen.

00:06:57: Und dann sprechen wir von nicht einvernehmlichen sexualisierte Deepfacks die eben mit dem bloßen Auge gar nicht mehr zu erkennen sind.

00:07:03: aber wir alle können mittlerweile in pornografische Hinein retuschiert werden.

00:07:08: Du

00:07:08: hast ja auch viel mit Betroffenen zu tun, wenn du sagst wir alle können da irgendwo Opfer davon werden?

00:07:15: Wen betrifft denn bildbasierte sexualisierte Gewalt in erster Linie?

00:07:19: Bildbasierter sexualisierten Gewalt betriffte uns alle aber eben nicht alle gleich.

00:07:23: Es ist ganz wichtig das zu betonen Denn in ersters Linien denkt man erst mal an die Betroffennen.

00:07:28: Für DIE stellt es eine riesige Verletzung durch diese sexuelle Objektivierung da, das kann zu psychischen und aber auch zu körperlichen Schäden führen.

00:07:38: Also natürlich betrifft es die Psyche, dass ist etwas mit dem Betroffenen Macht ... Beschwerden führen und vor allem auch weitreichende Folgen haben, beispielsweise wenn personenbezogene Daten wie Handynummer, E-Mail Adresse mit solchen Aufnahmen veröffentlicht werden.

00:07:53: Dann sind die Betroffenen häufig auch finanziell geschädigt, wenn sie sich darum bemühen müssen eben diese Daten zu ersetzen.

00:07:58: Und betroffen sein kann potenziell jeder denn es braucht nur ein paar Bilder im Internet um einen qualitativ hochwertigen sexualisierenden Deepfake von uns zu erstellen.

00:08:09: Über diese Ebene, diese individuelle Ebene hinaus gibt es auch eine gesamtgesellschaftliche Perspektive auf das Phänomen.

00:08:15: Denn wir sehen in Studien, dass nicht nur diejenigen, die selbst betroffen sind von Hass im Internet oder von solchen Taten sondern eben auch diejenigen die sie nur wahrnehmen also erleben, dass Personen diffamiert werden beispielsweise mit solchen Deepfakes oder anderen Taten, dass die sich aus dem Internet zurückziehen.

00:08:33: und wenn wir uns dann anschauen wer eigentlich besonders betroffen ist deepfakes, dann sehen wir das die Meinungsvielfalt im Internet zurückgeht.

00:08:42: Was meine ich damit?

00:08:43: Wir haben genau drei Studien, die überhaupt erfassen wer von nicht einvernehmlichen sexualisierten Deepfakes am meisten betroffen ist.

00:08:49: und nach diesen Zahlen von all den Deepfake's, die erstellt werden sind ungefähr drein neunzig sechsen neunziger acht neunzeig Prozent der Inhalte pornografische Inhalter.

00:08:59: Das heißt diese humoristischen Bilder oder auch die Bilder mit dem uns beschäftigen Rahmen von Meinungsfreiheit, dass es eigentlich nur die Spitze des Eisbergs.

00:09:07: darunter liegen eben diese pornografischen Deepfakes, die ja fast nahezu alle Deepfake ausmachen, die im Netz verbreitet werden.

00:09:14: Wenn wir uns diese jetzt anschauen dann sehen nach den Studien ungefähr neunundneinzig Prozent all dieser sexualisierenden pornografischen Deepfags Frauen darstellen.

00:09:25: Bei dieser besonderen Betroffenheit sind es dann eben Frauen und auch weitere marginalisierte Gruppen, das kennen wir nämlich schon!

00:09:31: Wir müssen hier das Rat nicht neu erfinden.

00:09:32: Bei der digitalen Gewalt sind Frauen auf eine besondere Art und Weise betroffen genauso wie weitere marginalisierte Gruppen.

00:09:39: Vulnerable Gruppen wie beispielsweise Personen mit Migrationshintergrund.

00:09:42: Wir sehen antisemitische und rassistische Vorgänge Folge von solcher digitalen Gewalt aus dem Internet zurückziehen und diese Meinung finden dann eben in diesen virtuellen Räumen nicht mehr statt.

00:09:54: Jetzt ist es ja so, du sagst, es trifft uns alle.

00:09:57: Es betrifft manche Personen eben ganz im Besonderen oder sehr persönlich und wir haben ja – ich habe's gerade schon angesprochen – einige bekannte Fälle aktuell auch auf dem Tisch liegen.

00:10:07: Kulin Fernandes ist jetzt dieser Fall der in diesem Jahr sehr hoch gekocht ist und der jetzt auch zu einiger Bewegung in dieser Diskussion geführt hat.

00:10:16: Es sind aber nicht nur Robbys!

00:10:18: Man hat immer so'n bisschen im Kopf, naja gut das sind halt sehr bekanne Personen deswegen kann den was passieren, sondern es sind eben keine Ahnung.

00:10:26: Die ganz normale Schlinen aus München!

00:10:29: Beispielsweise.

00:10:30: Richtig!

00:10:30: Du sprichst damit einen Punkt an, der sehr wichtig ist.

00:10:33: Denn digitale geschlechtsspezifische Gewalt und dazu gehört bildbasierte sexualisierte Gewalt, ist Ausdruck- und Fortsetzung bestehender Machtstrukturen.

00:10:40: Und die trifft eben nicht nur die Personen des öffentlichen Lebens.

00:10:43: Ganz klar muss man sagen dass die Vorwürfe, die jetzt auch Colin Fernandez erhoben hat, das die Zeugnis davon sind, dass es oft Personen des Öffentlichen Lebens sind, die die Stärke haben ,die die Ressourcen haben finanziell und vielleicht auch emotional abgehärteter sind in der Sache nach außen zu treten, wenn gleich natürlich persönlich nicht minder betroffen von diesen Taten.

00:11:03: Dass es die sind, die sich diesen Fällen aussetzen und wirklich die Verfolgung suchen.

00:11:08: Aber man kann nicht davon sprechen dass nur Personen des öffentlichen Lebens von sexualisierenden Deepfags betroffen sind.

00:11:14: ganz im Gegenteil diese Machtstrukturen bestehen auf allen Ebenen in allen Altersklassen in allen Schichten Und diese Taten gehen eben häufig mit anderen Gewaltformen einher.

00:11:27: Das sind häufig Ausdruck von Kontrollverhalten, sie kommen häufig aus dem sozialen Nahraum wie beispielsweise die Vorwürfe von Colleen Fernandes ja auch zeigten und sind eine Fortsetzung von bestehenden Machtstrukturen.

00:11:40: Die Wissenschaftlerin Prassat sprach davon, dass man im Rahmen digitaler geschlechts- spezifischer Gewalt häufig eine Renaissance des Victim-Plamings erlebe.

00:11:48: Und damit hat sie vollkommen recht!

00:11:50: Denn während man früher vor KI noch sagen konnte naja wenn Sie eben nicht möchte das Nacktbilder von ihr verschickt werden dann soll sie eben einfach keiner erstellen und das ist natürlich in Zeiten von Deepfakes komplett hinfällig.

00:12:01: mittlerweile sind wir alle potentiell Betroffene von solchen Deepfags.

00:12:06: Wir alle begegnen diesen Deepfags auch jedes Mal, wenn wir uns im virtuellen Raum bewegen.

00:12:10: Wenn wir uns mal die rechtliche Lage dahinter anschauen speziell in Deutschland welche Rechte werden denn hier verletzt?

00:12:17: Beziehungsweise wo gibt es da noch Lücken im Strafrecht?

00:12:21: Inwieweit ist das Ganze abgedeckt?

00:12:23: Wenn man uns rechtlich dem Phänomen von nicht einvernehmlichen sexualisierten Deepfaggs wird dann wird's ganz schon kompliziert.

00:12:29: Also ich puzzle gerne und genauso puzzle muss man auch wenn man sich den rechtlichen Rahmen anschaut Denn dann ist das kein eigener Rechtsbereich, sondern eine Querschnittsmaterie.

00:12:40: Wenn wir uns dem widmen als Juristin, dann schaue ich erst mal, welche Rechtsgüter sind da eigentlich verletzt?

00:12:45: Da denke ich in erster Linie an das Recht auf sexuelle Selbstbestimmung, dass das Grundrecht uns aus dem Grundgesetz dem höchsten deutschen Recht zuspricht.

00:12:53: Aber auch das allgemeine Persönlichkeitsrecht

00:12:55: z.B.,

00:12:55: das Recht am eigenen Bild oder das Recht an der eigenen Stimme und dem Selbstdarstellungsschutz kann von deepfakes erfasst sein.

00:13:01: Genauso eben auch das Recht eben diese geschäftspezifische Dimension gibt.

00:13:07: Gleichzeitig das Recht auf informationale Selbstbestimmung und natürlich auch das recht auf körperliche Unversehrtheit, gerade wenn eben... psychisch starke Belastungen auf so eine Verbreitung folgen oder eben auch in körperliche Beschwerden umstagen.

00:13:18: Und dann auf der anderen Seite gibt es vermeintlich einer Abwägung, dass man sich fragt naja ist das nicht eigentlich nur Ausdruck von Meinungsfreiheit?

00:13:25: Kann das denn noch Ausdrucks- und Kunstfreiheit sein wenn ich solche deepfakes überhaupt verbreite?

00:13:30: Das sind die Grundrechte mit denen wir im Kern beginnen also ein Puzzleteil!

00:13:34: Dann denken wir natürlich zunächst an das schärfste Schwert des Staates, an das Strafrecht und fragen uns wie sind denn eigentlich Betroffene strafrechtlich geschützt von der Herstellung, von der Verbreitung oder von anderweitigen Verwendungsformen im Rahmen von Deepfakes.

00:13:48: Denn das muss man ganz klar sagen.

00:13:49: also natürlich gibt es das Herstellen und das Gebrauchen aber es gibt auch anderweitige Verwendungshorme.

00:13:54: Also typischerweise sind Begleitarten das Hacking, also das Beziehen von solchen Daten an diese Bilder zu geraten.

00:14:01: wir haben das sogenannte Doxing, dass Veröffentlichungen von personenbezogenen Daten.

00:14:05: Personen bezogene Daten sind all die Daten die eine Identifizierung zulassen zum Beispiel der Klarname, die Adresse E-Mail Adresse oder auch die Handynummer.

00:14:14: Dann haben wir häufig Beleidigungsdelikte, beispielsweise wenn solche Inhalte auf Foren verbreitet werden in denen es Kommentarfelder gibt und dann dazu eingeladen wird sich abfällig eben über diese Inhalter auszutauschen oder auch im Rahmen von Sex-Torschen.

00:14:27: Also wenn ich von dir schliehen jetzt zum Beispiel einen Deep Fake erstelle ein pornografischen Deep Fake und ich damit erpresse um an echte Nacktaufnahmen von dir zu gelangen weil ich eben sage naja Wenn du mir die nicht schicken möchtest dann schicke ich sie an deine ArbeitskollegInnen und verbreite sie eben wenn deinem privaten Umfeld von den Vorwürfen von Colleen Fernandes natürlich thematisiert worden.

00:14:46: Der Identitätsmissbrauch und der Diebstahl, ein weiteres Beispiel dazu werden zum Beispiel häufig berichten Lehrkräfte davon das Deepfakes von ihnen erstellt werden und dann eben auf Dating-Plattformen zum Beispiel weiter verbreitet werden.

00:14:59: also es gibt allerlei Begleittaten und wenn wir uns das strafrechtlich anschauen dann sehen wir dass der strafrechliche Schutz zumindest für Erwachsene betroffene fragmentiert unübersichtlich und oft unzureichend ist.

00:15:11: was meine ich konkret damit?

00:15:13: ganze Bandbreite von analogem Strafrecht, das jetzt auf digitale Lebensrealitäten trifft.

00:15:18: Und dann schauen wir uns zum Beispiel an den Straftatbestand, der abdeckt die Verbreitung von gewaltpornografischen Inhalten.

00:15:24: Denn was zeigen solche Deep Facts?

00:15:26: Das sind ja nicht nur unschuldige Bikini-Fotos das können auch brutale, gewaltverherrlichende Gruppenvergewaltigung sein und dann könnten wir über diesen Straftatenstand sprechen.

00:15:34: aber natürlich ist da der Schwerpunkt eben auf der Verletzung des Persönlichkeitsrechte dargestellten Personen und deswegen nicht hinreichend zutreffend.

00:15:41: Also dass eine große Gesetz, dass das verbietet das beispielsweise einfach mit meinem Foto jetzt ein pornografischer Inhalt erstellt wird, gibt es nicht in dem Sinne.

00:15:54: Man muss ganz klar sagen das Herstellen wird derzeit nicht erfasst unter Umständen des Verbreiten und anderweitige Verwendungsformen aber nicht systematisch nicht als dass in dieser Betroffenheit wie wir's erleben und vor allem auch wirklich fragmentiert im Einzelfall.

00:16:11: und das ist natürlich sehr nüchtern für die Betroffenen, die sich dann fragen is denn mein Einzelfallen dabei?

00:16:17: Dann gehen wir doch mal in genau diesen Bereich, wo diese deepfakes sexualisierten deepfags erstellt werden können.

00:16:24: Welche Rolle spielen denn da die Anbieter entsprechend der KI-Tools?

00:16:28: Damit thematisierst du schon das was auch die EU im Blick hat.

00:16:32: Denn die EU sieht auch die Plattformen in der Verpflichtung.

00:16:36: und wenn wir das nationale Recht betrachtet haben also das Strafrecht dann fragen wir uns natürlich wie kommen die Betroffenen überhaupt an ihre Rechte heran?

00:16:43: und da greift es Zivilrecht für die zivilrechtlichen Unterlassungen Ansprüche, also Beseitigungs- und Unterlassungsansprüche.

00:16:50: Es ist ganz relevant dass wir erstmal diese strafrechtlichen rechtsverletzenden Inhalte überhaupt haben.

00:16:53: aber dann ist natürlich die Frage wie setzen wir diese durch?

00:16:56: Einerseits könnten sich natürlich Betroffene an die Täterinnen direkt richten Aber diese sind häufig anonym und deswegen gar nicht greifbar für die Betroffenen.

00:17:05: Und dann bleiben natürlich die Plattform auf denen diese Inhalten verbreitet werden und hier sagt das EU Recht mit Tools wie zum Beispiel im Digital Services Act.

00:17:14: Wie müssen solche Meldeverfahren ausgestaltet sein, dass betroffene Inhalte niedrigschwellig melden können damit diese Inhalter entfernt werden?

00:17:22: Ganz konkret wir alle kennen diese drei magischen Punkte über jedem Inhalt auf den Klickband drauf.

00:17:28: dann gibt es so ein genanntes Meldeverfahren und das EU-Recht sieht eben ganz konkret vor wie diese ausgestaltet sein müssen.

00:17:35: Und auch da zeigt sich, ja so richtig ernst wird das nicht genommen und den Plattformen dafür ziemlich leicht.

00:17:40: Denn geht man auf diese drei Punkte sieht man meistens nur eine Oberfläche die einem wie ein Multiple-Schäustest zur Verfügung stellt welcher rechtsverletzende Inhalt jetzt vorliegt.

00:17:49: Dabei ist es eigentlich ganz klar denn der DSA sagt, die Plattform können in Kenntnis gesetzt werden und wenn sie eben eine solche substanziierte Meldung erhalten haben also dass ein rechts verletzender Inhalt vorliegen also positive Kenntnissen davon dann müssen Sie Actionverfahren eigentlich direkt löschen.

00:18:06: Diese Meldeverfahren sind aber so ausgestaltet, dass man durch die paar Klicks eigentlich gar nicht in der Lage ist hinreichend dazu legen wo denn jetzt die Rechtsverletzung besteht.

00:18:14: das heißt wir haben hier Probleme, dass die Plattformen gar nicht hinreichende Kenntnis gesetzt werden und diese sich dann eben leicht rausreden können, dass sie ja gar nicht wussten wohin eine rechts verletzende Inhalt genau liegt.

00:18:25: Wir sehen hier vor allem auch eine Verlagerung der Verantwortung auf die Betroffenen selbst Die eigentlich eine juristische Einschätzung von ihrem Fall selbst abgeben müssen, um sagen zu können woherin die Rechtsverletzung jetzt in diesem fragmentierten Strafrechtsbereich überhaupt liegt.

00:18:40: Was macht das mit der Praxis?

00:18:41: Die Betroffenen haben häufig gar nicht die Möglichkeit diese Meldung an die Plattformen zu erstatten weil sie einfach bei diesen ganzen Puzzlestücken gar nicht durchblicken können.

00:18:50: Und was bleibt ihnen übrig?

00:18:51: Sie haben die Möglichkeit, sich anwaltliche Beratung zu holen.

00:18:54: dieser kostspielig ist also kaum Anwält in Arbeit noch unter zweieinhalbfünfzig Euro Stundensatz.

00:19:00: Das heißt sie müssen eine Anwälte und einen Anwalt finden der mit Ihnen eine sogenannte Aufforderungsabgabe einer Unterlassungserklärung abgibt und diese dann quasi an die Plattform richtet.

00:19:12: Auch da sehen wir das es derzeit nicht so leicht ist.

00:19:14: Wir haben bekannte Fälle der Rechtsprechung zum Beispiel die Politikerin Renate Künast, die derzeit vor dem BGH klagt.

00:19:21: Die eben auch versucht, Falschzitate von sich aus dem Internet entfernen zu lassen ganz konkret von der Plattform Facebook von Meta und wir hatten das eben auch sehr viral jetzt mit dem Fall von Dr.

00:19:31: Eckhardt von Hirschhausen, wer sich gegen die Pflegewerbung auch auf Facebook gewährt hat.

00:19:36: hier wird gerade in der Rechtsprechung präzisiert wann genau die Plattform eigentlich handeln müssen und ob eine aktive Prüflicht besteht nachdem erst dass man sein Inhalt gemeldet wird.

00:19:47: Denn das muss man ganz klar sagen.

00:19:49: Die Inhalte verbreiten sich über die ursprüngliche Plattform hinaus und auch auf der ursprunglichen Plattform gibt es zahlreiche Kopien.

00:19:56: Die Plattformen reden sich derzeit noch aus, dass selbst wenn sie einen Inhalt gelöscht haben ist keine Verpflichtung gäbe für Sie diese Kopien ebenfalls mitzuentfernen.

00:20:04: Das heißt für die Betroffenen, dass sie wegen einem Deep Fake, wegen jeder Kopie neu losziehen müssten und jedes Mal wieder eine anwaltliche Beratung in Anspruch nehmen müssten um diese Inhalter entfernt zu können.

00:20:14: Aber das ist ja genau das dann wieder der Opfer dafür verantwortlich ist, jetzt über eine beispielsweise Google Rückwärtssuche rauszufinden.

00:20:23: Wo ist denn dieses Bild überhaupt schon überall erschienen?

00:20:26: Aber das Gleiche könnte doch die Plattform machen!

00:20:28: Also gerade wenn es um Meter geht beispielsweise da haben wir ja dann WhatsApp Instagram Facebook alles zusammen.

00:20:34: Also technisch ist es den Plattform meines Verständes nach und auch der vieler weiterer ohne weiteres möglich eben diese Kopien zu entfernen.

00:20:43: Derzeit müssen sie es nach dem Recht eben nicht und solange wir die Rechtsprechung hier nicht haben, also vor allem vor unserem höchsten Gericht vom Bundesgerichtshof wo jetzt gerade das Verfahren von Renate Künast anhängig ist werden Sie auch erst mal keine Verpflichtungen dargestellt haben denn sie genießen das sogenannte Host Provider Privileg dass eben bedeutet wenn sie als Plattform eine Plattform geben dann haften sie nicht direkt für die Inhalte die verbreitet werden weil sie quasi nur einen Ort zur Verfügung stellen wo andere ihre Inhalter verbreiten dürfen.

00:21:11: Und da reden wir jetzt eben drüber.

00:21:12: Na ja, wie steht denn dieses Haus-Provider-Privileg zu unserer Verletzung von Datenschutzrechten?

00:21:18: Also ist das Datenschutzt recht schwerer zu wiegen als dieses Hausproviderprivilegt.

00:21:22: und hier hat der EUGH tatsächlich jetzt grünes Licht gegeben für den Fall von Renate Kynos und hat in einem anderen Verfahren im Russmedia Urteil jetzt entschieden dass das Datenschutzrecht tatsächlich dem höher zu werden ist als das Haus Provider Privileg.

00:21:35: Das heißt, hier gibt es schon auch Hoffnungen je nachdem wie sich der BGH jetzt entscheiden wird.

00:21:40: Genau und was wir in dem Kontext vor allem auch sehen, wenn Betroffene immer wieder wegen jeder Kopie losziehen müssen diese große Reviktimisierung.

00:21:48: Das sind ja belastende Inhalte für die Betroffenen sich jedes Mal erneut beispielsweise mit einer Diebfeldgruppenvergewaltigung, mit anderen sexualisierenden Objektivierung auseinanderzusetzen sorgt für eine große Reviktimisierung bei den Betroffenenen, die jedes mal wieder rechtssichere Beweise herstellen müssen, anweilliche Beratungen in Anspruch nehmen können.

00:22:11: Da sieht man eben auch, warum es vor allem Personen des öffentlichen Lebens sind weil es eben extreme Ressourcen erfordert jedes Mal gegen diese Inhalte vorzugehen.

00:22:18: Jetzt hast du gesagt, Host-Provider-Privileg.

00:22:21: Das bedeutet dann ja im Grunde solang sie es nicht selbst erstellt haben sind Sie nicht dafür verantwortlich.

00:22:27: wenn ich das jetzt mal so richtig übersetze?

00:22:29: Wenn wir uns das Ganze aber im Fall von ex ehemals Twitter anschauen und diesem GROCKBOT der hier erstellt wurde Der KI BOT der plötzlich dazu geführt hat dass Personen Fotos von Kindern und jungen Frauen beispielsweise genommen haben Und sie entweder in bikinis oder oder Nack dargestellt haben.

00:22:49: Wer ist dafür verantwortlich?

00:22:51: Die Plattformen genießen eben dieses Haus-Provider-Privileg, dass ihnen eben zugesteht.

00:22:55: Dass bis sie nicht positive Kenntnis erlangt haben von den Betroffenen.

00:22:59: Sie für diese Inhalte nicht haften, also positive Kennen darüber das rechtsverletzende Inhalt verbreitet werden.

00:23:04: Für jeden individuellen Inhalt und für jeden individuelle Post.

00:23:08: Worauf du ansprichst?

00:23:09: Das war die Causa Croc.

00:23:12: Der Croc Chatbot Ende letzten Jahres Anfang dieses Jahres mit Echtzugriff auf die Daten der Plattform missbraucht wurde von Nutzenden, die diese generative KI genutzt haben.

00:23:25: Um nicht einvernehmlich sexualisierte Deepfakes von Personen zu erstellen.

00:23:30: und da haben wir ganz klar gesehen also innerhalb kürzester Zeit wurden viele Bikini-Bilder von minderjährigen Frauen von Frauen erstellt.

00:23:37: Wir haben Erfassung zu kurzen Zeitraum.

00:23:40: innerhalb von fünf Tagen beispielsweise findet Krog über Fünfzigtausend Erwähnungen.

00:23:45: Und wenn wir uns diese Fünfzichttausendererwähnung anschauen, dann waren ungefähr dreinfünfzig Prozent davon von den Bildern Bilder in Minimalserkleidung also klassische Bikini Fotos und auch da hatten wir wieder Einen Achtigprozent Personen die weiblich dargestellt war.

00:23:58: eine so weibliche Person Also wie sehen diese riesige geschäftsspezifische Komponente?

00:24:02: Und auch hier greift natürlich das EU Recht rein und zwar der DSA dem wir schon kennen den Digital Service Act weil der sagt natürlich auch naja Wenn du eine KI anbietest wenn du einen Chatbot anbietest, da musst du vorher eine richtige Risikobewertung machen.

00:24:15: Du musst Risiko mindern und du hast natürlich auch entsprechende Transparenzpflichten nach dem Digital Services

00:24:21: Act.".

00:24:21: Und hier hat die EU-Kommission jetzt eine Prüfung eingeleitet, eine Untersuchung inwiefern X dem nicht nachgekommen ist?

00:24:27: Denn ganz klar war... X hat nicht reagiert auf die hohe Kritik, dass diese Nudifying-Funktion möglich war.

00:24:36: Sondern hat dieses Tool nach wenigen Tagen zu einem Geschäftsmodell gemacht.

00:24:41: Das hat gesagt, diese Funktion könnt ihr weiter benutzen aber nur in dem Abonnement bei dem ihr Geld dafür bezahlt.

00:24:47: Es ist ganz wichtig das zu betonen denn wildbasierter sexualisierte Gewalt ist ein Geschäfts-Modell für Plattformen.

00:24:53: Denn solche Inhalte, die trennten, gehen viral und polarisieren polarisierende Inhalte, Sorgenfirme Aufmerksamkeit und bringen den Plattformen etwas.

00:25:03: Deswegen ist es auch so wichtig die Plattform in Haftung zu nehmen denn sie sind letztlich diejenigen, die mit diesen Inhalten auch Geld verdienen durch Werbungen und andere Möglichkeiten.

00:25:13: Die EU reagiert nun auch weiterhin, denn bis Ende des Jahres muss die KI-Verordnung also eine Verordnung über künstliche Intelligenz umgesetzt werden.

00:25:21: Die KI-Verordnung sieht für Deepfake tatsächlich nur ein minimales Risiko was dazu führt dass sie auch lediglich Transparenzpflichten Kennzeichnungspflichten trifft.

00:25:32: und sie sagt eben wer Deepfakes erstellt der muss hinreichend kenntlich machen das es sich um einen Deepfak handelt.

00:25:38: ja ein Witz für die Betroffenen muss man ganz klar sagen Denn ob das wirklich hilfreich ist wenn auf meinen sexualisierten Deepfags oben draufsteht, dass es sich um einen Deepfag handelt.

00:25:48: Ich wage's zu bezweifeln.

00:25:49: vor allem kann das auch technisch schnell umgangen werden denn diese Kennzeichnungspflicht kann nicht nur wie ein Wasserzeichen auf dem Bild sein sondern kann auch in den Metadaten sein.

00:25:57: und da treffen wir eben wieder darauf, dass man KI oder deepfags nicht nur rechtlicher fassen kann sondern auch mit einem technischen Verständnis an die Situation gehen muss Denn diese metadaten werden zum Beispiel überschrieben.

00:26:08: Wenn ich über verschützete Messenger schicke wie beispielsweise Wir haben deine Ende-zu-Ende-Verschlüsselung, habe ich da eine Kennzeichnung in den Metadaten.

00:26:16: Dann geht die mit einem Versand über WhatsApp

00:26:18: verloren.".

00:26:19: Und da muss man natürlich sagen, da greift der AI-Act also die KI-Verordnung einfach zu kurz.

00:26:24: Was die KI Verordnung allerdings Positives bringt ist dass die EU nun im Rahmen von der Verabschiedung beschlossen hat das sie auch ein Verbot von solchen Newdification Apps einführen möchte.

00:26:34: Das heißt das Herstellen sollte zumindest minimal schwieriger werden.

00:26:39: jetzt es nur so die Plattform müssen sich natürlich auch daran halten, diese Inhalte hinreichend zu schützen.

00:26:45: Also mit leichten Prompts kann man viele Barrieren die jetzt Plattform und Chatbots schon haben auch umgehen.

00:26:52: also ich kann mittlerweile natürlich auch mit ChatGBT wenn ich weiß wie ich den Prompt anpassen muss auch immer noch solche Bilder erstellen obwohl das eigentlich Plattform intern nach der Regulierung nicht möglich sein sollte.

00:27:04: Das heißt wir haben hier auch wieder ja viele Lücken.

00:27:08: wir wissen auch dass diese Apps natürlich auch über funktionieren.

00:27:11: Das heißt nur weil es dann illegal ist, heißt das nicht dass diese Inhalte nicht mehr erstellt werden.

00:27:16: Generell gilt, dass wir viele Verbreitungsformen haben und auch hier sehen wir wie Miso-Gühne Netzwerke dazu beitragen, rasend schnell verbreiten.

00:27:27: Was ich damit meine, ist dass es Bewegungen gibt wie zum Beispiel die Incell-Bewegung.

00:27:31: Incell steht für involuntary celibate also unfreiwillig enthaltsam und das ist eine Bewegung die fast schon vom Begriff her ein bisschen veraltet ist aber die von einem Weltverständnis ausgeht in der sie beispielsweise sagt Männer hätten einen Anspruch auf Geschlechtsverkehr mit Frauen und die Frauen seien böse weil sie ihnen das enthalten.

00:27:48: Und aus diesem Gedankengut haben sich viele Untergruppen entwickelt die wir heute so als Menospher zusammenfassen.

00:27:54: Und diese Gruppen, die betreiben Netzwerke.

00:27:57: Ein sehr bekannter Fall ist zum Beispiel der Deutsche Pelikofall, der kürzlich jetzt vor dem Landgericht in München eins verhandelt wurde.

00:28:07: Worum ging's da?

00:28:08: Das war ein Telegram-Netzwerk das sich Fahrschulen nannte mit mehreren Tausenden Gruppenmitgliedern, die sich mit bildbasierter sexualisierter Gewalt beschäftigt haben.

00:28:18: Worum ging's?

00:28:19: Es ging in diesem deutschen Pelikofall ähnlich zu dem Fall von Frau Peliko aus Frankreich, der Serviral war.

00:28:26: Darum wie man unter Intoxikation starke Vergewaltigung vornehmen kann.

00:28:31: und solche Blattformen waren dann dafür da um sich darüber auszutauschen nicht nur wie viel Betäubungsmittel man bräuchte sondern auch darum Bildinhalte zu teilen die man von diesen Vergewaltung erstellt hat.

00:28:42: In dieser Gruppe die Fahrschule hieß wurden beispielsweise nur mal ein Verständnis dafür zu geben, wie der Ton in solchen Gruppen ist.

00:28:49: Wie die Sprache ist mit der wir uns dort beschäftigen und wie das Umfeld ist ging es darum dass Frauen wenn sie romantische Freundinnen Partnerin dieser Männer waren als Privatautos bezeichnet wurden?

00:29:00: wurden Frauen abgebildet in diesen nicht einvernehmlichen Aufnahmen die besonders attraktiv waren.

00:29:05: dann wurde von ihnen als Luxus Autos gesprochen.

00:29:08: diese Frauen selbst im betäubten Zustand wurden als tote Schweine bezeichnert Und auch hier sehen wir verschiedene Möglichkeiten.

00:29:14: kein Einzelfall diese Gruppe.

00:29:16: Wir haben riesige Pornografie-Netzwerke, die BBC berichtete im Februar beispielsweise von einer Plattform bei der man besonders hervorheben muss das dort auch beworben wurde dass man diesen Streams zuschauen kann.

00:29:29: also nutzende von solchen Plattformen teilen sich dann darüber aus dass man sich ja käuflich gewerblich in dieses Streams einkaufen kann und dann eben auch sagen kann was mit diesen Frauen passieren soll wenn sie in diesem betäubten Zustand sind.

00:29:41: und das alles ist dieser große Weitblick der sexualisierter Gewalt, von dem Klima das Online herrscht und dass vor allem keine Randerscheinung ist.

00:29:49: Also in dem Fall von der BBC welche jetzt im Februar dort verbreitet wurde gab es zweiundsechzig Millionen Aufrufe allein am Februar zwanzig sechsundzwanzig.

00:29:59: Und daran sehen wir wie viel Interesse an diesem Ausprägungen bildbar sehter sexualisierte Gewalt herrschen.

00:30:04: Wir müssen davon ausgehen, dass sich eben auf solchen Plattformen also sein Mainstream-Pornografie-Plattform seines nicht.

00:30:11: Mainstreampornographie- Plattform seien es öffentliche, soziale Medien als auch nicht öffentliche Plattform wie Telecamry WhatsApp diese Inhalte

00:30:19: verbreiten.".

00:30:19: Was würdest du sagen, Jacqueline?

00:30:21: Ist uns das jetzt schon alles entglitten?

00:30:23: Kommen wir da überhaupt noch hinterher rechtlich... und gesellschaftlich?

00:30:28: Ja, wir werden dem auf jeden Fall gerecht werden.

00:30:32: Ich denke das ist nichts bringt den Kopf in den Sand zu stecken.

00:30:35: es wäre kontraproduktiv und würde auch nicht dem gerecht wird dass es so viele mutige Menschen gibt die öffentlich mit diesen Fällen umgehen.

00:30:42: denn das muss man ganz klar sagen Es braucht ein Gesamtgesellschaftliches Umdenken.

00:30:46: Wir müssen gesamtsgesellschaftlich anders mit diesem Thema umgehen aber allen Betroffenen steht das recht trotzdem noch zur Seite ja auch ein Gesetzesentwurf aus dem Bundesjustizministerium vorgelegt, der viele Glück nur schließen soll.

00:31:03: Davon passt sind etwa... Das Herstellen von nicht einvernehmlichen sexualisierten Deep Facts.

00:31:08: D.h.,

00:31:08: hier werden Lücken geschlossen werden, genauso sollen auch Lücken im Bereich bildbasierter sexualisierter Gewalt geschlossen wird vom Absgirting und Down-Plausing.

00:31:17: Hier hatten wir die obskure Situation, dass solche Fälle von Orten in denen wir regelmäßig nackt sind wie Saunen unter diesem Straftatbestand gefallen sind.

00:31:25: also wurde ich in einer Fitnessstudio Umkleide heimlich gefilmt.

00:31:29: dann wurde es eben nicht erfasst was ja eine absurde Situation ist wenn man sich das vorstellt.

00:31:34: Wie gesagt, hier haben wir jetzt viele Bemühungen, also sowohl national in Deutschland als eben auch in anderen Fällen.

00:31:41: Also es wird da wahrscheinlich die Herstellung mit erfasst werden.

00:31:43: Das Problem ist natürlich nur man sieht häufig dass das Verständnis fehlt für die geschlechtsspezifische Dimensionen.

00:31:49: Das erkennt man aber daran, dass man jetzt den Betroffenen auch in dem kommenden Straftatenstand auferlegt, dass es zu einer erheblichen Ansehenschädigung kommt.

00:31:57: Die Inhalte müssen dafür geeignet sein und das sind natürlich weitere Hürden, die Betroffene da erleben werden.

00:32:03: Gleichzeitig gibt es oder gilt bis Juni nächstes Jahr noch eine weitere EU-Richtlinie umzusetzen.

00:32:09: Das ist die Richtlinie zur Bekämpfung von Gewalt gegen Frauen und häusliche Gewalt, auch diese sieht einen größeren Schutz vor.

00:32:16: Ganz so überraschend ist es nun nicht, dass so viel Engagement in der nationalen Gesetzgebung herrscht.

00:32:23: Denn das EU-Recht gibt ein Mindeststrafrahmen vor, eine Mindestregulierung vor.

00:32:28: Deutschland muss diesen Einhalten bis zum nächsten Juni.

00:32:31: Das heißt natürlich aber auch, dass Deutschland entscheiden kann für einen höheren Schutz in Deutschland zu sorgen.

00:32:36: Ich glaube nicht, dass wir machtlos dem gegenüberstehen.

00:32:40: Die Zeichen stehen trotzdem gut und mit all den Schäden die KI hervorrufen kann können wir KI auch nutzen um uns vor solchen Deepfags zu schützen.

00:32:49: Jacqueline, wir haben uns ja schon vor diesem Interview miteinander unterhalten und wir haben eigentlich gesagt Wir wollen gar nicht so sehr den Fokus auf Betroffene legen sondern eigentlich die Täter adressieren.

00:33:03: Die in den Mittelpunkt stellen.

00:33:05: nach dem Pelikosatz, den Giselle-Pelico gesagt hat die Scham muss die Seiten wechseln im Grunde.

00:33:11: Trotzdem würde ich ganz gerne dich noch mal fragen, was können denn Betroffene tun?

00:33:17: Wo findet man Unterstützung?

00:33:19: diese drei Meldetbuttons die man bei Instagram Facebook und wo auch immer findet haben wir schon gesagt.

00:33:25: das ist ein bisschen schwierig damit umzugehen.

00:33:27: an wen kann man sich den wenden und was sollte ich vor allem vor dieser Meldung bei der Plattform selbst unternehmen?

00:33:35: Vertroffenen würde ich raten, dass sie zunächst sich mit Unterstützung oder alleine rechtssichere Beweismitte erstellen.

00:33:42: Man sind im Beweis mittlerechtssicher.

00:33:44: Es ist ganz wichtig, dass solche Screenshots oder Videos die man von so einem Inhalt erstellt, die URL enthalten das Datum an dem der Inhalt gepostet wurde gegebenenfalls auch den Kontext weitere Kommentare weiterer Einordnung und auch Das Datum, an dem dieser screenshot dann erstellt wurde.

00:34:01: Da sollte man vielleicht nicht allein machen, man sollte da auf jeden Fall auch um Hilfe bitten, wenn man sich jemandem anvertrauen kann.

00:34:07: Denn auch hier gibt es wieder eine hohe Reviktimizierungsrate denn häufig sind das mehrere Inhalte, sich diese Inhalter immer wieder anzuschauen.

00:34:14: Das kann sehr belastend sein.

00:34:15: zum Glück gibt es ja aber Tools wie zb das Tool von Netzbeweis.

00:34:19: dass ist einem niedrigschweilig zugänglich macht ganze seiten kostenlos Festheit zu können.

00:34:24: Gut, wenn ich den Beweismittel erstellt habe dann sollte ich mich auf jeden Fall an so einer substanziierten Meldung versuchen und ich sollte zumindest versuchen die Plattform eben in diese positive Kenntnis von dem rechtsverletzenden Inhalt zu bringen und vielleicht löscht es die Platform auch schon direkt?

00:34:39: Wenn das nicht funktioniert, dann gibt es immer die Möglichkeit sich Anwaltliche und Psychologische Hilfe zu suchen Und da kann ich nur empfehlen, sich an NGOs wie beispielsweise Hate Aid zu wenden.

00:34:50: Hate Aid ist eine NGO die sich für die Rechte von Betroffenen digitaler Gewalt einsetzt und die helfen wirklich konkret psychologisch und rechtlich weiter.

00:35:02: Die prüfen auch solche Fälle schon mal an.

00:35:04: Dann ist es ganz wichtig, sich im weiteren Hilfe zu suchen und natürlich auch Hilfe anzubieten wenn man von solchen Fällen hört, solidarisch zu bleiben weil es eben ein sehr scham behaftetes Thema immer noch ist.

00:35:15: Und Schlin, du hast das schon gesagt, keinesfalls finde ich da auch irgendeine Verantwortung bei den Betroffenen liegt.

00:35:21: Leider ist es faktisch so, dass die diejenigen sind, die sich vor allem damit auseinandersetzen müssen.

00:35:26: aber natürlich liegt die Schuld und die Scham bei den TäterInnen, die solche Inhalte erstellen.

00:35:32: Da ist es gesamtgesellschaftlich unsere Aufgabe.

00:35:34: wie gehen wir denn damit um?

00:35:35: Wenn wir davon hören wenn wir solche Inhalten sehen?

00:35:38: Gott sei Dank gibt es Personen wie dich, die sich einsetzen für genau diese Rechte und dafür sorgen dass wir künftig noch mehr solche Rechte bekommen.

00:35:47: Und gerade als Betroffene geschützt sind aber eben auch die Täter die Plattformen die Anbieter in die Verantwortung genommen werden und in den Fokus gestellt werden.

00:35:57: Das erbt mich natürlich.

00:35:58: Ich muss aber auch sagen, dass es ein hohes zivilgesellschaftliches Engagement gibt.

00:36:02: Auch abseits vom juristischen Bereich sind das wirklich solche NGOs wie Hate-Aid die sich unermüdlich dafür einsetzen und denen die Förderung gestrichen wird.

00:36:12: also wir haben Programme den die Fördernung der Zeit entzogen wird in Zeiten wie diesen natürlich ein fatales Zeichen gegen digitale Gewalt oder ja den fehlenden Schutz Und natürlich auch einzelne Politikerinnen.

00:36:24: ganz wichtig ist es aber, vor allem auch die rechtsanwendende Person und damit meine ich Staatsanwaltschaft, Richterschaft.

00:36:30: Und auch diejenigen, die zum Erstkontakt zu den Betroffenen haben wie Polizei etwa oder diese Fachberatungsstellen hinreichend geschult sind.

00:36:37: Es her gibt es keine verpflichtenden Schulungen für Richterschaft- und Staatsanweilschaft und Polizei im Bereich digitaler, geschlechtsspezifischer Gewalt.

00:36:44: Wenn ich schon kein Verständnis dafür habe über diese geschlechtspezifische Komponente dann kann ich Betroffene nicht hinreichender beraten.

00:36:51: wenn ich keine Informationen über die technischen Hintergründe habe wie gerade solche Kennzeichnungen Pflichten funktionieren etc.

00:36:57: Dann kann ich eigentlich nicht gut beraten.

00:36:59: und da muss man ganz klar sagen, das geht auch über jede Argumentation der richterlichen Freiheit hinaus.

00:37:05: also wir müssen dieses Wissen einfach in alle Kreise

00:37:07: bekommen.".

00:37:08: Die

00:37:09: Links die Jacqueline gerade genannt hat werden wir euch auf jeden Fall auch in die Show Notes noch mit reinsetzen zum Beispiel zu netzbeweis.de.

00:37:15: Jetzt Jacqueline wollen wir aber trotzdem auf die Täter gehen.

00:37:19: Wir haben gesagt wir wollen nicht die Betroffenen in den Mittelpunkt stellen sondern die Tater.

00:37:24: Ganz wichtig ist es, sich anzuschauen.

00:37:26: Warum macht man so was überhaupt?

00:37:28: Das scheint ja absurd!

00:37:29: Wer würde jemanden mit sowas antun?

00:37:31: Da haben wir jetzt die ersten Zahlen und da will ich nur ganz kurz darauf eingehen, denn das zeigt nämlich auch wie vielfältig dieses Phänomen ist.

00:37:37: Vier Hauptbeweggründe werden genannt, wenn's um das Erstellen von solchen nicht-anvernehmlichen sexualisierten Deep Facts geht.

00:37:43: Und da wird als erstes der Vermögensvorteil genannt.

00:37:46: Also dass tatsächlich das eben auch eingesetzt wird, um sich Vermögenvorteile zu erschaffen.

00:37:51: Das Zweite ist eine Schädigungsabsicht gerade... im Bereich von Rache.

00:37:55: Es geht darum, dass man nach intimen Beziehungen oder zurückgewiesenen romantischen Annäherung solche Inhalte erstellt hat.

00:38:01: und sie haben eben selbst auch angegeben da geht es um Demütigung, da geht zum Rufschädigungen, da gibt's zur Machtausübung Und das geht auch um die soziale Verstärkung durch den Peergroup also gerade junge Personengaben an.

00:38:11: Das geht um so ein Bedürfnis der Zugehörigkeit und des Statuses Also so ein bisschen dem Wettbewerb um Kreativität.

00:38:17: Den besondersten Grund habe ich wirklich aufgehorcht als ich das gelesen hab in einer Studie und diese technologische Experimentierfreude.

00:38:25: Das kann man sich gar nicht vorstellen, aber viele gaben an – das wurde eben nur von den Tätern geschildert -, dass es darum geht solche technischen Möglichkeiten zu erproben.

00:38:34: Es ging mit dem Reiz dieser niedrigschwelligen Zugangsschwelle und dieser einfache Umsetzung.

00:38:39: Und die befragten die Gaben an, dass sie so einen Godlike-Feeling hatten also das Gefühl Gott zu sein weil sie solche Inhalte erstellen konnten eine Kombination aus Kreativität und Technikinteresse.

00:38:50: besonders auffällig war dass es vor allem ältere Täter waren, die das angaben.

00:38:54: Also die Generation thirty-five plus, die eigentlich nicht direkt mit Computern aufgewachsen ist und ja diese fehlende frühere Technikverfügbarkeit jetzt als Anreiz gesehen haben.

00:39:04: Und das zeigt es eben.

00:39:08: Genau, das zeigt warum sich diese Innovation so schnell verbreitet und so schnell verbessert weil es eben auch dieses große technische Interesse gibt.

00:39:15: Zusammengefasst ist rechtlich, technisch und gesamtgesellschaftlich ein Problem und auf diesen Ebenen müssen wir eine Lösung dafür finden und ich glaube dass es auch gut möglich.

00:39:26: Dann darf

00:39:26: ich mich ganz herzlich bedanken bei dir Jacqueline.

00:39:28: Danke, dass du dir die Zeit genommen hast!

00:39:30: Vielen Dank für das Gespräch.

00:39:31: stehen

00:39:39: Denke ich mir als Nicht-Jurist um Gottes Willen, wie kommt man denn da durch?

00:39:43: Durch diesen Gesetzeswirr war wo Jacqueline selber die ja gesagt hat schlieend im Interview.

00:39:47: Dass sie sich da wie in einem Puzzle... eine gesetzliche Grundlage zusammenstückeln muss, um tatsächlich so einen Fall von sexualisierten Deepfake anzugehen.

00:39:57: Ja wie sie ja gesagt hat es werden im Grunde analoge Gesetze auf die digitale Welt angewandt und da haben wir auf jeden Fall noch Nachholbedarf und das muss angepasst werden.

00:40:07: Aber sie hat ja auch gesagt dass daran gearbeitet wird an diesen Anpassungen, dass vom Gesetzgeber her die Notwendigkeit gesehen wird, dass das Thema ernst genommen wird.

00:40:15: Siehst du's auch so?

00:40:16: Definitiv, ich habe.

00:40:17: vor allem hat mich das aber auch sehr beruhigt.

00:40:19: Also gerade dass es Menschen wie Jacqueline gibt oder auch Hate-Aid und die Gesetzgebung da durchaus daran arbeitet, dass sie das also im Blick haben.

00:40:27: Der Zug ist noch nicht abgefahren.

00:40:28: wir müssen halt jetzt einmal zu steigen langsam sicher?

00:40:31: Aber wir sind auf dem richtigen Weg!

00:40:32: Das hab' ich mal so mitgenommen aus diesem Interview.

00:40:35: Und ich möchte auch nochmal betonen unsere drei konkreten Tipps für heute Beinhalten jetzt nicht Veröffentliche keine Fotos von dir im Internet weil das wäre zu kurz gedacht.

00:40:45: dann eben zu diesem Chilling oder silencing Effekt, so dass bestimmte marginalisierte Gruppen im Internet nicht mehr stattfinden.

00:40:51: Und es führt dann letztendlich auch mal wieder zu dieser Täter-Opferumkehr über die ihr ja auch im Gespräch mal gesprochen habt?

00:40:57: Ganz wichtig!

00:40:57: Die Verantwortung muss bei den Tätern bleiben.

00:41:00: tatsächlich und das ist einfach unrealistisch vor allem wir alle haben schon irgendwann Fotos mal hochgeladen.

00:41:04: viel wichtiger ist unsere drei konkreten Tipps wissen welche Schritte zu gehen sind im Ernstfall und zwar ich fasse es nochmal zusammen Punkt eins jemandem anvertrauen Beweise sichern.

00:41:15: Das ist das Wichtigste gleich zu beginnen, zum Beispiel über Netzbeweis.

00:41:19: Jacqueline hat schon genannt diese Seite.

00:41:21: Punkt zwei – offizielle Meldung bei der Plattform.

00:41:24: auch ganz wichtig.

00:41:25: Hört euch gerne noch mal im Interview die Stelle an.

00:41:27: Jacquline hat es erklärt warum das so wichtig ist.

00:41:29: und Punkt drei Beratungen rechtlich unpsychologisch suchen zb bei Hate Aid eben und auf jeden Fall mit dem Beweisen auch umgehend an die Polizei wenden?

00:41:39: Ja das hatten wir jetzt Oft bei solchen Themen hier ein Update verfügbar, das eine Anzeige der Polizei zu erstatten.

00:41:45: Immer immer immer notwendig ist der richtige Weg und euch dann letztendlich wenn ihr Opfer seid vom Sonntag im Endeffekt auch schützt und euch eine Sicherheit gibt.

00:41:53: weil es aber uns alle treffen kann müsst ihr nicht die Schuld bei euch suchen.

00:41:56: also die Scham muss die Seite wechseln.

00:41:58: dieser große Satz der hat hier definitiv Gültigkeit

00:42:03: Und das war's jetzt, das war unsere Folge.

00:42:05: siebenundsechzig von Update verfügbar.

00:42:08: Wie gesagt alle wichtigen Informationen und Hilfestellungen zum Thema Umgang mit sexualisierten Deepfakes vor allem für Betroffene bekommt ihr natürlich auf der Seite des BSI und hier in den Show Notes setzen wir euch noch sämtliche Links mit rein auch was Jacqueline genannt hatte Netzbeweis dieses Tool!

00:42:29: Dann könnt ihr uns auch folgen auf Instagram, Mastodon oder YouTube.

00:42:32: Da gibt's mehr Infos zu allen sicherheitsrelevanten Fragen vom BSI.

00:42:36: und abonniert doch bitte diesen Podcast mit ihr.

00:42:38: keine neue Folge verpasst!

00:42:40: Wir hören uns im nächsten Monat wieder sagen.

00:42:42: ciao bis zum nächsten

00:42:44: Update.