Der jugendliche Marvel-Star Xochitl Gomez ist das neueste Opfer von Deepfake-Pornos. Als sie jedoch die nicht einvernehmlichen, sexuell eindeutigen Deepfakes entdeckte, die auf X, ehemals Twitter, kursierten, war sie verwirrt, als die Plattform nichts unternahm und sie nicht entfernte.
Mit dem Aufstieg der künstlichen Intelligenz sind viele Probleme entstanden, aber Deepfake-Pornos sind eines der besorgniserregendsten. Zwar gibt es Deepfakes schon seit geraumer Zeit, doch der technologische Fortschritt hat sie zugänglicher und überzeugender gemacht. Infolgedessen kam es bei vielen Personen, insbesondere bei Frauen, dazu, dass ihr Abbild ohne ihre Zustimmung aufgenommen oder nachgebildet und in pornografischen Inhalten verwendet wurde. Es ist zu einem massiven Problem für weibliche Prominente geworden, aber auch für gewöhnliche Frauen, die erlebt haben, dass ihr Konterfei in sexuell eindeutigen Inhalten für Rachepornos, Belästigung und Mobbing verwendet wird. Es gibt auch große Bedenken hinsichtlich der Verwendung von Deepfakes zur Darstellung von Kindesmissbrauch.
Leider gibt es derzeit keine Bundesgesetze gegen nicht einvernehmliche Deepfake-Pornos und nur wenige Bundesstaaten verfügen über Gesetze, die die Bürger davor schützen. Viele Frauen, die Opfer von Deepfake-Pornografie geworden sind, haben aufgrund der fehlenden Regulierung und der Gesetzlosigkeit des Internets keine Möglichkeit, dagegen anzukämpfen. Die meisten verfügen nicht über die finanziellen Mittel, um rechtliche Schritte einzuleiten. Sogar Berühmtheiten wie Scarlett Johansson haben es für sinnlos erklärt, gegen Deepfakes anzukämpfen.
Ein kleines Maß an Schutz für Frauen kommt von den Social-Media-Plattformen, die Deepfake und KI-generierte Pornos verboten haben. Wenn diese Websites solche Verbote durchsetzen würden, würde dies die Verbreitung dieser schädlichen Inhalte erschweren. Die Erfahrung von Gomez zeigt jedoch, dass die sozialen Medien ihre Regeln nicht durchsetzen.
Xochitl Gomez spricht über ihre Erfahrungen mit Deepfake-Pornos
(Axelle/Bauer-Griffin/Getty)
Während er im Podcast von Taylor Lautner und seiner Frau auftrat, Der Druck Xochitl Gomez (alias America Chavez) sprach über ihre Erfahrungen als Opfer von Deepfake-Pornografie. Die 17-Jährige gab bekannt, dass sie das sexuell eindeutige Material auf X, ehemals Twitter, im Umlauf gefunden hatte, es ihr aber äußerst schwerfällt, es zu entfernen. X hat bereits 2018 KI-generierte Pornos verboten und verfügt über Richtlinien gegen sexuell explizite Deepfake-Bilder und -Videos sowie gegen irreführende Medien und nicht einvernehmliche Nacktheit. Wenn man bedenkt, dass die Bilder von Gomez eindeutig gegen die Regeln von
Gomez war jedoch schockiert, als sie feststellte, dass ihr Team bereits erfolglos versucht hatte, gegen den Inhalt vorzugehen. NBC-Nachrichten gemeldet dass die Fotos noch am 19. Januar 2024 auf X zu finden waren, das auf Anfragen nach Kommentaren nicht reagierte. Gomez erklärte, der Inhalt habe sie verwirrt und sie wollte ihn unbedingt entfernen, da er für sie nicht gut aussehe. Sie fragte: Warum ist es so schwer, es niederzuschlagen? Das war mein ganzer Gedanke: „Warum ist das erlaubt?“
Letztendlich hat sie sich jedoch damit abgefunden, dass der Inhalt einfach nicht entfernt werden konnte, und offenbarte, dass sie einfach versucht, nicht darüber nachzudenken und ihr Telefon weglegt, um sich mit dem Problem zu befassen. Dennoch bleiben die Fragen, die sie stellte, sehr relevant. Warum Ist es so schwer, diesen Inhalt zu entfernen? Es ist moralisch verwerflich und abstoßend, wenn Deepfake-Pornos von Personen gemacht werden, die nicht zustimmen. Es ist geradezu schrecklich, wenn es um Minderjährige geht. Auf
Es klingt kaum nach einer komplexen Situation, wenn eine Person sexuell eindeutiges Material meldet und der Plattform mitteilt, dass sie dem nicht zugestimmt hat. Das Material verstößt gegen mehrere Regeln auf der Website. Was gibt es sonst noch zu überprüfen oder festzustellen? Für eine Person ist es bereits traumatisierend genug, diese Art von Inhalten in den sozialen Medien zu finden; Das Mindeste, was diese Plattformen tun könnten, wäre, ihren Forderungen nach Entfernung nachzukommen. Kein Mensch, insbesondere kein Minderjähriger, sollte einfach akzeptieren müssen, dass der Inhalt vorhanden ist, weil X und andere Social-Media-Plattformen sich hartnäckig und verblüffend weigern, ihre Nutzer zu schützen.
(Ausgewähltes Bild: Axelle/Bauer-Griffin/FilmMagic / Getty)
