Twitch Deepfakes: Debatte über AI Deepfake-Pornografie von Streamern

Listen to this article

Wie wir vorgestern berichteten, hatte der Streamer Atrioc in Tränen gestanden, sich Aufnahmen von größeren Streamerinnen angeschaut zu haben. Diese Diskussion hat nun eine generelle Debatte über Deepfake-Inhalte ausgelöst. Gerade auf Twitch könnte das jetzt sehr relevant werden. Worum geht es genau bei den Twitch Deepfakes?

Grundsätzlich war klar, dass mit dem zunehmenden Aufkommen an AI-Inhalten, also künstlich erzeugten Inhalten, auch weniger erfreuliche Inhalte im Internet ermöglicht werden würden. Deepfakes waren bereits vor Jahren ein Gesprächsthema, als Unge angeblich eine Bifi gegessen hatte, jetzt sind sie durch die zunehmende Popularität von AI Generated Art (KI-generierter Kunst) oder auch ChatGPT wohl so präsent wie nie zuvor. Und damit auch die Deepfakes. In den USA löst das nun eine riesige Debatte aus.

Twitch Deepfakes: Streamerinnen werden in Aufnahmen geschnitten, in denen sie eigentlich nie waren

Bei Deepfakes handelt es sich um Aufnahmen, die manipuliert wurden. Wenn es also eine Aufnahme gibt und man lässt eine AI sehr oft über ein Bild und diese Aufnahmen laufen, kann sie zum Beispiel ein Gesicht in dem bearbeiteten Video in ein anderes ändern. Das kann man eben auch zum Negativen nutzen. Bereits seit Jahren hieß es deshalb, dass man sich bei Videos immer mehr nicht mehr sicher sein könnte, ob es sich hierbei um eine reale Aufnahme oder eine manipulierte handelt.

Auf Twitch geschah dies inzwischen mit Pornografie-Videos, in die berühmte Streamerinnen wie Pokimane, Maya und andere eingebaut worden waren. Streamer Brandon Ewing – auch bekannt als Atrioc – hatte dies dann getan und vergessen den Tab im Livestream zu schließen.

Unter Tränen gestand er anschließend, dass es ihm leidtun würde. Der Ersteller der Inhalte hat seine Online-Präsenz mittlerweile vollkommen gelöscht und gesagt, er fühle sich genau so “wie das Stück Scheiße, das ich bin”. Die Debatte um Twitch Deepfakes hat damit jedoch erst angefangen.

Große Kritik an Twitch Deepfakes: “Stop sexualizing people without their consent”

Große Streamer haben sich mittlerweile dazu ebenfalls geäußert. So schreibt Pokimane in einem Tweet: “Hört auf Menschen zu sexualisieren, ohne desseen Einveständnis. Das ist es, das ist der Tweet”. Damit erreichte sie bis jetzt fast 300.000 Likes auf Twitter. Und viele stimmen ihr zu, dass ein derartiges Verhalten nicht in Ordnung wäre.

Doch es gibt auch Gegenstimmen, die nun AI als solches bedroht sehen. Neben den Twitch Deepfakes seien diese eben ein Teil der Entwicklung, argumentieren einige Nutzer und echauffieren sich über Streamer, die diese fragwürdige Nutzung kritisieren. Einige gehen dabei weiter, als die Grenzen der Angemessenheit es im Ansatz erlauben würden. So posten viele zum Beispiel genau diese Inhalte auf Twitter – vor allem wohl, um zu provozieren. Und befeuern damit die Sache noch mehr.

Das hier entstandene Problem ist indes definitiv kein Neues, derartige Inhalte wurden in den letzten Jahren jedoch immer besser. Apps wie WOMBO AI, die Memevideos aus Bildern schneiden konnten, wurden immer wieder optimiert und ließen damit auch den Markt an pornografischen Inhalten wachsen. Was damals noch nur in “Fanarts” oder eigenen “Animationen” ging, ist jetzt auch anders möglich, und zwar im echten Leben – zumindest vermeintlich.

Kein Verlass mehr auf Videoaufnahmen, fragwürdige Nutzung von AI wie bei Twitch Deepfakes nimmt zu

Eine zwangsläufige Entwicklung ist dabei dann nicht nur, dass kein Verlass mehr auf Videos ist, wie das vielleicht noch vor 50 oder 100 Jahren der Fall gewesen war, sondern auch, dass man ernsthaft darüber diskutieren muss, was in Ordnung ist. Zwar sind die Aufnahmen niemals die Realität, aber befeuern die Vorstellung von den Personen, die diese konsumieren und sexualisieren Personen ohne Vorwarnung oder Frage um Erlaubnis.

Künstliche Intelligenz bringt, wie vieles, eben nicht nur Vorteile. Wie Plattformen das regulieren möchten, ist nun eine Frage, schließlich wird es immer schwieriger zu kontrollieren, was real ist und was nicht. Auf vermeintliche Leaks von Videos, Bildern oder Texten, auch Nachrichten, kann man sich bereits seit Jahren nicht mehr verlassen. Und diese Entwicklung wird weitergehen.

Während diese Diskussion im deutschsprachigen Bereich noch nahezu irrelevant ist, brennt der englischsprachige Bereich in den USA dafür aktuell umso mehr. Wann sich das wieder legen wird und wie die Lösung für das wachsende Problem aussehen kann, muss sich jedoch noch zeigen. Klar ist jedoch, dass es nur eine Frage der Zeit ist, bis die Debatte rund um Twitch Deepfakes und Deepfakes generell auch wieder mehr in Deutschland aufkommt.