Es ist eines der problematischsten Beispiele bisher: Zahlreiche Nutzer von Elon Musks Plattform X haben den KI-Chatbot «Grok» dafür genutzt, sexualisierte und pornografische Bilder von Frauen und zum Teil auch von minderjährigen Mädchen zu generieren. Mit einem Klick kann der KI-Chatbot Menschen auf Fotos halbnackt und in sexualisierten Posen darstellen. Echt ist dabei nur das Gesicht, alles andere ist Fake – mit blossem Auge ist das aber nicht erkennbar.
Nach grossem Aufschrei hat X nun mit einer Massnahme reagiert, die das Problem keineswegs löst: Grok kann nur noch von Nutzer:innen mit Bezahlabo verwendet werden. Das ändert nichts daran, dass solche Bilder weiterhin generiert werden können – und weiterhin für alle sichtbar sind.
Das Beispiel «Grok» zeigt: Frauen und Mädchen sind am stärksten von Deepfakes betroffen. Einmal mehr jene Personen, die auch sonst schon am meisten unter patriarchaler Gewalt leiden. Die Reduktion auf eine objektivierte Darstellung des Weiblichen ist Teil des Backlash, der von rechten Bewegungen weltweit vorangetrieben wird und gezielt Frauen, ihre Selbstbestimmung sowie ihre politischen Rechte angreift.
Problem wächst weiter
Deepfakes werden immer besser, die Unterscheidung von echten Inhalten immer schwieriger. Das ist nicht nur bei sexualisierten Inhalten ein grosses Problem, sondern auch für die Politik: Rechte und demokratiefeindliche Kreise verwenden sie zunehmend für politische Desinformationskampagnen. So werden beispielsweise Videos und Bilder von Politiker:innen manipuliert, millionenfach geteilt und kaum gekennzeichnet.
Klar ist: Falschinformationen verbreiten sich blitzschnell über soziale Medien und im Internet. Richtigstellungen im Nachhinein erreichen deutlich weniger Menschen.
Anti-SRG-Initiative verstärkt das Problem
Öffentlich-rechtliche Medien bilden ein wichtiges Bollwerk gegen diese Entwicklung. In aufwändigen Faktenchecks werden dort Videos, Bilder und Audios auf ihre Echtheit analysiert. Es erstaunt deshalb nicht, dass in der Schweiz die SVP am lautesten nach der Zerschlagung der SRG ruft.
Eine Halbierung der Gelder der SRG bedeutet konkret: weniger Zeit pro Geschichte, weniger Personal, weniger Spezialisierung. Und genau das ist im Deepfake-Zeitalter fatal. Denn Verifikation ist teuer. Sie braucht Know-how, Tools, Schulungen, internationale Netzwerke, juristische Abklärungen – manchmal auch schlicht Zeit.
Wird der finanzielle Druck höher, steigt das Risiko, dass Fälschungen durchrutschen oder dass Redaktionen aus Angst vor Fehlern gar nicht mehr berichten – beides spielt Desinformationsakteuren in die Hände. Gleichzeitig geraten investigative Recherchen unter Druck, also gerade jene Form von Journalismus, die Strukturen und Motive von Desinformationskampagnen sichtbar machen kann.
