Der Wissenschaftsjournalist und Moderator Eckart von Hirschhausen widmet sich in der ARD-Dokumentation Hirschhausen und die Deepfake-Mafia dem Thema Deepfakes. Der 45-minütige Beitrag wurde am Montagabend ausgestrahlt und ist bereits seit dem 1. Mai in der ARD-Mediathek abrufbar. Darin bemüht sich Hirschhausen, eine Verbindung zwischen gefälschter KI-Werbung für Medikamente und einer angeblichen Gefährdung der Demokratie herzustellen.

Aufhänger der Dokumentation ist gefälschte Werbung auf Social-Media-Plattformen, in der ein mithilfe von Deepfakes generierter Eckart von Hirschhausen für unwirksame Medikamente wirbt. In der Sendung spricht Hirschhausen mit mehreren älteren Menschen, die auf die irreführende Werbung hereingefallen sind und entsprechende Produkte erworben haben, weil sie dachten, Hirschhausen werbe tatsächlich dafür. Im weiteren Verlauf reist Hirschhausen zudem nach Brasilien und trifft dort einen Aussteiger, der als Callcenter-Mitarbeiter am Vertrieb solcher Produkte über die Firma „Top Call“ beteiligt gewesen sein soll.

Von diesem Themenkomplex ausgehend legt Hirschhausen nahe, dass Deepfakes die Demokratie gefährden würden. Dieser Zusammenhang wird wiederholt ohne Erläuterung vage in den Raum gestellt und im weiteren Verlauf der Dokumentation auf nahezu groteske Weise überzeichnet. Hintergrund ist zunächst, dass unseriöse Medikamentenhändler ihre Produkte auf Social-Media-Plattformen gezielt bestimmten Nutzergruppen anzeigen können, weil sie zuvor über Datenhändler umfangreiche Informationen über potenzielle Kundengruppen erworben haben.

Anschließend kommt die grüne EU-Abgeordnete Alexandra Geese zu Wort. Sie behauptet, US-amerikanische Social-Media-Plattformen wie Meta hätten kein Interesse daran, betrügerische Werbeanzeigen zu löschen, weil ein erheblicher Teil ihrer Umsätze aus solchen Anzeigen stamme. Die EU würde sich zudem aus Angst vor US-Präsident Donald Trump nicht trauen, wegen betrügerischer Inhalte härter gegen die Tech-Konzerne vorzugehen.

Werbung

Danach äußert sich Johnny Ryan, ein irischer Datenschutzaktivist, der früher selbst in der Online-Werbebranche tätig war: „Wenn wir jetzt nicht handeln, bedeutet das für die liberale Demokratie das Aus“, sagt Ryan. Ob er sich mit dieser drastischen Prognose auf die Gefahren des personalisierten Datenhandels oder betrügerischer Medikamentenwerbung bezieht, bleibt völlig unklar, weil zuvor beide Themen ohne sinnvolle Einordnung miteinander verknüpft wurden. Worin genau die Gefährdung der liberalen Demokratie liegen soll, wird ebenfalls nicht erklärt.

Lesen Sie auch:

Analyse

Starmers tiefer Fall: Der absurde mediale Irrglaube vom sozialdemokratischen Comeback

Deutsche Medien feierten Keir Starmers Wahlsieg 2024 als historisches Mandat für Labour. Doch keine zwei Jahre später ist vom Pathos des angeblichen Erdrutschsiegs kaum mehr etwas übrig. In Großbritannien zeichnet sich eine neue politische Ordnung ab, die Starmer selbst zu verantworten hat.

Rudolf Schreiner • 7

Adenauer SRP+

Auf Schulbesuch: WDR-Beitrag lobt Anti-AfD-Bus mit Alice-Weidel-Puppe im Gefängnis

Der WDR berichtet positiv über einen Schulbesuch des „Adenauer SRP+“-Busses des linksradikalen „Zentrums für politische Schönheit“. Dass Schüler in dem Bus eine Figur von Alice Weidel im Gefängnis sitzen sehen, wird weder erwähnt noch problematisiert.

Marie Rahenbrock • 92

Im weiteren Verlauf bemüht sich die Sendung fortlaufend, eine Verbindung zwischen Deepfakes, betrügerischem Medikamentenhandel und einem angeblich demokratiegefährdenden Wirken amerikanischer Tech-Konzerne herzustellen. „Wir müssen handeln, bevor es zu spät ist“, bilanziert Hirschhausen. Welche Gefahr genau droht, bleibt weiterhin offen. Unter anderem kommt Hirschhausen dabei auf den international bekannt gewordenen Fall des Medikamentenhändlers Lutz D. zu sprechen.

Lutz D. soll ein international operierendes Firmengeflecht aufgebaut haben, über das verschreibungspflichtige und nicht zugelassene Arzneimittel weltweit illegal vertrieben worden sein sollen. Laut Anklage soll es um mehr als 588 Millionen Medikamenteneinheiten gegangen sein, darunter vor allem Potenzpillen, Antibiotika sowie Krebsmedikamente. Der Vertrieb soll über mehrere Onlineshops und internationale Versandstrukturen erfolgt sein.

Ein konkreter Zusammenhang zum Thema der Sendung – also zu Deepfakes oder KI-generierter Werbung – besteht jedoch nicht. Auch ein konkreter Bezug zu Social-Media-Plattformen ist in diesem Fall nicht belegt, da der Vertrieb über eigene Netzwerke abgewickelt wurde. Dass Lutz D. derzeit zudem nicht inhaftiert ist, sondern weiterhin auf seinen Prozess wartet, ärgert Hirschhausen sichtlich. „Es gilt die Unschuldsvermutung“, sagt Hirschhausen, während er genervt die Arme verschränkt.

Obwohl der Fall Lutz D. nichts mit Deepfakes oder Social-Media-Plattformen zu tun hat, glaubt Hirschhausen bei einem Besuch beim Zoll am Frankfurter Flughafen, wo stichprobenartig Auslandslieferungen auf illegale Medikamentensendungen kontrolliert werden, „der Deepfake-Mafia auf die Spur zu kommen“. Was er dort zu finden hofft, erklärt er hingegen nicht.

Auch als Hirschhausen den Zoll bei Kontrollen begleitet und dort Hormonpräparate sichergestellt werden, die unter anderem von Bodybuildern verwendet werden, erschließt sich dem Zuschauer zunächst kein Zusammenhang zum eigentlichen Thema der Sendung. Hirschhausen stellt ihn dennoch her: Er behauptet, Social-Media-Plattformen seien an der Entstehung unrealistischer Körperideale beteiligt und trügen damit mittelbar zu einer Nachfrage nach solchen Präparaten bei.

„Menschen setzen ihr Leben aufs Spiel, gefährden ihre körperliche und ihre seelische Gesundheit. Das alles nur, um einem verzerrten Idealbild auf Social Media näherzukommen. Gut, dass wir endlich auch über diese toxische Seite von Plattformen sprechen“, sagt Hirschhausen. Sogar die Pressefreiheit sieht er in Gefahr. „Uns läuft wirklich die Zeit davon. Das Monopol der Plattformen gefährdet unsere Demokratie im Kern. Auch die unabhängige Presse“, sagt er. Auch hier bleibt er jede Erklärung schuldig.

Doch es gebe auch einen Lichtblick, sagt Hirschhausen: Die geplante Strafrechtsreform von Justizministerin Hubig, mit der auch die Erstellung von Deepfakes unter Strafe gestellt werden könne, sei ein erster und notwendiger Schritt. Besonders dankbar zeigt er sich gegenüber Collien Fernandes, die am Ende der Sendung ebenfalls zu Wort kommen darf. „Dass wir endlich öffentlich über digitale Gewalt und Rufmord reden, verdanken wir wesentlich dem Mut einer Frau. Einer Kämpferin gegen Identitätsdiebstahl: Collien Fernandes.“

Obwohl Fernandes ihrem Ex-Ehemann Christian Ulmen nicht vorwirft, in ihrem Namen sexualisierte Deepfakes erstellt zu haben, verknüpft Hirschhausen den Fall mit der Deepfake-Thematik. Zugleich kündigt er einen zweiten Teil der Sendung an, in dem Fernandes und HateAid im Mittelpunkt stehen sollen. Man darf gespannt sein, ob es Hirschhausen dort überzeugender gelingen wird, den Zusammenhang zum Thema der Sendung herzustellen.

Teilen: Zu den Kommentaren (147)