KI-Fälschungen fluten soziale Medien – wer steckt dahinter und was tun?
Emil Lange
KI-Fälschungen fluten soziale Medien – wer steckt dahinter und was tun?
KI-generierte Desinformation verbreitet sich in sozialen Medien – immer raffinierter und vielschichtig
Von Deepfake-Politikern bis zu erfundenen Interviews: Künstlich erzeugte Fälschungen werden zunehmend genutzt, um die öffentliche Meinung zu manipulieren, Vorurteile auszunutzen oder sogar finanzielle Betrugsmaschen voranzutreiben. Forscher und Politiker arbeiten unter Hochdruck daran, die wachsende Bedrohung einzudämmen, bevor sie die digitale Debattenkultur weiter verzerrt.
In Deutschland verbreiten rechtsextreme Gruppen bereits KI-generierte "Straßenumfragen", um spaltende Narrative zu schüren. In einem Video trat etwa eine erfundene 18-Jährige auf, die zu Massenabschiebungen aufrief. Die Desinformationsforscherin Karolin Schwarz deckte zudem KI-erzeugte Rabbiner auf, die in Online-Videos antisemitische Klischees reproduzierten. Die Fälschungen richten sich nicht nur an junge Nutzer – auch fiktive Persönlichkeiten wie erfundene "Schwestern" werden konstruiert, um gezielt verschiedene Altersgruppen zu erreichen.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Doch das Problem beschränkt sich nicht auf die Politik. Finanzgetriebene Fake-Accounts setzen auf Sexualisierung und vorgetäuschte Verletzlichkeit, um Nutzer auszubeuten. Manche wechseln zwischen Betrugsmaschen, instrumentalisieren aktuelle Trends, um Reichweite zu generieren, und monetarisieren die Interaktionen. Selbst demokratische Parteien in Deutschland nutzen mittlerweile KI-Tools für Social-Media-Bilder – die Regierung hält sich bisher jedoch von populistischen KI-Fälschungen fern.
Auf internationaler Ebene hat das Weiße Haus seit der Zuspitzung der Spannungen mit dem Iran eine offensive Digitalstrategie verfolgt. Die Social-Media-Kampagnen setzen auf eine Mischung aus militärischer Machodarstellung, spielerischen Ästhetiken und sogar Popkultur-Elementen – von Comic-Stilmitteln bis hin zu umfunktionierten rechtsextremen Memes. Zielgruppe sind vor allem Männer zwischen 20 und 40 Jahren.
Die Regulierungsbehörden ziehen nach: Mit dem Digital Services Act (DSA) der EU könnten Plattformen, die toxische KI-Fälschungen verbreiten, künftig sanktioniert werden. Ab August gelten neue Vorschriften, die verlangen, dass KI-generierte Inhalte klar gekennzeichnet werden müssen – ein Schritt, der Nutzern helfen soll, Fakten von Fiktion zu unterscheiden.
Die Zunahme von KI-Fälschungen stellt eine komplexe Herausforderung dar, die politische Manipulation mit finanzieller Ausbeutung verbindet. Zwar könnten Kennzeichnungspflichten und schärfere Plattform-Strafen die Verbreitung eindämmen – doch die Geschwindigkeit und Anpassungsfähigkeit dieser Taktiken erfordern ständige Wachsamkeit. Forscherinnen wie Katharina Nocun und Karolin Schwarz beobachten die Entwicklungen weiterhin genau. Doch ob Gegenmaßnahmen wirken, hängt letztlich von konsequenter Umsetzung und öffentlicher Sensibilisierung ab.
