KI-Fake-Accounts auf TikTok: Monetarisierung der Empörung

KI-Fake-Accounts auf TikTok verdienen vor allem an Aufmerksamkeit: Sie erzeugen automatisiert Videos, die wütend machen sollen, sammeln damit Reichweite und lenken sie auf Monetarisierungsprogramme oder Krypto-Links. Ob ein Video echt ist, erkennst du am Bild allein immer schwerer. Hilfreicher ist die Frage, wem die Empörung nützt.

Ein KI-Napoleon auf der Pariser Demo: Millionen Aufrufe mit einem Fake

Nach dem Generalstreik in Frankreich am 17. Oktober 2026 verbreiteten sich zahlreiche Protestbilder, die Faktenchecker als KI-Fälschungen entlarvten. Das berichtet der Blick am 1. November 2026. Ein Beispiel ist ein angeblicher Demonstrant im Pink-Panther-Kostüm. Als Vorlage diente ein Foto von Protesten in Armenien aus dem Jahr 2015.

Der SonntagsBlick hat zudem den TikTok-Account „Napolo Bueno“ untersucht. Nach dieser Recherche gilt:

• Seit dem 19. Oktober 2026 erschienen 12 Videos, in denen ein KI-generierter Napoleon in Paris tanzt oder mitprotestiert.
• Ein Video vom 20. Oktober übernimmt Bild für Bild die Aufnahme eines freien Reporters, die den Bürgermeister Bally Bagayoko in Saint-Denis zeigt.
• Der Account kommt auf 1,3 Millionen Likes, das meistgesehene Video auf über 6 Millionen Aufrufe.
• Die Spur des gleichnamigen Instagram-Accounts führt nach Marokko.

Das Geschäftsmodell steht in der Videobeschreibung: ein Link zu einem Memecoin. Laut SonntagsBlick waren dort bisher nur 200 Dollar investiert, verteilt auf drei Besitzer. Bei Memecoins seien meist die Initiatoren die einzigen Gewinner. Prof. Roland Meyer, Brückenprofessor für Digitale Kulturen und Künste an der Universität Zürich und der ZHdK, ordnet im Interview mit dem Blick ein: Oft gehe es den Machern weniger um Politik als um Geld.

„Es geht um Engagement (Anmerkung d.R.: Vom Englischen: „Ängäidschment“) und Reichweite.“ – Prof. Roland Meyer

Wut nach Plan: Was Forschende bei deutschen KI-Accounts gefunden haben

Dass das Phänomen auch Deutschland betrifft, zeigt eine Analyse von CeMAS vom 18. Februar 2026. Julia Smirnova und ihr Team fanden mindestens 72 TikTok-Accounts, die KI-gestützte Desinformation über deutsche Politik verbreiten:

• Zusammen haben sie rund 1,1 Millionen Follower.
• Vom 15. November 2024 bis 27. Januar 2026 veröffentlichten sie mindestens 5.265 Videos mit 162 Millionen Aufrufen, 2,7 Millionen Likes und rund 386.000 Kommentaren.
• Erfundene Verbote sollen Wut auslösen, etwa Abgaben auf Hunde und Katzen oder ein Staubsaugverbot am Wochenende. Meist steht Kanzler Merz im Mittelpunkt.
• Eingesetzt werden KI-Moderator:innen, Deepfakes und künstliche Influencer:innen. Ein „Satire“-Etikett soll offenbar die Moderation umgehen.

CeMAS hält es für möglich, dass kommerzielle Betreiber TikToks Monetarisierungsprogramm nutzen. Für das „Creator Rewards Program“ nennt CeMAS als Bedingungen mehr als 10.000 Follower und mehr als 100.000 Aufrufe in den letzten 30 Tagen, verfügbar nur in bestimmten Ländern. Die aktuellen Regeln legt TikTok selbst fest und kann sie ändern.

Wie verbreitet KI-Bilder insgesamt sind, hat AI Forensics untersucht. Im Juni 2025 wertete die Organisation Suchergebnisse zu 13 Hashtags in Deutschland, Spanien und Polen aus, darunter #trump und #zelensky. 25 Prozent der Top-Suchergebnisse auf TikTok enthielten KI-Bilder. Über 80 Prozent davon stammten von „Agentic AI Accounts“, die KI-Inhalte automatisiert produzieren. Über 80 Prozent der KI-Inhalte waren fotorealistisch, nur etwa die Hälfte war gekennzeichnet.

Ob Empörung grundsätzlich mehr Reichweite bringt, belegen diese Zahlen nicht. Sie zeigen aber, wie viel Aufmerksamkeit solche Accounts erreichen.

Ist das echt? Drei Fragen, mit denen du KI-Empörung im Feed erkennst

Roland Meyer hält es für kaum möglich, Echtes und Fake am einzelnen Bild auf Dauer zuverlässig zu unterscheiden. Er empfiehlt stattdessen drei Fragen an jeden Beitrag:

1. Warum bekomme ich diesen Inhalt zu sehen?
2. Worauf zielt er ab?
3. Welche Emotionen soll er auslösen?

Ergänzend kannst du auf Hinweise aus den Fällen oben achten: Steht ein Krypto- oder Shop-Link in der Beschreibung? Klingt ein angebliches Verbot zu absurd, um wahr zu sein? Fehlt eine KI-Kennzeichnung, obwohl das Video zu glatt wirkt? Verdächtige Inhalte meldest du direkt über die Meldefunktion der Plattform, statt sie zu teilen oder wütend zu kommentieren.

Lehre fürs Marketing: Aufmerksamkeit ist nicht dasselbe wie Vertrauen

Für alle, die beruflich mit Social Media arbeiten oder dorthin wechseln wollen, ist der Fall lehrreich. Rage Bait erzeugt Klicks, aber keine Glaubwürdigkeit. Unternehmen brauchen Menschen, die Reichweite seriös aufbauen, KI verantwortungsvoll einsetzen und die Regeln des Medienrechts kennen.

Genau das lernst du in unserer Weiterbildung zum Online Marketing Manager (m/w/d) mit Social Media, Medienrecht sowie Design und Branding. Wenn du gezielt mit KI Inhalte erstellen willst, passt der Kurs Kreative Content-Produktion für Social Media mit KI. Eigene glaubwürdige Inhalte entwickelst du im Kurs Social Media Content Creator. Influencer-Marketing und Content-Beschaffung behandelt der Marketing Aufbaukurs – Online Marketing / Social Media Marketing. Alle Angebote findest du in unserem Kursfinder, belegbar hybrid und mit Bildungsgutschein bis zu 100 Prozent förderfähig.

Häufige Fragen

Social Media seriös lernen: Wir beraten dich

Du willst dich weiterbilden und die Kosten über einen Bildungsgutschein abdecken? Wir beraten dich kostenlos und unverbindlich zu unseren Kursen – ruf uns an unter 07152 31 97 3 207 oder schreib uns über das Kontaktformular.