KI-Fälschungen fluten soziale Medien – und gefährden die Demokratie
Soziale Medien werden zunehmend mit KI-generierten Fälschungen und politisch aufgeladenem Content überflutet. Von erfundenen Persönlichkeiten bis hin zu manipulierten Bildern – diese Methoden verändern die digitale Debattenkultur. Experten warnen, dass dieser Trend das Vertrauen in digitale Informationen untergraben und sogar die Demokratie selbst gefährden könnte.
Das Weiße Haus setzt auf eine auffällige Social-Media-Strategie, die rechtsextreme Memes mit spielerischen Visuals verbindet. Zu den jüngsten Veröffentlichungen gehört eine digitale Militärparade, die sich gezielt an junge Männer richtet und mit machohaften Ästhetiken sowie gamifizierten Spektakeln arbeitet. Die Regierung nutzt zudem Animationen eines bekannten Studios, um Abschiebungen in einer verharmlosenden, fast cartoonhaften Darstellung zu zeigen.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Gleichzeitig verbreitet sich KI-generierter Content rasant auf den Plattformen. Ein Instagram-Account mit über einer Million Followern präsentiert eine künstlich erschaffene Frau, die abwechselnd eine OnlyFans-Seite mit Fuß-Fetisch-Inhalten bewirbt und über aktuelle Konflikte diskutiert. In deutschen rechtsextremen Kreisen zirkulieren zudem gefälschte "Straßeninterviews", darunter ein manipuliertes Video, in dem eine Frau zu Massenabschiebungen aufruft.
KI-Tools werden auch eingesetzt, um komplette Fake-Persönlichkeiten zu erschaffen, etwa "Schwestern", die gezielt bestimmte Narrative verbreiten sollen. In einigen Fällen nutzen KI-generierte Rabbiner antisemitische Klischees aus, um damit Reichweite zu monetarisieren. Die Politikwissenschaftlerin Katharina Nocun, die sich mit Desinformation beschäftigt, betont, wie solche Taktiken Vorurteile schüren und Verschwörungstheorien verbreiten.
Die Europäische Union wird KI-generierte Inhalte künftig kennzeichnungspflichtig machen. Ab August soll die Regelung Nutzern helfen, zwischen echtem und gefälschtem Material zu unterscheiden. Doch der Anstieg von KI-Fälschungen und manipulierten Medien birgt die Gefahr, dass Menschen alles, was sie online finden, infrage stellen. Angesichts des ohnehin brüchigen Vertrauens in soziale Medien könnte die EU-Kennzeichnungspflicht etwas mehr Klarheit schaffen. Dennoch bleibt die Herausforderung, Desinformation einzudämmen – und ihre potenziell schädlichen Folgen für die demokratische Debatte – drängend wie nie.
