Zunahme von Desinformation auf Twitter während Umbruchphasen
ForschungZEW-Studie analysiert fast zwei Millionen Tweets zum Ukrainekrieg
Während der Umbruchphasen des Kurznachrichtendienstes Twitter hin zu X stieg die Menge an schwerwiegender Desinformation zum Ukrainekrieg sprunghaft an. Das zeigt eine Studie des ZEW Mannheim gemeinsam mit der Erasmus-Universität Rotterdam sowie der Universität Mannheim, in der etwa 1,9 Millionen englischsprachige Tweets und 6,5 Millionen Retweets zum Ukrainekrieg von Ende März bis Mitte Mai 2023 ausgewertet werden. Ein winziger Anteil von 0,08 Prozent aller Accounts produzierte fast ein Drittel der moderaten bis schweren Desinformation, die in der Stichprobe weiterverbreitet wurde. Bestimmte Narrative wie die Delegitimierung der Ukraine oder eine Täter-Opfer-Umkehrung wurden von ihnen besonders häufig verbreitet.
„Im Oktober 2022 kaufte Elon Musk den Kurznachrichtendienst Twitter, im Juli 2023 benannte er ihn um in X. Im April 2023 wurden die Einschränkungen für Accounts staatlich finanzierter Medien aufgehoben und es kam zu einem deutlichen Anstieg an Desinformations-Accounts und entsprechenden Beiträgen. Wir beobachten, dass viele Accounts, die später Falschinformationen verbreiteten, genau während Plattform-Umbruchphasen neu erstellt wurden. Das könnte auf ein strategisches Vorgehen hinweisen“, sagt Dr. Raphaela Andres, Ko-Studienautorin aus dem ZEW-Forschungsbereich „Digitale Ökonomie“.
Desinformation im Kontext von Plattform-Regeln
Die Studie identifiziert einen auffälligen Zusammenhang zwischen Entscheidungen von X über Plattform-Regeln und der Intensität von Desinformation. Im Zeitraum vom 26. März bis 18. Mai 2023 traten zwei signifikante Spitzen in der Verbreitung von Falschmeldungen auf. Die erste und stärkste Welle fiel auf den Zeitraum vom 6. bis zum 8. April 2023, währenddessen X die Sichtbarkeitsbeschränkungen für Accounts von staatlich kontrollierten Medien aufhob und die Etikettierung von Quellen änderte.
Mehr Desinformations-Accounts während Umbruchphasen bei X erstellt
Ein Großteil der Accounts, die Desinformation streuten, wurde in Zeiten großer Umwälzungen auf X erstellt. Der stärkste Anstieg an neuen Desinformations-Accounts fiel auf den 28. Oktober 2022, als Elon Musk Twitter offiziell übernahm. An diesem einen Tag wurden über 2.400 solcher Accounts erstellt – ein fast 60-facher Anstieg gegenüber dem Tagesdurchschnitt. Weitere Spitzen traten während der Entlassungswellen bei X auf.
Die Netzwerkanalyse zeigt eine sehr starke Konzentration der Accounts: Lediglich 0,08 Prozent aller Accounts in der Stichprobe ist für 30 Prozent der weiter verbreiteten Beiträge mit moderater bis schwerer Desinformation verantwortlich. Diese Accounts wirken in eng vernetzten Clustern, die sich klar vom restlichen Netzwerk abgrenzen und Falschmeldungen effizient verstärken.
„Unsere Ergebnisse weisen darauf hin, dass es einen Zusammenhang gibt zwischen dem Ausbau von Desinformationsinfrastrukturen und den regulatorischen Lücken während des Plattformübergangs von Twitter hin zu X“, so Raphaela Andres.
Gefahr durch Desinformation in Trainingsdaten für KI
Die gestiegene Menge an Desinformation auf X kann auch Auswirkungen auf KI-Systeme haben. Large Language Models (LLMs) werden mit riesigen Mengen an nutzergenerierten Inhalten aus dem Internet trainiert, wodurch die verbreiteten Desinformationsnarrative in die Trainingsdaten von KI-Systemen einfließen. Das könnte dazu führen, dass KI-Modelle Falschinformationen als Fakten wiedergeben oder unbeabsichtigt verstärken.
„Wenn diese Falschinformationen in die Datensätze zum Training von KI-Modellen gelangen, könnte das Wissen zukünftiger KI-Modelle nachhaltig verfälscht werden, mit wachsendem Einfluss auf individuelle Entscheidungen. Ohne wirksame Gegenmaßnahmen droht ein Teufelskreis, in dem KI-Systeme die Desinformation, die sie trainieren, weiter automatisieren“, so Dr. Olga Slivko, Ko-Studienautorin von der Erasmus-Universität Rotterdam.
1,9 Millionen Tweets ausgewertet
Die Studie basiert auf einer umfassenden Auswertung von rund 1,9 Millionen englischsprachigen Original-Tweets und 6,5 Millionen Retweets, die von März bis Mai 2023 unter Verwendung spezifischer Schlüsselwörter zum Ukraine-Krieg gesammelt wurden. Um die riesige Datenmenge zu bewältigen, entwickelten die Forschenden ein automatisiertes Klassifizierungssystem auf Basis eines lokal gehosteten LLMs. Das Modell bewertete jeden Tweet hinsichtlich der Schwere der Desinformation und ordnete ihn einem von zwölf pro-russischen Narrativen zu, darunter „Eliten vs. Volk“ oder „Delegitimierung der Ukraine“.
Die Zuverlässigkeit der KI-gestützten Analyse wurde durch einen Vergleich mit manuellen Bewertungen von drei unabhängigen Experten/-innen validiert, was die Eignung von LLMs für die groß angelegte Überwachung von Desinformation bestätigt. Zusätzlich wurde eine Netzwerkanalyse durchgeführt, um die Struktur der Verbreitungskanäle und die Zentralität der einzelnen Accounts zu bestimmen.
