18 Monate im Europäischen Observatorium für (Desinformations)narrative

18 Monate lang leitete ein Zusammenschluss aus 11 Partnern das 2. European Narrative Observatory mit dem Titel PROMPT (Predictive Research On Misinformation & Propagation Trajectories). Wir entwickelten KI-Techniken, um Faktenprüfer:innen, Aktivist:innen und politische Entscheidungsträger:innen im großen Stil im Kampf gegen Desinformation zu unterstützen. Aus diesem Prozess haben wir wichtige Erkenntnisse mitnehmen können:

1. Intelligente, zielgerichtete KI ist ein Game-Changer für die Erkennung und Bekämpfung von Desinformation

PROMPT hat gezeigt, dass künstliche Intelligenz (KI) bei strategischem Einsatz Desinformation wirksam bekämpfen kann. Dabei entwickelten wir kontextbezogene KI-Modelle – Tools, die darauf trainiert sind, nuancierte Muster in Desinformationskampagnen zu erkennen, wie zum Beispiel koordiniertes unechtes Verhalten (CIB) oder problematische Narrative. Unser Team entwickelte KI-gesteuerte Frameworks, um die Identifizierung aufkommender Desinformationstrends nahezu in Echtzeit zu automatisieren. So wurden die Reaktionszeiten für die Auswertung von Millionen von Social-Media-Beiträgen von Tagen auf Stunden reduziert.

Trotzdem ist KI kein Wundermittel. Wir sind überzeugt von der großen Bedeutung der Zusammenarbeit zwischen Mensch und KI. Diese Grundüberzeugung wird durch die 18 Monate lang gesammelten Erkenntnisse gestützt. KI ist für die Verarbeitung großer Datenmengen hervorragend geeignet, aber menschliche Analyst:innen sind unersetzlich, wenn es darum geht, Kontext, Absichten und kulturelle Nuancen zu interpretieren. Durch die Kombination von maschinellem Lernen mit fachkundiger Aufsicht schuf PROMPT eine Feedbackschleife, in der KI potenzielle Bedrohungen markierte und Analyst:innen die Modelle verfeinerten. So wurden sowohl Skalierbarkeit als auch Präzision gewährleistet.

2. PROMPT: Ein Mikrokosmos des gesamtgesellschaftlichen Ansatzes zur Bekämpfung von Desinformation

PROMPT wurde als technisches Pilotprojekt konzipiert, aber die Innovationen beschränkten sich nicht nur auf Technologie. Desinformation gedeiht in Fragmentierung. Ein gesamtgesellschaftlicher Ansatz, der Regierungen, Technologieplattformen, die Zivilgesellschaft und Medien einbezieht, wäre also ideal –  und PROMPT versuchte, diesen Ansatz anzuwenden. Als europäische Initiative wurde das Projekt zu einem lebenden Labor für sektorübergreifende Zusammenarbeit. Wir haben Faktenprüfer:innen, Wissenschaftler:innen, politische Entscheidungsträger:innen und Technologieentwickler:innen zusammengebracht, um gemeinsam Lösungen zu entwickeln und sicherzustellen, dass unsere Instrumente und Strategien auf unterschiedlichen Perspektiven basieren.

PROMPT förderte so Transparenz, zum Beispiel durch Open-Source-Tools und öffentliche Berichterstattung sowie Inklusivität, zum Beispiel mithilfe von mehrsprachigen Ressourcen für „ressourcenarme“ Sprachen. Es wurden Instrumente für ein breites Spektrum von Akteur:innen entwickelt – vom besorgten Bürger bis zum erfahrenen Experten. Europäische Projekte sind wie Inkubatoren: Sie stellen Ressourcen für die Zusammenarbeit von (manchmal) ungewöhnlichen Partnern bereit. PROMPT ist nur ein Beispiel unter vielen, dabei birgt der Ansatz weiteres Potenzial für mögliche ähnliche Projekte.

PROMPT – unterschiedliche Produkte für unterschiedliche Endnutzer:innen

3. Eine gemeinsame Grammatik zur Bekämpfung von Desinformation

PROMPT wurde vom Repertoire der TTPs (Taktiken, Techniken und Verfahren) inspiriert, die von Desinformationsakteur:innen verwendet werden, und hat dieses erweitert. In Zusammenarbeit mit der DISARM Foundation haben wir eine Taxonomie von Desinformationsnarrativen und den sie stützenden Techniken zur Überzeugung, emotionalen Auslösern und rhetorischen Mitteln erstellt.

Diese gemeinsame Grammatik ermöglichte einen nahtlosen Informationsaustausch zwischen technischen Teams, zum Beispiel KI-Entwickler:innen, und nicht-technischen Partnern wie zum Beispiel Journalist:innen und Pädagog:innen. Sie soll zu den europaweiten Bemühungen beitragen, eine gemeinsame „Sprache“ zu entwickeln, um Desinformation zu analysieren, Erkenntnisse auszutauschen und Maßnahmen vorzuschlagen, die über nationale Grenzen hinausgehen.

Auszug aus dem PROMPT-Codebook

4. Straffung des reichhaltigen Ökosystems der EU zur Bekämpfung von Desinformation

Europa verfügt über ein lebendiges Feld aus Desinformationsforscher:innen, Faktenprüfer:innen und zivilgesellschaftlichen Organisationen. Allerdings behindern isolierte Daten und fragmentierte Instrumente oft ein gemeinsames Handeln. Die Bemühungen zur Entwicklung eines Europäischen Demokratieschildes könnten zu einer besseren Zusammenarbeit führen, insbesondere zum Informationsaustausch und zu einer strafferen Finanzierung zur Unterstützung des Feldes.

Dies kann beispielsweise kleineren Akteur:innen den Zugang zu hochwertigen Daten und Analysewerkzeugen erleichtern und so gleiche Wettbewerbsbedingungen gegenüber finanzstarken Desinformationsnetzwerken schaffen. Im Rahmen von PROMPT haben wir Organisationen wie der Diaspora Initiative und context.ro Zugang zum Wikipedia Sensitivity Barometer gewährt, um Desinformationsmanipulationen auf Wikipedia während der Wahlen in Rumänien und Moldawien zu untersuchen. Es zeigt sich: Es hat funktioniert. Jetzt, wo wir einer regelrechten Desinformationsindustrie gegenüberstehen, brauchen wir mehr denn je eine strukturierte und systematische Antwort, um den Kampf nicht zu verlieren.

5. OSINT für alle: Brückenschlag zwischen Forschung und Bürgerbeteiligung

Desinformation ist nicht nur eine Herausforderung für Expert:innen, sondern eine gesamtgesellschaftliche Schwachstelle. PROMPT legte einen Schwerpunkt auf die Vermittlung von Open-Source-Intelligence-Kenntnissen (OSINT) an Bürger:innen. Wir haben dafür verschiedene Initiativen geführt:

• Workshops für Schüler:innen: Schulung in Medienkompetenz, insbesondere durch unseren speziellen MOOC zu KI, Journalismus und der Integrität von Desinformation, und im Umgang mit OSINT-Tools
• Offene Tools: Wir haben benutzerfreundliche Schnittstellen entwickelt – wie den Wikipedia Sensitivity Meter –, um Bürger:innen zu helfen, Inhalte unabhängig zu überprüfen
• Zusammenarbeit mit Medien: Wir haben uns mit Medien zusammengetan, um zu untersuchen, wie KI-Tools besser nahtlos in redaktionelle Arbeitsabläufe integriert werden können
• Unterstützung der Wikipedia-Community: Organisation von Workshops zur gemeinsamen Entwicklung von Tools zum Schutz der Online-Enzyklopädie gegen Angriffe auf die Informationsintegrität

Unser größtes Ziel war es, den Zugang zu Verifizierungs-Tools zu demokratisieren und das Publikum zu aktiven Verteidiger:innen der Informationsintegrität zu machen.

6. Handeln trotz – und unter Umgehung von – Plattformen

Sich auf die Selbstregulierung von Plattformen zu verlassen, ist eine wenig vielversprechende Strategie. Die Arbeit von PROMPT hat deutlich gemacht, dass es notwendig sein kann, die Untätigkeit dieser zu umgehen. Der Digital Services Act (DSA) bietet einen Rahmen. Der enthaltene Artikel 40, der Forschenden den Zugang zu Plattformdaten für Studien von öffentlichem Interesse ermöglicht, könnte eine Wende herbeiführen. Die meisten sehr großen Online-Plattformen (VLOPs für „Very Large Online Platforms“ im DSA) kooperieren jedoch nicht – mit Ausnahme der Wikimedia Foundation. Wir müssen also unsere Arbeit trotzdem tun, um sie zur Rechenschaft zu ziehen. Es handelt sich nicht nur um ein „Forschendenproblem”: Es geht um ein umfassenderes Bestreben, die Daten zurückzugewinnen, die Nutzer:innen zu Plattformen beitragen und die, wie uns die Katastrophe um Cambridge Analytica gelehrt hat, als Waffe eingesetzt werden können, um Bürger:innen in die Irre zu führen.

In diesem Sinne wurde opsci.ai, Leiter des Forschungsteams, Unterzeichner des von der DSA unterstützten EU-Verhaltenskodexes zur Desinformation. Rechtliche Wege werden auch weiterhin unerlässlich sein, um unseren Zugang zu Daten und Nachweisen zu gewährleisten und sicherzustellen, dass die Forschung zur Desinformation nicht von den Gatekeepern der Unternehmen blockiert wird.

7. Wikipedia, so wichtig, so fragil, so widerstandsfähig

Die Arbeit an PROMPT hat immer wieder verdeutlicht, wie wichtig Wikipedia für die Integrität von Informationen ist. Jeden Monat werden 15 Milliarden Abfragen auf der Plattform durchgeführt. In den letzten 18 Monaten hat sich die Wahrnehmung von Wikipedia verändert. Musks Grokipedia und die großartigen Recherchen verschiedener Reporter:innen zu den Versuchen, Informationen auf Wikipedia zu manipulieren, haben gezeigt, wie wichtig Wissensgemeinschaften wie Wikipedia für die Informationslandschaft sind. Die Auswirkungen solcher Gemeinschaften sind weitreichend: Informationen von Wikipedia oder ähnlichen Plattformen könnten letztendlich in der Antwort von ChatGPT landen. Wir haben auch erkannt, dass die Dezentralität von Wikipedia und seine Fähigkeit, Nutzer:innen zu Produzent:innen und Moderator:innen von Inhalten zu machen, eine Möglichkeit ist, Risiken der Informationsmanipulation zu bewältigen. Kollektive Überwachung  kann dabei helfen, Anomalien zu erkennen. Gleichzeitig bergen sie auch einige Schwachstellen, wenn böswillige Akteur:innen diese Mechanismen „ausnutzen”. Kurz gesagt: Wikipedia kann das gesamte Ökosystem im Kampf gegen Desinformation inspirieren, muss aber auch weiter geschützt werden.

8. Industrialisierung der Reaktion: Skalierung mit SPINE

Ausländische Gegner:innen haben weitreichende Desinformationsfähigkeiten entwickelt. Die europäischen Reaktionen sind nach wie vor fragmentiert, reaktiv und unterfinanziert. Um Desinformation zu übertrumpfen, müssen auch wir unsere Abwehrmaßnahmen „industrialisieren“. Tools allein reichen nicht aus. Nach PROMPT wird das 3. European Narrative Observatory – das Projekt SPINE – diesen Ansatz zur Bekämpfung von Desinformation weiterentwickeln. Es wird eine strategische Dateninfrastruktur mit einer dezentralisierten, bürgerbasierten Intelligence-Community kombinieren, die sich an Modellen wie Wikipedia orientiert. Dabei wird es sich sechs Herausforderungen stellen:

• Entwicklung skalierbarer Echtzeit-Überwachungsprotokolle in 27 Mitgliedstaaten und 24 Sprachen.
• Bereitstellung eines sauberen Zugangs zu Daten unter Verwendung einer Multi-Pipeline-Datenarchitektur, um eine übermäßige Abhängigkeit von der (mangelnden) Kooperation der Plattformen zu vermeiden
• Aufbau einer europäischen, zivilgesellschaftlichen Informationsgemeinschaft durch die Mobilisierung von Freiwilligen, die Schulung regionaler Mitwirkender und die Förderung von Partnerschaften mit nationalen „Sektionen” von Wikimedia und Fact-Checking-Netzwerken
• Unterstützung der Durchsetzung des DSA, um den Übergang von freiwilligem zu strukturiertem Datenaustausch zu erleichtern, und Förderung der Zusammenarbeit mit offenen Plattformen wie zum Beispiel Mastodon oder Reddit
• Unterstützung des European Democratic Shield und von Maßnahmen für einen besseren Datenaustausch und eine bessere Interoperabilität im gesamten EU-Ökosystem zur Bekämpfung von Desinformation
• Entwicklung offener, modularer und aktualisierbarer Tools, um sicherzustellen, dass die Innovation auch nach Projektende weiterlebt

Bei der Industrialisierung geht es nicht darum, Menschen zu ersetzen, sondern ihre Wirkung zu verstärken. Durch die Automatisierung sich wiederholender Aufgaben soll das dritte Observatory den Analyst:innen den Rücken freihalten, damit sie sich auf das konzentrieren können, was sie für am wichtigsten halten.

Abschließend…

PROMPT war nicht nur ein weiterer kleiner Schritt in einem schnelllebigen Informationsumfeld – mitten in unserem Projekt stellte Meta seine Unterstützung für europäische Faktenprüfer:innen ein, Musk gründete Grokipedia. Hier diente PROMPT zusammen mit seinen Schwesterprojekten als Proof of Concept für einen gesamtgesellschaftlichen und skalierten Ansatz zur Bekämpfung von Desinformation. Damit hat das Projekt dazu beigetragen, eine gemeinsame Grammatik zu entwickeln, um Desinformationsbemühungen im europäischen digitalen Raum besser antizipieren und bekämpfen zu können. Fortsetzung folgt…

Beitragsbild: Pexels

Der Beitrag 18 Monate im Europäischen Observatorium für (Desinformations)narrative erschien zuerst auf Europäisches Journalismus-Observatorium (EJO).