Vorgehensweise

1. Exploration
Zuerst erfolgt eine gemeinsame Auswahl von Themen mit hohem Desinformationspotential. Dabei soll identifiziert werden über welche Kanäle die Informationen verbreitet werden und welche Beweggründe Menschen für die Weitergabe haben. Auswahlkriterien sind dabei offen verfügbare Quellen in Messenger-Diensten und eine hohe Wahrscheinlichkeit des Aufgreifens und Verbreitens der Nachrichten auch über die Grenzen der Messenger hinweg, beispielsweise auf öffentlich zugängliche Plattformen wie YouTube oder Twitter. Zudem werden rechtliche Rahmenbedingungen bestimmt, die der weiteren Analyse umfassender Erfassungs- und Bekämpfungsstrategien zu Grunde gelegt werden, wobei aktuelle Entwicklungen des Telekommunikationsrechts und unionale Regulierungsvorschläge zu berücksichtigen sind.

2. Erfassen und Erkennen
Basierend auf den ausgewählten Datenquellen werden Vorgehensweisen identifiziert, wie die Daten erfasst, aufbereitet und gespeichert werden sollen. Dabei wird sichergestellt, dass die Daten für alle Projektpartner*innen verwertbar sind, sie also in einem Format vorliegen, auf das die Partner*innen mit ihren individuellen Werkzeugen zugreifen können. Weiterhin wird hier der Privacy-by –Design-Ansatz verfolgt. Anhand quantitativer und qualitativer Analysen von Fallbeispielen verschiedener Desinformationskampagnen sowie experimenteller Untersuchungen, werden besondere inhaltliche Merkmale identifiziert, die Verbreitungsdynamiken vorantreiben. Darauf basierend werden Methoden aus der Computerlinguistik, NLP und dem maschinellen Lernen dahingehend untersucht, ob sie geeignet sind, eine Trennung zwischen Desinformationen und inhaltlich korrekten Meldungen zu ermöglichen. Auf der rechtlichen Ebene wird untersucht, inwiefern Rechtsansätze in Regulierungen der öffentlich zugänglichen sozialen Netzwerke auf Messenger-Dienste übertragen werden können und wo rechtliche Grenzen bestehen. Zu erörtern ist dabei die Verpflichtung von Messenger-Dienste-Betreibern zur Bekämpfung von Desinformation sowie die Möglichkeit der freiwilligen Selbstregulierung unter Beachtung datenschutzrechtlicher Bestimmungen.

3. Bekämpfen
Dieses AP betrachtet interdisziplinär das Entgegenwirken zu Desinformationen. Dabei werden sowohl Nutzer*innen, also Empfänger*innen oder Meinungsführer*innen, als auch Betreiber*innen von Verbreitungsdiensten addressiert. Weiterhin kann ein Bekämpfen auch darin bestehen, Entscheider*innen ausreichend Informationen zu liefern, um Desinformationen zu identifizieren und dies auch zu belegen. Auch die rechtlichen Regulierungsansätze richten sich an unterschiedliche Akteure. Zum einen werden Möglichkeiten und Grenzen einer Bekämpfung von Desinformation durch sogenannte Community Standards untersucht. Zum anderen ist mit Blick auf eine etwaige Regulierung die Effektivität einer Bekämpfung durch Inpflichtnahme der Verbreiter*innen von Desinformation mit einer Verantwortlichkeit der Diensteanbieter ins Verhältnis zu setzen.

4. Evaluation
In einem nächsten Schritt werden die entwickelten Methoden und Regulierungsansätze hinsichtlich des Erfolgs beim Beantworten der dem Projekt zugrundeliegenden Forschungsfragen gemeinsam von den Partner*innen bewertet. Dabei gilt: Je größer die Verzerrungseffekte von Desinformation über Messenger-Dienste sind, desto größer ist der Handlungsbedarf zum Schutz des legitimen Regulierungsziels der Sicherung des demokratischen Diskurses.

5. Verbreitung und Darstellung
Um eine Grundlage für eine weitere Verwertung und die schnelle Nutzung in der Praxis zu schaffen, soll ein gemeinsamer Demonstrator erstellt werden, der aufzeigt, wie eine automatisierte Erkennung von Desinformationen ablaufen kann, welche Grenzen hier noch bestehen und welche Rolle dabei die unterschiedlichen Disziplinen spielen. Weiterhin werden Handlungsempfehlungen und Regulierungsvorschläge erstellt, die in einem gemeinsam verfassten und zu veröffentlichenden Policy Paper formuliert werden, das sich an Politik, Medien und die Zivilgesellschaft richtet.

Projektpartner

• 
• 
• 
•