What the Fake?! – Ergebnisse des Seminar-Wochenendes

Vergangenen Sonntag hat im jfc Medienzentrum das Seminarwochenende “What the Fake?!” von Stipendiat:innen der sdw* stattgefunden. Während der Workshops, Vorträge und Diskussionen wurde deutlich, dass Desinformation unser kritisches Denken und auch unser Innehalten fordert: gar nicht leicht in Zeiten, in denen über Social Media jeden Tag neue (Des-)Informationen auf unseren Feeds auftauchen können. Perspektiven aus Zivilengagement, Journalismus, Psychologie, Philosophie und Medienpädagogik ergänzen sich – denn das Phänomen ist vielschichtig.

Freitag, 20. Oktober 2023

Zum Auftakt der Veranstaltung am Freitag, den 20. Oktober 2023 berichtete Anton Livshits von der Amadeu-Antonio-Stiftung, wie verschiedene Parteien im Russland-Ukraine-Krieg gezielte Desinformation nutzen, um gegnerische Akteure zu destabiliseren, schwächer erscheinen zu lassen oder Akzeptanz für Russlands Kriegshandlungen zu erwirken und damit das weitere Kriegsgeschehen zu beeinflussen. Im zoom-Vortrag stellte Livshits heraus, dass die Desinformation organisierten Strukturen folgt und nicht als vereinzelte Aktionen verstanden werden kann.

Abends war Miriam Bunjes von CORRECTIV zu Gast und stellte die Arbeit der Faktencheck-Redaktion vor. CORRECTIV ist eines der wenigen deutschen Medienhäuser, die weder öffentlich-rechtlich noch privat, sondern als gemeinwohlortientiertes Medienhaus organisiert sind. Bunjes erklärte, dass die Redakteur:innen Material auf verdächtige Indizien für Desinformation prüfen und bei ihrer Recherche Suchmaschinen und Social Media Plattformen durchkämmen; auf der Suche nach den Urheber:innen von zu prüfendem Video- oder Bildmaterial. Sie erläuterte die verschiedenen Indizien, die darauf hinweisen, dass Material möglicherweise nicht authentisch ist oder im falschen Kontext steht. Nach Recherche und genauer Analyse des Materials kategorisieren die Redakteur:innen die Meldung in einem von CORRECTIV entwickelten Bewertungssystem. Die 11 Kategorien reichen von “Richtig” über “Falscher Kontext” bis hin zu “Frei erfunden”.

Samstag, 21. Oktober 2023

Mit dem Samstagmorgen wechselten die Teilnehmenden in eine medienpsychologische Perspektive. Prof. Dr. Nicole Krämer von der Universität Duisburg-Essen fasste den Stand der medienpsychologischen Forschung zu Desinformation zusammen. Bereits seit den späten Siebzigern ist hier unter dem Begriff “Falschinformationseffekt” bekannt, dass man eine einmal verarbeitete Information nur sehr schwer nachträglich korrigieren kann. Ist eine (vermeintliche) Information erst einmal in die bestehenden Zusammenhänge des eigenen Weltbilds eingearbeitet und etabliert, kann eine neue bzw. korrigierte Information die erste nur schwer “überschreiben” (Loftus, Miller, Burns, 1978). Hinzu kommt der sogenannte “Backfire Effekt” (Nyhan & Reifler 2010, Flynn et al. 2016), demnach Richtigstellungen teilweise dazu führen, dass die korrekte Information sogar noch mehr abgelehnt wird. Spannend waren zudem die aktuellen Forschungen zu Warnhinweisen: Prof. Dr. Nicole Krämer untersucht derzeit mit einem Forschungsteam, welche Arten von Warnhinweisen an Falschmeldungen am effizientesten dazu führen, dass die Desinformation von den Proband:innen als inkorrekt oder unwahr verarbeitet und gemerkt wird. Außerdem berichtete Prof. Dr. Krämer von den Herausforderungen, mit der schieren Menge an Desinformation umzugehen und wie sich daraus Forschungsansätze zu KI-gestützen Einstufungen von (Des-)Information ergeben.

KI-gestützte Kategorisierungen wurden vom nächsten Referenten kritisch bewertet: Prof. Dr. Rolf Schwartmann von der Technischen Hochschule Köln diskutierte mit den Teilnehmenden über die juristischen Herausforderungen, die mit KI-gestützte Arbeitsprozessen einhergehen können. Im Gespräch kamen viele verschiedene Aspekte zur Sprache, wie zum Beispiel der Einsatz von KI-gestützter Software beim Verarbeiten von Sachermittlung, beispielsweise bei Fluggast-Verspätungsfällen oder bei Schiedsrichter-Einschätzungen auf dem Fußballplatz. Prof. Dr. Schwartmann wies darauf hin, dass KI keine Entscheidung im engeren Sinne fällen kann, sondern immer nur statistischen Wahrscheinlichkeitsrechnungen folgt. Es sei trügerisch und gefährlich, der KI eine “neutrale” Entscheidungskompetenz zuzuschreiben. Deutlich sprach sich Prof. Dr. Schwartmann dafür aus, KI grundsätzlich aus allen Entscheidungsprozessen so weit wie möglich herauszuhalten, oder wie er es formulierte; nicht über die Stopp-Taste, sondern über die Start-Taste nachzudenken.

Nach der Mittagspause ging es dann mit zwei verschiedenen Workshops weiter: Im Saal erarbeiteten Kleingruppen unter Anleitung von Oliver Rath, Wirtschaftsinformatik-Forscher an der Universität Köln, wie Desinformation im Rahmen von Finfluencern und Financial Fake News das Geschehen am Finanzmarkt beeinflussen kann. Dabei stellte er verschiedene Verfahren der Manipulation vor, die die Teilnehmenden anschließend in einer eigenen Taxonomie bewerteten. Parallel testeten die Teilnehmenden des Deepfake-Workshops mit der Künstlerin und Medienpädagogin Antonia Gruber im Co-Working-Space verschiedene KI-gestützte Apps wie Photoleap und Reface aus. Hier zu sehen sind ein paar exemplarische Ergebnisse:

Nach einer kurzen Kaffeepause versammelten sich dann alle Teilnehmenden wieder im Saal für eine Podiumsdiskussion zu der Frage “Wie sehr sollen wir unseren Medien vertrauen?”. Am Podiumstisch diskutierten Prof. Dr. Frank Überall (Vorsitzender des Deutschen Journalistenverbands), Volker Stollorz (Direktor des Science Media Centers Germany) und Prof. Dr. Thomas Grundmann (Philosoph an der Universität zu Köln), moderiert von Sarah Stemper und Claudius Popp (Organisator:innen der Veranstaltung und Stipendiat:innen der sdw*). In der Diskussion wurde deutlich, dass viele Menschen sich verstärkt über kostenlose, digitale Angebote im Internet informieren und die strukturellen und finanziellen Probleme in großen deutschen Medienhäusern dadurch noch zugespitzt werden. Für die geschwächten Medienhäuser ist es schwierig, attraktive und konkurrenzfähige Angebote zu gestalten, die von den (potentiellen) Leser:innen als bezahlenswert wahrgenommen werden. Die drei Redner betonen jedoch den hohen gesellschaftlichen Wert von Qualitätsmedien, die dauerhaft und zuverlässig verifizierte Informationen bereitstellen können.

Sonntag, 22. Oktober 2023

Sonntagmorgens teilten sich die Teilnehmenden am Sonntagmorgen in Kleingruppen auf und prüften im Fact-Checking-Labor mit Hilfe des Wissens aus den Vorträgen und Workshops verschiedene Fotos, Posts, Videos und Online-Artikel. Manche der zu prüfenden Materialien waren erstaunlich überzeugend und die Teilnehmenden mussten kleine Details, wie zum Beispiel die in der URL enthaltene Domain, als verdächtig erkennen, um einem “Fake” auf die Spur zu kommen.
Zum Abschluss des Seminarwochenendes simulierten die Seminar-Teilnehmenden in einem Planspiel die Verhandlungen des EU-Parlaments über eine neue Verordnung zur Regulierung von Desinformation und Hassrede in Social Media. Dabei vertraten die fiktiven Parlamentarier:innen sehr unterschiedliche Positionen, die klar machten, wie komplex das Thema ist und wie schwierig es ist, Desinformation auf EU-Ebene zu regulieren.

In einer kurzen Abschlussrunde schauten alle Beteiligten auf die Erfahrungen des Wochenendes zurück und überlegten gemeinsam, welche neu gewonnenen Erkenntnisse sich für jede:n ergeben. Bereichert und inspiriert konnten sich die Teilnehmenden bei einem letzten Kaffee und Keks austauschen, bevor sie nach Hause aufbrachen.

Eindrücke vom Wochenende

*Das Projektseminar wurde organisiert von Stipendiat:innen der sdw (Stiftung der deutschen Wirtschaft).

—
Bilder: jfc Medienzentrum | Alike Schwarz