ZEIT für X
Interviewsituation

Achtung, manipuliert!

13. April 2022

Wissenschaft kann Desinformationen entdecken und ihre Verbreitung verhindern. Ein Interview mit den Cyber­sicher­heits­experten Martin Steinebach und Michael Kreutzer.

von Nataša Ivaković, Studio ZX

Studio ZX: Herr Steinebach, das Thema Falsch­informationen ist aktuell in aller Munde. Was hat die massive Zunahme von Desinformationen derart befeuert?

Martin Steinebach: Ich bin mir nicht sicher, ob es tatsächlich eine Zunahme der Desinformation oder vielmehr eine Beschleunigung der Verbreitung ist. Nehmen wir das Thema Krieg: Auch früher, zu Zeiten anderer Kriege, gab es Desinformationen, aber noch keine so diverse Medien­landschaft und starke Direktheit. Falsch­informationen sind also an sich nichts Neues, doch durch die sozialen Netze kommt man schneller und gezielter an die Empfänger:innen heran.

Herr Kreutzer, wie sensibilisiert man sich und andere für das Thema?

Michael Kreutzer: Wir sehen die kritische Betrachtung von jedweden Meldungen als Bildungs­auftrag – zwischen uns Erwachsenen, aber vor allem schon in der Schule. Es steht außer Frage, dass wir hier die Kompetenz zur kritischen Analyse brauchen, die – über das Thema der Medien hinaus – die gesamte Entwicklung der Digitalisierung begleiten muss. Wir müssen in unserem Bewusst­sein verankern, dass es im Zeit­alter des Internets und der sozialen Medien Absender:innen gibt, die ihre Inhalte keiner Qualitäts­kontrolle unter­werfen, die einer vielfach unkritischen Öffentlichkeit gegen­über­stehen und die mächtige Verbreitungs­werk­zeuge haben.

Michael Kreutzer
© Fraunhofer SIT Farideh Diehl

Michael Kreutzer ist Cyber­sicherheits­forscher mit den Schwer­punkten Desinformations­erkennung, Internet­sicherheit und Post-Quantum-Kryptografie am Nationalen Forschungs­zentrum für angewandte Cyber­sicherheit ATHENE. Der promovierte Informatiker leitete das Forschungs­projekt „DORIAN“ am Fraunhofer-Institut für Sichere Informations­technologie (SIT).

Welche Gefahren drohen Gesellschaften durch falsche Informationen?

Martin Steinebach: Ich habe nicht das Gefühl, dass eine komplette Gesellschaft empfänglich ist für Falsch­informationen. Wohl aber kann man mit bestimmten Themen immer eine entsprechend große Gruppe von Personen ansprechen, so einen gewissen Teil der Gesellschaft abspalten und soziale Unruhe stiften. Beispiel Corona­impfung: Diskussionen mit teilweise absurden, extremen und falschen Argumenten können bei einigen Menschen dazu führen, dass sie Bedenken entwickeln, behalten und sich in der Folge nicht impfen lassen.

Michael Kreutzer: Das Thema Desinformation als Bedrohung hat aus meiner Sicht durchaus das Potenzial, die Gesellschaft zu spalten und die Demokratie zu bedrohen. Gleich­zeitig haben wir die freie Meinungs­äußerung, die zu Recht ein ganz hohes Gut ist. Wir müssen also aufpassen, im Zuge der Bekämpfung von Desinformationen ebendiese freie Meinungs­äußerung nicht selbst zu gefährden. Das wäre übers Ziel hinaus­geschossen und letztlich nicht förderlich für die Demokratie.

Ist jede:r von uns gefährdet, auf Falsch­informationen herein­zu­fallen?

Martin Steinebach: Ja, wenn beispiels­weise ein Foto mutwillig in einem falschen Zusammenhang veröffentlicht wird, kann es passieren, dass man auch als gut informierte Person darauf hereinfällt. Wir alle sind auf unter­schiedlicher Ebene gefährdet, selbst Expert:innen, wenn es etwa um Spear-Phishing-E-Mails geht. Die Fälschung muss nur gut genug sein! Daher sagen wir: Informationen brauchen mehrere Quellen. Man muss warten, ein wenig Geduld haben, bis die Fakten wirklich auf dem Tisch liegen, um zu verhindern, dass voreilig falsche Schluss­folgerungen gezogen werden.

Informationen brauchen mehrere Quellen. Man muss warten, ein wenig Geduld haben, bis die Fakten wirklich auf dem Tisch liegen, um zu verhindern, dass voreilig falsche Schluss­folgerungen gezogen werden.

Martin Steinebach

An dem Buch „Desinformation aufdecken und bekämpfen“ wirkten Expert:innen unter­schiedlicher Fach­richtungen mit. Welchen Beitrag kann die Wissenschaft in dieser Aus­einander­setzung leisten?

Michael Kreutzer: Die Mechanismen von Desinformationen und die dahinter­liegenden Macht­strukturen auf­zu­decken ist eine wichtige Aufgabe der Zivil­gesellschaft, aber auch der Forschung. Im Rahmen des Projektes „DORIAN“ des Bundes­ministeriums für Bildung und Forschung haben wir uns das Phänomen inter­disziplinär angeschaut: aus Sicht der Medien­psychologie, der Kommunikations­wissen­schaft, der Rechts­forschung und natürlich der Informatik. Mit dem Internet haben Menschen die Möglichkeit, ihre (Falsch-)Informationen schnell zu verbreiten. Wir auf der Forschungs­seite haben aber auch neue Möglichkeiten und automatisierte Methoden des schnellen und systematischen Identifizierens von verdächtigen Inhalten selbst in großen Daten­mengen entwickelt.

Die Mechanismen von Desinformationen und die dahinter­liegenden Macht­strukturen auf­zu­decken ist eine wichtige Aufgabe der Zivil­gesellschaft, aber auch der Forschung.

Michael Kreutzer

Martin Steinebach: Wir greifen also auf Meinungs­äußerungen zu, analysieren sie und reagieren entsprechend. Aus unserer Perspektive – wir möchten dazu beitragen, dass Desinformationen entdeckt und nicht verbreitet werden – klingt das prima. Die Kehr­seite der Medaille sind aber mögliche Konflikte mit dem Daten­schutz. Bei einem solchen Projekt muss man aus diesem Grund neben der inhaltlichen Arbeit immer auch den Daten­schutz betrachten und sich Lösungen über­legen, wie man beispiels­weise mit Methoden des Privacy by Design (Anm. d. Redaktion: Datenschutz durch daten­schutz­freundliche Technik­gestaltung als eine der vier Säulen der DSGVO) Daten aggregieren und analysieren kann, ohne dabei invasiv zu sein. Es geht hier also um die Möglichkeiten und Grenzen unserer Methoden – ein wichtiges und spannendes Forschungs­thema in der Informations­technologie!

Martin Steinebach
© Fraunhofer SIT Farideh Diehl

Martin Steinebach leitet am Fraunhofer-Institut für Sichere Informations­technologie (SIT) die Abteilung für Medien­sicherheit und IT-Forensik. Der IT-Professor am Nationalen Forschungs­zentrum für angewandte Cyber­sicherheit ATHENE koordiniert das „DORIAN“-Nach­folge­projekt „DYNAMO“, welches sich mit Desinformationen und Messenger­diensten beschäftigt.

Herr Steinebach, Sie arbeiten an technischen Konzepten, die es leichter machen sollen, Falsch­nachrichten zu erkennen. Welche Mittel gibt es heute?

Martin Steinebach: Wir beschäftigen uns mit der Frage, wie manipulativ eingesetzte Medien, also etwa ein Bild, im Kontext von Desinformation funktionieren und wie solche Manipulationen erkannt werden können. In der Praxis sind die meisten Beispiele einfach: Jemand nimmt ein reißerisches Foto und behauptet, es zeige eine bestimmte Situation. Den Zusammenhang können Sie und ich relativ einfach prüfen, indem wir mit der sogenannten inversen Bilder­suche arbeiten. Bild­montagen sind schon komplizierter zu entlarven, dafür braucht man Systeme, die mithilfe von Algorithmen auch zusammen­gesetzte Bilder erkennen können. Bei richtigen Bild­fälschungen kann man tatsächlich nur noch Spuren erkennen und braucht dafür forensische Methoden und entsprechende Expert:innen. Gleiches gilt natürlich auch für Texte: Wir erforschen, wie Desinformationen aufgebaut sind, welcher Sprache sie sich bedienen.

Ihr Rat, um Falsch­nachrichten zu entlarven?

Martin Steinebach: Wir sollten nicht alles glauben, was daher­kommt, nur weil es in unser Welt­bild passt und plausibel erscheint.

Michael Kreutzer: Was ich auf meinem Smartphone lese, dem kann ich nicht per se vertrauen.

Wie erkennt man nun Falsch­informationen? Fünf Tipps aus dem Buch „Desinformation aufdecken und bekämpfen“ können Sie hier lesen!