Wie beeinflusst die Verbreitung von Desinformation durch KI-gestützte Technologien unser Vertrauen in Politik und Medien? Welche Maßnahmen können wir gemeinsam gegen Desinformation ergreifen? Und wie könnte KI genutzt werden, um Desinformation wirksam zu bekämpfen? Diesen Fragen widmeten sich die „bidt Perspektiven“ mit dem Titel „Demokratie unter Druck? Wie KI und Desinformation das gesellschaftliche Vertrauen beeinflussen“. Die Kooperationsveranstaltung des bidt mit dem Bayerischen Staatsministerium für Digitales fand am 6. November 2024 in der BAdW statt. Es moderierten Vera Cornette, Leiterin Stabsstelle Kommunikation & Strategie im Bayerischen Staatsministerium für Digitales, und Professor Dirk Heckmann, Mitglied im bidt-Direktorium und Lehrstuhlinhaber für Recht und Sicherheit der Digitalisierung an der TU München.
„Das Thema der Desinformation ist sehr ernst – und sehr ernst zu nehmen“, erörterte Professor Alexander Pretschner, Vorsitzender im bidt-Direktorium und Professor für Software & Systems Engineering an der TU München in seinem Grußwort. Das Ziel von Desinformation sei eine langfristige Destabilisierung, welche „insbesondere durch das Zerstören von Vertrauen, und zwar Vertrauen in Aussagen, Autoritäten und Systeme“ funktioniere. Angesichts des menschlichen Verstands und der menschlichen Fähigkeit, Inhalte und Aussagen überprüfen zu können, warb Pretschner jedoch für eine positive Grundhaltung.
Wir können etwas tun, wenn wir zusammenarbeiten – Politik, Wissenschaft, Wirtschaft und Zivilgesellschaft – wenn wir technische, regulatorische, ausbildungs- und aufmerksamkeitsbezogene Mechanismen ersinnen und kombinieren.
Prof. Dr. Alexander Pretschner, Vorsitzender des bidt-Direktoriums
Vertrauen und die Wirkung von Desinformation thematisierte auch Professorin Lena Frischlich in ihrer Keynote über „Desinformationen und digitale Demokratie“. Laut der Professorin für Kommunikations- und Medienpsychologie an der Süddänischen Universität Odense könne Fehlinformation zu Fehlwahrnehmung führen und so „das Vertrauen in demokratische Institutionen erschüttern und die Bereitschaft zu demokratischer Teilhabe schwächen.“ Nicht jeder sei dabei gleich empfänglich, weil die Wirkung von Desinformation und Verschwörungsmythen sehr komplex ist. Ansatzpunkte für Gegenmaßnahmen sind vielfältig. Die individuelle Medienkompetenz spiele eine große Rolle, auch sogenannte kognitive Impfung könne helfen, bei der man beispielsweise durch das Spielen von Browsergames mit Techniken von Desinformationskampagnen konfrontiert wird. Zudem könne jeder von uns Inhalte im Netz einordnen, kommentieren und widerlegen. Frischlich betonte:
Das heißt aber auch, dass wir als Journalist:innen, als Wissenschaftler:innen, als Politiker:innen, vertrauenswürdig sein müssen. Vertrauen ist nichts, was man erzwingen kann, es gibt auch keinen Anspruch auf Vertrauen. Wir müssen uns Vertrauen erarbeiten und bewahren.
Prof. Dr. Lena Frischlich, Digital Democracy Centre, Süddänische Universität Odense
Tools gegen Desinformation
Einen Blick in die Praxis erlaubten die Pitches zum Thema „Wie können wir Desinformation und manipulierte Inhalte identifizieren?“ von Gudrun Riedl, Redaktionsleiterin bei BR24 Digital und Rebekka Weiß, LL.M., Leiterin Regulierungspolitik und Senior Manager Government Affairs bei Microsoft Berlin. So gab Riedl spannende Einblicke in die Arbeitsweise des BR24 #Faktenfuchs und erklärte, dass aktuell noch „Cheap Fakes“ dominieren, also mit einfachen Mitteln erstellte und dadurch leichter erkennbare Fakes. Der Anteil an KI-generierter und professionell erstellter Desinformation steige jedoch. Aktuell gebe es auch noch kein Tool, welches verlässlich sämtliche KI-Inhalte erkennen kann. Auch Weiß stellte in ihrem Pitch klar, dass Instrumente wie Erkennungssoftware oder das Labeling von KI durch Wasserzeichen zwar wichtige Bausteine im Kampf gegen Desinformation sind – aber kein Allheilmittel seien. Umso wichtiger sei es, dass wir alle lernen, mit KI umzugehen, denn KI-Kompetenz hätte weitaus mehr Schlagkraft.
Machen Sie das, was für Sie sinnvoll ist, aber bilden Sie sich weiter! Wir sind definitiv auf einer gemeinsamen Reise zum lebenslangen Lernen mit KI und ich kann jedem nur empfehlen, spätestens morgen damit anzufangen.
Rebekka Weiß, LL.M., Leiterin Regulierungspolitik / Senior Manager Government Affairs Microsoft Berlin
Bayern-Allianz sagt Desinformation den Kampf an
Information und Kommunikation verlagern sich immer mehr in den digitalen Raum, verdeutlichte Digitalminister Dr. Fabian Mehring, MdL, im Gespräch mit Professor Heckmann. Bisher sei es uns aber nicht gelungen, „die Gütekriterien von Qualitätsjournalismus – ja, ich würde sogar sagen – die Spielregeln unserer Demokratie dort in der gleichen Geschwindigkeit zu installieren. In diese Lücke stoßen politische Geschäftemacher.“ Hier setzt die Bayern-Allianz gegen Desinformation mit konkreten Maßnahmen an, die vom Bayerischen Staatsministerium für Digitales und dem Bayerischen Staatsministerium des Innern, für Sport und Integration ins Leben gerufen wurde und vom bidt wissenschaftlich begleitet wird.
Es wird eine dauerhafte gesamtgesellschaftliche Kraftanstrengung brauchen, wenn wir es schaffen wollen, den politischen Geschäftemachern im digitalen Raum, den Feinden unserer Demokratie, dort das Handwerk zu legen.
Dr. Fabian Mehring, Bayerischer Staatsminister für Digitales, MdL
Das Überprüfen von Quellen sei im digitalen Raum genauso wichtig wie im analogen, appellierte Digitalminister Dr. Mehring, MdL. Diese Gütekriterien gelten für Qualitätsjournalismus genauso wie für Social Posts – das müssen wir den Menschen klar machen.
Bayern-Allianz
Eine langfristige Strategie, KI- und Medienkompetenz sind nötig
In der Paneldiskussion diskutierten Expertinnen und Experten aus Politik, Forschung, Medien und Wirtschaft über mögliche Lösungen. Auf dem Podium vertreten waren Digitalminister Dr. Fabian Mehring, MdL, Professor Andreas Jungherr, Inhaber des Lehrstuhls für Politikwissenschaft an der Otto-Friedrich-Universität Bamberg, Andrea Martin, Leiterin des IBM Watson Center Munich, Karolin Schwarz, Autorin, Journalistin und Trainerin, und Lea Thies, Leiterin der Günter Holland Journalistenschule und Redaktionsmitglied der Augsburger Allgemeinen.
Dass eine Ausbildung zu Desinformation auch in Institutionen nötig ist, darüber waren sich die Panelistinnen und Panelisten einig. So sei Medienkunde bereits ab der Grundschule essenziell, um junge Menschen früh genug zu sensibilisieren und ihnen Tools und Skills an die Hand zu geben und damit auch langfristig Wirkung zu erzielen.
Desinformation ist kein Sprint, sondern ein Marathon. Das heißt, wir brauchen langfristige Strategien, wir brauchen gute, erprobte Strategien und es muss sehr viel passieren.
Karolin Schwarz, Autorin, Journalistin und Trainerin
Einen kritischen Aspekt brachte Professor Jungherr zur Sprache. Wenn es um Desinformation als Werkzeug im politischen Kontext geht, dürfe man nicht alles auf Desinformation schieben, sondern müsse auch auf die Signale der Bevölkerung hören. Desinformation erreiche „eher Leute, die ohnehin schon spezifische Überzeugung haben.“ Die jüngsten Wahlergebnisse in den USA haben gezeigt, dass es nicht ausreiche, jemanden des Lügens zu überführen – der Vorwurf der Desinformation hat die Wählerinnen und Wähler im US-Wahlkampf wenig beeindruckt. Jungherr warnte daher, dass auch wir den Warnschuss hören und uns mehr auf die konkreten Anliegen der Bevölkerung fokussieren sollten.
Regulierung oder Selbstverantwortung der Plattformbetreiber?
Diskutiert wurde auch darüber, ob die Plattformbetreiber mehr in die Verantwortung genommen werden müssten. Das Problem sei, dass wir gegen Algorithmen kämpfen, argumentierte Thies. Diese ranken private Inhalte höher als qualitativ geprüfte. Die Verifizierung einer Falschnachricht werde niemals den gleichen Impact haben wie die Falschnachricht an sich, so Thies, „weil die nicht emotional geladen ist, weil sie kein Engagement hervorruft.“ Deshalb forderte sie, dass die Gesellschaft den Druck auf die Plattformbetreiber erhöhen müsse, vor allem, um unsere Kinder zu schützen.
Ob Regulierung jedoch der richtige Weg ist, bezweifelte Digitalminister Dr. Mehring, MdL. Er ist fest davon überzeugt, die einzige Chance sei „gemeinsam mit den Plattformbetreibern Lösungen zu finden. Alles andere wird nicht funktionieren.“ Denn nationalstaatliche Urteile seien schwierig, wenn diese Urteile die Unternehmen aufgrund ihres Firmenstandorts nicht zu interessieren brauchen.
Auch Martin bekräftigte, dass Unternehmen eine Verantwortung gegenüber der Gesellschaft generell hätten, „insbesondere wenn es so ein großes, global agierendes ist, wie IBM. Insofern haben wir auch ein Interesse daran, dass Desinformation soweit es geht eingeschränkt wird.“
Interview mit Professorin Lena Frischlich
Ein Update der Demokratie kann nur gemeinsam gelingen
Den Abschluss bildete der Impuls-Vortrag „Aufbruch in die KI-Demokratie: Eine bessere Politik für Deutschland?“ von Juri Schnöller. Sein Aufruf: Demokratie muss sich neu erfinden – mit KI. Wenn Demokratie die KI in ihren Dienst stellt, könne dies positiv zum gesellschaftlichen Miteinander beitragen – zu agilerer Bildung, mehr Gerechtigkeit und Bürokratieabbau.
Im Anschluss an den offiziellen Teil der Veranstaltung konnten sich die Gäste beim Get-together austauschen. Am bidt-Stand gaben wissenschaftliche Referentinnen Einblicke in Forschungsthemen wie „Regulierung von Desinformation“ und „Russische Desinformationskampagnen im Ausland“ . Das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit (AISEC) bot die Möglichkeit, interaktiv zu lernen, wie man Audio-Deepfakes erkennt, während der XR HUB Bavaria in einer Virtual-Reality-Umgebung die verborgenen Mechanismen von Social-Media-Algorithmen aufzeigte.
Als Fazit nehmen wir mit: Es gibt kein Patentrezept – stattdessen ist eine langfristige Strategie nötig. Vor Desinformation schützen der eigene Verstand, also kritische Denk- und Urteilsfähigkeit, sowie KI- und Medienkompetenz. Kurz: Um Desinformation zu bekämpfen und das Vertrauen in die Demokratie zu stärken, sind wir alle gefragt – Politik, Wissenschaft, Wirtschaft und Zivilgesellschaft.
Bildergalerie
Mehr Informationen
Event
Glossar
