Wenn KI genutzt wird, um Texte und Bilder zu generieren, kommt es regelmäßig zu stereotypen Darstellungen von Frauen, älteren Menschen und Minderheiten. Gleichzeitig assoziieren viele Menschen KI mit Objektivität und Fairness. Dieser Beitrag zeigt auf, wie solche Darstellungsverzerrungen aussehen können, wie wir sie wahrnehmen und darauf reagieren können.
In unserem Alltag sehen wir immer häufiger KI-generierte Bilder und Texte. Zum Beispiel die Darstellung einer Gruppe junger Ärzte. Erfahren wir, dass dieses Bild mit KI erstellt wurde, suchen wir vielleicht nach Fehlern oder Auffälligkeiten. Viele kennen Beispiele für Logikfehler, falsch generierte Hände oder erfundene Fakten in Texten. Forschende machen allerdings auch auf eine Art von Fehler aufmerksam, der oft weniger offensichtlich ist: systematische Darstellungsverzerrung in KI-generierten Medieninhalten. Eine Darstellungsverzerrung tritt auf, wenn gängige Vorurteile und Stereotype immer wieder in KI-generierten Bildern und Texten vorkommen. Sie ist vor allem deshalb auf den ersten Blick schwer zu erkennen, weil ein einzelnes Bild keine Rückschlüsse auf eine mögliche Verzerrung zulässt. Vielmehr geht es um Muster, die erst bei der Betrachtung zahlreicher Bilder oder Texte deutlich werden. Hierbei sind besonders zwei Aspekte von Bedeutung: Repräsentation und Präsentation von Gruppen.
Faire Repräsentation und Präsentation
Repräsentation bezieht sich darauf, wie häufig bestimmte Gruppen in KI-generierten Medien insgesamt oder in einem bestimmten Kontext (zum Beispiel als medizinisches Personal) dargestellt werden. Dabei wurde eine mangelnde Repräsentation von Minderheiten, zum Beispiel von älteren Personen oder Personen mit Übergewicht, in KI-generierten Bildern festgestellt. Neben der Frage, wer in KI-generierten Inhalten vorkommt, ist auch wichtig, wie diese Personen dargestellt werden (Präsentation der Gruppe). Wenn es um Charaktereigenschaften geht, lassen sich bestimmte Muster erkennen, die gängige Stereotype widerspiegeln. In einer Inhaltsanalyse von KI-generierten Bildern wurde festgestellt, dass die KI deutlich häufiger Bilder von Männern erstellte, wenn sie aufgefordert wurde, ein Porträt einer kompetenten Person zu erstellen. Wenn die Person hingegen herzlich sein sollte, war das Verhältnis fast umgekehrt.
Es gibt in der Wissenschaft unterschiedliche Vorstellungen, wann man von einer Verzerrung sprechen sollte. Eher unstrittig sind Fälle, bei denen statistische oder vermeintliche Gruppenunterschiede stark überzeichnet werden. Dies ist in unserem Beispiel gegeben. Wenn Männer überwiegend als kompetent und Frauen überwiegend als herzlich dargestellt werden, entsteht ein einseitiges Bild davon, welche Eigenschaften mit welchen Gruppen verbunden sind. Dadurch können Erwartungen verstärkt werden, wie Mitglieder einer Gruppe sind oder sein sollten, sowohl in der Wahrnehmung anderer als auch im Selbstbild von Betroffenen.
Wahrnehmung von algorithmischen Darstellungsverzerrungen
Die Forschung zeigt: KI repliziert oft Stereotype, die aus Werbung, Büchern, Filmen oder sozialen Medien bekannt sind. Da die KI mit großen Mengen von Texten und Bildern trainiert wird, übernimmt sie vorhandene Muster. Gerade wenn KI eingesetzt wird, um große Mengen an Texten und Bildern zu erstellen, machen sich mögliche stereotype Muster bemerkbar.
Dabei ist es eine spannende Frage, ob Menschen Inhalte anders wahrnehmen, wenn sie von einer KI statt von einer Person stammen. Viele Menschen verbinden KI mit Zahlen, Daten und objektiven Entscheidungen, weniger mit Gefühlen oder Vorurteilen. Dadurch wird KI häufig als besonders neutral und fair wahrgenommen. Genau darin könnte ein wichtiger Unterschied zu menschlichen Medieninhalten liegen: Einerseits fallen KI-generierte Darstellungsverzerrungen teilweise sehr deutlich aus. Andererseits werden verzerrte Inhalte weniger wahrscheinlich als solche erkannt, wenn KI als Quelle benannt ist. In diesem Fall würde der KI ungerechtfertigtes Vertrauen entgegengebracht werden.
Erste Ergebnisse des vom bidt geförderten Projekts „Algorithmische Darstellungsverzerrungen aus Userperspektive: Bewertung, Auswirkungen, Interventionen“ (ADUBAI) deuten darauf hin, dass KI-Systeme tatsächlich fairer wahrgenommen werden als menschliche Urheberinnen und Urheber von Texten und Bildern. Insgesamt halten Personen es allerdings für sinnvoll, KI-generierte Medieninhalte sorgfältiger zu überprüfen als von Menschen generierte. Dies könnte helfen, Stereotype zu erkennen, vorausgesetzt, Nutzerinnen und Nutzer sind sich bewusst, worauf sie achten müssen und wie sie angemessen reagieren können.
Umgang mit potenziellen Darstellungsverzerrungen
Darstellungsverzerrungen zu verringern, ist eine gemeinschaftliche Aufgabe. Entwicklerinnen und Entwickler können technische Maßnahmen einsetzen, um stereotype Muster zu reduzieren. Plattformen können Transparenz schaffen und ihre Systeme regelmäßig überprüfen. Trotz technischer Maßnahmen, die Darstellungsverzerrungen reduzieren können, ist es allerdings schwer, insbesondere Stereotype bei der Präsentation von Gruppen zu verringern. Aus diesem Grund sind auch Nutzerinnen und Nutzer gefragt, die KI-generierte Inhalte mit anderen teilen.
Neben der Frage, wie Menschen Darstellungsverzerrungen erkennen können, wird im ADUBAI-Projekt auch erforscht, wie ein gerechtfertigtes Vertrauen in KI-Systeme gefördert werden kann. Gerechtfertigtes Vertrauen setzt voraus, dass Personen sich der potenziellen Möglichkeit von systematischen Darstellungsverzerrungen in KI-generierten Medieninhalten bewusst sind. Dieses Bewusstsein kann sie dabei unterstützen, die KI-generierten Inhalte kritisch auf vorhandene Stereotype zu prüfen.
Wenn Personen starke oder ungewünschte Darstellungsverzerrungen feststellen, können sie den eingegebenen Prompt kurzfristig anpassen. Das kann eine direkte Aufforderung zu mehr Diversität sein, aber auch das Anpassen einzelner Begriffe. Darüber hinaus können sie eine KI so konfigurieren, dass diese bestimmte Aspekte dauerhaft berücksichtigt und vorgegebene Regeln einhält. Insbesondere wenn Nutzerinnen und Nutzer regelmäßig KI verwenden, um Medieninhalte zu generieren, können Qualitätsstandards wie klare Kriterien für „gute“ Inhalte und eine systematische Prüfung sinnvoll sein. Ein bewusster Umgang mit möglichen Darstellungsverzerrungen bedeutet dabei nicht, KI-generierten Inhalten grundsätzlich zu misstrauen. Vielmehr geht es darum, Risiken realistisch einschätzen zu können und je nach Kontext passend zu agieren.
Zum Forschungsprojekt
Zum Forschungsschwerpunkt
Literatur
Die vom bidt veröffentlichten Blogbeiträge geben die Ansichten der Autorinnen und Autoren wieder; sie spiegeln nicht die Haltung des Instituts als Ganzes wider.
