Was ist eigentlich … ChatGPT?

Am 30. November 2022 veröffentlichte der US-amerikanische Softwarehersteller OpenAI mit ChatGPT (GPT‑3), einen auf Künstlicher Intelligenz (KI) beruhenden Chatbot.

Die Einsatzmöglichkeiten sind vielfältig: Von Zusammenfassungen von Romanen über Jobbewerbungen bis hin zu Gedichten und seit der neuesten Version (GPT-4) sogar Bildbeschreibungen – ChatGPT ist in der Lage, jeden erdenklichen Text zu generieren. Was zunächst eine technologische Höchstleistung ist, die immense Potenziale birgt, stellt einige Bereiche wie etwa die Wissenschaft und das Prüfungswesen vor Herausforderungen: Wie ist der Output der KI zu bewerten? Wie nachvollziehbar und transparent sind die Ausgaben des Systems? Welche Quellen werden herangezogen?

In unserem bidt-Lexikoneintrag erläutern wir, was ChatGPT eigentlich genau ist, wie das Programm arbeitet und welche Herausforderungen und Potenziale damit verbunden sind.

Was „weiß“ ChatGPT?

Sprachmodelle wie ChatGPT haben Milliarden von Texten als Datenbasis. Bezüglich des Umfangs und der Kuratierung der eingespeisten Datengrundlage hält sich die Entwicklungsfirma bedeckt. Jedoch ist bekannt, dass der Großteil der zugrunde liegenden Trainingsdaten aus den Jahren vor 2021 stammt und der Chatbot somit keine informationsbasierten Aussagen über die Welt nach 2021 treffen kann. Es wird vermutet, dass der komplette Inhalt von Wikipedia etwa drei Prozent der Texte in einem solchen Modell ausmacht. Entsprechend groß müssen die neuronalen Netze angelegt sein, um für die Leserinnen und Leser sinnvolle Textausgaben generieren zu können.[1]

Von Wissen im herkömmlichen Sinne kann im Fall von ChatGPT tatsächlich nicht die Rede sein. Das KI-System ist nicht in der Lage, semantische Konstrukte, also die Bedeutung von Wörtern und Sätzen, zu begreifen. Begründet liegt dies in der Natur des Sprachmodells: Es ist darauf trainiert, Zusammenhänge von Wörtern zu berechnen – nicht deren Sinn. ChatGPT arbeitet, vereinfacht gesprochen, mit einer Gleichung mit Milliarden an Variablen, die lediglich die statistischen Zusammenhänge von Wörtern analysieren. So wird jedes folgende Wort aufs Neue berechnet.[2]

Wie arbeitet ChatGPT?

ChatGPT ist also ein interaktives Sprachmodell, das beliebige Texte auf Grundlage einer immens großen Datenbasis generieren kann. Auf die an ChatGPT gestellte Frage „Was ist ein Sprachmodell?“ antwortet der Chatbot:

Ein Sprachmodell ist eine mathematische Repräsentation natürlicher Sprache, die es einem Chatbot ermöglicht, natürliche Sprache zu verstehen und zu antworten. Ein Sprachmodell kann ein maschinelles Lernmodell, ein statistisches Modell oder ein neuronales Netzwerk sein.

ChatGPT auf die Frage „Was ist ein Sprachmodell?“

Diese Antwort ermöglicht einen guten Einblick. Die drei von ChatGPT genannten Modelle sind alle im Spektrum der KI zu verorten und haben alle zum Ziel, aus Daten zu lernen und Vorhersagen zu treffen. Obwohl sie sich in ihren technischen Herangehensweisen unterscheiden, weisen sie in der Praxis häufig Überschneidungen auf.[3] [4]

Das Sprachmodell ChatGPT entstammt der zuletzt angeführten Kategorie: Es basiert auf neuronalen Netzwerken. Die Netzwerke sind in der Lage, komplexe Datenmuster zu erkennen und zu lernen. Hierfür müssen die neuronalen Netzwerke mit einer Datenbasis gefüttert werden, welche dann das „Wissen“ des Modells darstellt. Auf dieser Grundlage lernt das System, wie Wörter in einer Sprache zusammenhängen. Es erstellt anschließend ein Modell, welches die Zusammenhänge abbildet, und nutzt es dann, um Vorhersagen darüber zu treffen, welche Wörter oder Sätze am wahrscheinlichsten folgen werden, basierend auf den zuvor eingegebenen Wörtern. Die neuronalen Netze selbst sind dabei so vielschichtig und komplex miteinander verschaltet, dass die gelernten Modelle letztlich Blackboxes sind; es kann also nicht mehr nachvollzogen werden, wie eine Ausgabe genau zustande kommt.[5]

Im Fall von ChatGPT handelt es sich um ein Modell, das durch sogenanntes Supervised Learning ergänzt wurde. Dafür wurde das System zunächst unüberwacht mit einer gigantischen Datenbasis gefüttert. Um Problematiken wie Rassismus, Sexismus oder Hatespeech zu begegnen, wurde das Sprachmodell in einem zweiten Schritt mit menschlichem Feedback trainiert. Menschen bewerteten also die Ausgaben des Systems und sensibilisierten es so für politisch korrekte Antworten.[6] [7]

Risiken und Potenziale von ChatGPT

Während der Chatbot im medialen Diskurs einerseits als „Wunderwerk“[8] der Künstlichen Intelligenz gefeiert wird, wird andererseits Kritik an dem Sprachsystem laut. Einige der Kritikpunkte, wie fehlende Transparenz der Antworten oder die Gefahr des blinden Vertrauens in die Technik, sind bereits aus ähnlichen KI-Anwendungen bekannt. Allerdings handelt es sich bei ChatGPT um das bis dato leistungsstärkste Sprachsystem, was der Kritik noch einmal Nachdruck verleiht.

Ethische Überlegungen

Quellen und Transparenz

Ein Kritikpunkt an ChatGPT ist der Umgang mit Quellen. So ist ChatGPT zwar oft (nicht immer) in der Lage, auf Nachfrage Quellen anzugeben. Die Entscheidung, ob diese Quellenangabe vollständig, korrekt oder vertrauenswürdig ist, bleibt jedoch den Userinnen und Usern überlassen. Beim Training des Sprachmodells sind die Quellen nicht ausreichend berücksichtigt worden.[9] So führt etwa die Quellenangabe von ChatGPT im Hinblick auf die gestellte Frage „Was ist ein Sprachmodell?“ ins Leere. Erschwerend kommt hier die Problematik des sogenannten Framing-Effekts hinzu. Während beispielsweise Google für eine Suchanfrage verschiedene Quellen und relevante Informationen ausgibt, liefert ChatGPT lediglich eine einzige Antwort. Das birgt das Risiko des Automation Bias – des blinden Vertrauens in die maschinellen Antworten. Diese stehen ohne Kontext, Einordnung und Alternativen und – sofern nicht explizit gefragt – ohne jedwede Quelle. Somit könnten in der Darstellung eines Sachverhalts relevante Aspekte weggelassen oder hervorgehoben werden.

ChatGPT als Plagiatsmaschine?

Gerade wegen der bisweilen ungekannten Leistungsfähigkeit ergeben sich weitere Problematiken: Das Tool stellt insbesondere das Bildungs- und Prüfungswesen von Schulen oder Forschungseinrichtungen vor immense Herausforderungen, da es sich um eine „hocheffektive Plagiatsmaschine“[10] handle, wie der bidt-Direktor Professor Julian Nida-Rümelin in einem WELT-Artikel betont. Prüfungsleistungen in Schulen oder Universitäten bestehen nicht selten aus Seminar- und Abschlussarbeiten. Hier kann der Nachweis schwierig werden, in welchem Maße neue Technologien wie ChatGPT eingesetzt wurden, was die gesamte Prüfungsform von Textabgaben infrage stellen könnte.[11] [12]

Juristische Herausforderungen

Nicht nur auf ethisch-moralischer, sondern auch auf juristischer Ebene ergeben sich einige Herausforderungen. Fragestellungen wie etwa Verantwortung, Haftbarkeit oder der Umgang mit geistigem Eigentum – sowohl aufseiten des Herstellers OpenAI als auch aufseiten der Nutzerinnen und Nutzer, die den maschinengenerierten Output weiterverwenden – müssen betrachtet werden. Gerade Fachbereiche wie Justiz, Medizin, Journalismus, das Prüfungswesen, die Forschung oder Softwareentwicklung sind von diesen neuen Entwicklungen betroffen.[13] Die jeweiligen Fallhöhen unterscheiden sich dabei drastisch. Zwar könnte etwa eine von ChatGPT generierte Geburtstagsrede missglückt sein, die Auswirkungen eines falschen Arztbriefes, einer fehlerhaften Anklageschrift oder eines schadhaften Codeblocks sind hingegen weitaus gravierender. Dies kann – je nach Anwendungsfall und Umgang – neben ethischen Fragen zivil- oder sogar strafrechtliche Konsequenzen nach sich ziehen.

Mit statt gegen ChatGPT

Bei aller Kritik bleibt anzuerkennen, dass ChatGPT eine mächtige KI mit Output in bisher nicht da gewesener Qualität darstellt, was immense Potenziale birgt. So könnte der Chatbot etwa im Bildungswesen als ergänzendes Assistenzsystem begriffen und im Unterricht und in Prüfungen eingesetzt werden, argumentiert bidt-Direktorin Professorin Ute Schmid in einem Interview.

Ebenso kann ChatGPT als Katalysator im Hinblick auf Diskussionen über die Sinnhaftigkeit von Klausuren, die lediglich Faktenwissen abfragen, dienen. Wenn eine KI imstande ist, Klausuren zu bestehen, handelt es sich dann um eine zeitgemäße Form der Prüfung? Diese Frage diskutieren die bidt-Direktoren Professor Dirk Heckmann und Professor Alexander Pretschner zusammen mit Dr. Jan Gogoll, einem wissenschaftlichen Referenten des bidt, in einem Artikel der Frankfurter Allgemeinen Zeitung [Bezahlinhalt].

Auch in puncto Barrierefreiheit im Netz könnte der Chatbot unterstützen. Durch die in der Version GPT-4 implementierte Bilderkennung und -beschreibung erleichtert das Programm Menschen mit Sehbehinderungen potenziell deutlich den Zugang. Auch andere Beiträge des Sprachmodells zur Verbesserung der Barrierefreiheit wären denkbar. Etwa könnten textuelle Inhalte, welche für Menschen mit kognitiven Behinderungen schwer verständlich sind, automatisiert in „leichte Sprache“ überführt werden.[14]

Das Sprachmodell ChatGPT ist in der Welt und nun liegt es an den Nutzerinnen und Nutzern, den Schulen und Universitäten, den Arbeitgebern und dem Staat, sich entsprechend dazu zu verhalten. Ein Boykott der Technologie scheint wenig sinnvoll – so der Konsens. Eher sollte die entsprechende Digital- und Medienkompetenz für die Nutzung des neuen Werkzeugs sowie ein bewusster Umgang mit dem Output gelehrt und verinnerlicht werden. Auf eine ganze Reihe von Feldern kann sich diese Technologie massiv produktivitätssteigernd auswirken. Die Erwartungen an das Assistenzsystem sollten realistisch bleiben und die generierten Texte als Basis für eine menschliche Überarbeitung dienen, finden die bidt-Direktorinnen und ‑Direktoren Professor Alexander Pretschner, Professor Eric Hilgendorf, Professorin Ute Schmid und Professorin Hannah Schmid-Peri in einem Gastbeitrag der Frankfurter Allgemeinen Zeitung [Bezahlinhalt].

---