03 Editorial 06 Bits and Bites News, Projekte und Events in Kürze 10 Nachgefragt Was ist eigentlich die ... Wissenslandkarte des bidt Warum brauchen wir das ... Gesetz gegen digitale Gewalt Was kann Digitalisierung verbessern für ... Waldbeobachtung und Naturschutz 14 Happy bidt-Day Wir feiern 5 Jahre bidt! 20 Dossier Der Themenschwerpunkt des aktuellen „bidt Magazins“ lautet: Generative KI – Verständnis, Vertrauen, Verantwortung 22 Wann ist generative KI gut – und wann gut genug? von Prof. Dr. Alexander Pretschner 24 Was ist digitaler Humanismus? Und was bedeutet er in Zeiten von generativer KI? von Prof. Dr. phil. Dr. h.c. Julian Nida-Rümelin, Staatsminister a. D. 26 „Das Wirtschaftswunder der KI“ Interviewausschnitt von Sascha Lobo 27 Eine Frage des Vertrauens: Trust in Human-AI Co-Creation Neuer bidt-Forschungsschwerpunkt 28 ChatGPT in Schule und Hochschule – ein Wendepunkt für Lernen und Lehre? Prof. Dr. Ute Schmid und Prof. Dr. Dirk Heckmann im Interview 24 4 14 28

BITS AND BITES bidt-Direktorium Professorin Sabine Pfeiffer ist seit Anfang 2023 Mitglied im bidt-Direktorium. „KLIMA-MEMES“ auf der re:publica @ Bayerisches Forschungsinstitut für Digitale Transformation „How dare you!“ Das Meme über Greta Thunberg zum UN-Klimagipfel 2019 ging um die Welt. Im politischen Diskurs können Memes effektive Werkzeuge sein; das vom bidt geförderte Projekt „KLIMA-MEMES“ analysiert ihre Rolle in der Klimadebatte. Erste Ergebnisse zeigen: Memes erreichen besonders dann hohe Reichweiten, wenn sie aggressiven Humor verwenden. Trotz ihrer Popularität nutzen politische Akteure wie Protestgruppen und Politikerinnen und Politiker humorvolle Inhalte bisher nur selten. Bei der diesjährigen #rp24 gab das Team Einblicke in seine Forschung. www.bidt.digital/forschungsprojekt/klima-memes „Eigentlich beschäftige ich mich immer schon mit dem technischen Wandel von Arbeit. Das hat auch nie aufgehört, nur dass der technische Wandel immer wie- der andere Gesichter bekommt.“ Prof. Dr. Sabine Pfeiffer Mitglied des bidt-Direktoriums Mehr dazu im Porträt www.bidt.digital/im-portraet-sabine-pfeiffer bidt Social Media Folgen Sie uns schon auf Mastodon und Bluesky? Hier geht’s zu unseren neuen Kanälen: Buchveröffentlichung @bidt@wisskomm.social @bidt.bsky.social Wie kann eine Ethik für das digitale Zeitalter aussehen? Das Open-Access-Buch „Introduction to Digital Humanism“ bietet Perspektiven aus den Bereichen Informatik, Philosophie, Sozial- wissenschaften, Journalismus und Recht. Enthalten sind diverse Beiträge des bidt-Direktoriums und des Forschungsteams. 6

Förderung „Digitale Trans- formation und Resilienz“ Digitale Plattformen als Instrumente bürgerschaft- licher Innovation, der Einfluss von Toxizität in der Onlineunterhaltung, resiliente Regulierung für digitale Märkte und Führung in der digitalen Zusammenar- beit: Das bidt fördert seit 2024 vier interdisziplinäre Forschungsvorhaben rund um „Digitale Transfor- mation und Resilienz“. www.bidt.digital/forschungsprojekt/resilienz- digitalisierung Zur Übersicht aller vom bidt geförderten Projekte: www.bidt.digital/projekte Das bidt wird Teil der Bayern- Allianz gegen Desinformation Fake News und Desinformation sind eine Heraus- forderung für die Demokratie: Das Bayerische Staatsministerium für Digitales und das Bayerische Staatsministerium des Innern, für Sport und Inte- gration initiieren daher eine Bayern-Allianz gegen Desinformation. Wir freuen uns, künftig als wissen- schaftlicher Partner dabei zu sein. BITS AND BITES Digitalminister besucht das bidt @ Bayerisches Forschungsinstitut für Digitale Transformation Wir haben uns sehr über den Besuch von Digitalminister Dr. Fabian Mehring | Bayeri- sches Staatsministerium für Digitales am bidt gefreut. Als Teil der Bayerischen Akademie der Wis- senschaften und gefördert vom Bayerischen Staatsministerium für Wissenschaft und Kunst ist es uns ein Anliegen, im regelmäßi- gen politischen Dialog zu stehen. Vielen Dank an Dr. Mehring für den inspirie- renden Austausch und die wertvollen Impulse! #DigitalTransformation #AI #Forschung www.bidt.digital/digitalminister-am-bidt 92 % der Homeoffice-Nutzenden sind mit der eigenen Situation im Homeoffice zufrieden. 8

NACHGEFRAGT Was ist eigentlich die ... Wissenslandkarte der digitalen Transformation Warum gibt es ein Digital Afterlife? Welche gesellschaftliche Relevanz haben Dark Patterns? Was ist Nudging? Wie hat sich maschinelles Lernen historisch entwickelt? Wo kommt Augmented Reality zum Einsatz? Die bidt-Wissenslandkarte hilft dabei, die digitale Transformation zu verstehen und macht Wissen auf interaktive Weise verfügbar ... Die Wissenslandkarte des bidt bündelt und erklärt zen- trale Begriffe und spezifische Phänomene der digitalen Transformation. Dabei werden bestimmte Eigenschaf- ten des Digitalen hervorgehoben, welche den Phäno- menen zugrunde liegen. Die Zusammenhänge zwischen den Begriffen und Phänomenen werden visuell in Form eines Netzwerk graphen dargestellt, durch den man in- teraktiv navigieren kann. Mit der Wissenslandkarte verfolgt das bidt meh- rere Ziele. Wir wollen den digitalen Wandel und dessen grundlegende Mechanismen identifizieren sowie Wis- sen zur digitalen Transformation bündeln und bereit- stellen. Zudem möchten wir die Forschungsergebnisse des bidt sichtbar machen und neue Forschung anregen. Das Besondere dabei ist: Die Wissenslandkarte führt aktuelle wissenschaftliche Erkenntnisse aus verschie- denen Disziplinen zusammen und ermöglicht zugleich einen übergreifenden, aber auch detaillierten Blick auf die digitale Transformation. Bausteine Die Wissenslandkarte stellt Wissen zur digitalen Trans- formation in Form eines Netzwerkgraphen dar. Dieser besteht aus verschiedenen Elementen: Knoten in dem Netzwerk stehen für zentrale Begriffe, Kanten repräsen- tieren Phänomene, die sich jeweils zwischen zwei Kno- ten verorten lassen und diese verbinden. 10 Knoten Die Knoten repräsentieren disziplinübergreifende Schlüs- selbegriffe der digitalen Transformation und bieten allge- meinverständliche sowie umfassende Erläuterungen zu den Begriffen. Diese zentralen Begriffe werden als deut- lich sichtbare Knotenpunkte im Netzwerkgraphen her- vorgehoben. Die Artikel haben eine einheitliche Struktur und decken folgende Aspekte ab: Definition und Abgren- zung, Geschichte, Anwendung und Beispiele, Kritik und Probleme, Forschung, weiterführende Links und Literatur sowie Quellen. Beispiele: Augmented Reality, Open Data, Quan- tencomputing, Gamification, Metaverse, digitale Partizi- pation, Plattformökonomie, Digital Twin, Datensouverä- nität, digitale Ungleichheit Kanten Die Kanten stellen die Verbindung zwischen zwei Knoten dar und setzen diese in Beziehung zueinander. Sie reprä- sentieren ausgewählte Phänomene, die einen Bezug zu diesen zwei zentralen Begriffen haben bzw. durch deren Zusammenwirken zustande kommen.

NACHGEFRAGT NACHGEFRAGT Warum brauchen wir das ... Gesetz gegen digitale Gewalt Mit dem Digital Services Act gibt es eine erste EU-weit ein- heitliche Lösung gegen illegale Inhalte im Netz. Das Netzwerk- durchsetzungsgesetz bot für Deutschland bereits ähnliche Vorschriften. Hinzukommen soll nun ein Gesetz gegen digitale Gewalt. Was ist der Anlass dieses Gesetzesvorhabens und welche Hürden sollen bei der Bekämpfung digitaler Gewalt überwunden werden? Der Begriff digitale Gewalt steht für verschiedene Formen von Angriffen auf Personen im digitalen Raum. Eine einheitliche gesetzliche Definition des Begriffs steht noch aus. Laut der Studie „Lauter Hass, leiser Rückzug“ (2024) hat fast jede zweite Person schon einmal Beleidigungen im Netz erlebt. Dies kann bei den Betroffenen zu psychischen (35 Prozent) sowie körper- lichen (18 Prozent) Beschwerden führen. Zudem ziehen sie sich deswegen häufig aus dem Diskurs zurück (41 Prozent). Dem Koalitionsvertrag 2021 der Bundesregierung zufolge soll ein Gesetz gegen digitale Gewalt Abhilfe schaffen. Das Eck- punktepapier wurde vom Bundesjustizministerium im April 2023 veröffentlicht. Ein konkreter Vorschlag für den Normtext existiert bislang noch nicht. Im Mittelpunkt sollen die Möglichkeiten von Privatpersonen stehen, gegen Verletzungen ihrer Rechte im digita- len Raum vorzugehen. Derzeit haben Betroffene etwa gegenüber Telemedienanbietern nur einen Auskunftsanspruch hinsichtlich des hinterlegten Namens oder der E-Mail-Adresse des Rechts- verletzenden. In der Auskunft soll zukünftig auch die IP-Adresse erfasst werden, wodurch die Identifizierbarkeit vereinfacht wird. Zudem sind Accountsperren für notorische Rechtsverletzende vorgesehen. Unabhängig von der Effektivität dieser Regelung bleibt abzuwarten, welche genauen Voraussetzungen hier festge- legt werden. Die Rechtskonformität wird sich wegen des grund- recht lichen Zensurverbots in Art. 5 GG als schwierig erweisen. In einer Stellungnahme befürwortete unser Forschungs- team des bidt-Projekts „Herausforderungen der Regulierungen digitaler Kommunikationsplattformen“ bereits 2023 das Ge- setz gegen digitale Gewalt. Nach den von uns durchgeführten Experteninterviews sehen wir aber Ergänzungsbedarf. Eine zentrale Hürde bei der bisherigen Rechtsdurchsetzung, die mit dem Gesetzesentwurf bisher nicht ausreichend angegangen wird, ist die Schnelligkeit und Zugänglichkeit des Rechts- schutzes. Zur Wahrung der Schnelligkeit muss der Rechtsschutz gegen digitale Rechtsverletzungen auch digital gedacht wer- den: Das beginnt unter anderem bei der Beweissicherung. 12 Wir sprechen uns für eine Verpflichtung der Plattformen aus, Werkzeuge zur Verfügung zu stellen, die es den Nutzenden ermöglichen, rechtssichere Beweise anzufertigen. Auch bei der Antragstellung hinsichtlich der Auskunftsansprüche wäre die Einführung digitaler und standardisierter Formulare wün- schenswert. Um die Zugänglichkeit des Rechtsschutzes für die Durchschnittsverbraucherin/den -verbraucher zu gewährleis- ten, sollten zudem ausreichende Informationsangebote für die Betroffenen geschaffen und ausgebaut werden. Die Meldeoptionen auf den Plattformen und bei staatlichen Stellen sehen wir weiterhin als wichtige Lösungsansätze. Deren Wirksamkeit wird jedoch selten ausschöpfend empirisch unter- sucht. Studien haben gezeigt, dass Nutzende nur in circa einem Drittel der Fälle beleidigende Inhalte auf der Plattform melden. Dabei ist der Anteil der Meldungen bei staatlichen Stellen signi- fikant niedriger. Dennoch bleiben konkrete Sollbruchstellen sowie auch die Frage nach ihrer Erklärbarkeit unklar. Unser Ziel ist es, diese zu identifizieren und darauf basierend Verbesse- rungsvorschläge zu unterbreiten. Hierzu führen wir eine quan- titative Befragung aus Sicht der Nutzenden durch, deren Ergebnis als Input für das geplante Gesetz dienen soll. Die Autorinnen untersuchen mit Professorin Hannah Schmid-Petri und Professor Dirk Heckmann die ge- sellschaftlichen Bedürfnisse an Regulierungen und entwickeln evidenzbasierte Optionen. www.bidt.digital/forschungsprojekt-digitale- kommunikationsplattformen Kontakt Fay Carathanassis bidt, wissenschaftliche Referentin fay.carathanassis@bidt.digital Steliyana Doseva bidt, wissenschaftliche Referentin steliyana.doseva@bidt.digital

HAPPY BIDT-DAY Wir feiern 5 Jahre bidt! Digitale Transformation verstehen – Zukunft im Dialog gestalten: Seit der Gründung des Bayerischen Forschungsinstituts für Digitale Transformation 2019 ist viel passiert, worauf wir gerne zurückblicken. Mit einem Team von 40 Mitarbeitenden, acht Direktorinnen und Direktoren sowie über 300 Geförderten tragen wir dazu bei, die digitale Gesellschaft von morgen mitzugestalten. Happy bidt-Day! 2019 Start des bidt als Institut der Bayerischen Akademie der Wissenschaften (BAdW) Schon gewusst? Das bidt wird durch das Bayerische Staats- ministerium für Wissenschaft und Kunst gefördert und ging aus dem Munich Center for Internet Research (MCIR) hervor. Es besteht aus vier Säulen: Forschung, Think Tank, Dialog und Administration. Der Projektbeirat an der BAdW, das Kura- torium und das Advisory Board begleiten unsere Arbeit. ca. 40 Mitarbeitende am bidt 14

HAPPY BIDT-DAY „Zur Gestaltung der digitalen Transformation braucht es Wissen, Engagement und Austausch. Dafür steht das bidt seit fünf Jahren. Gemeinsam mit unseren Partnern werden wir uns weiterhin für eine positive digitale Zukunft einsetzen.“ Dr. Christoph Egle Geschäftsführer des bidt Das bidt fördert und vernetzt Seit seinem Start fördert das bidt über 40 Projekte an Universitäten, Hochschulen und außeruniversitären For- schungseinrichtungen in ganz Bayern. Jährlich werden ca. vier neue Projekte ausgewählt, sie erhalten eine Förde- rung von bis zu drei Jahren. In regelmäßigen Treffen (Sprint Reviews) finden Austausch und Vernetzung statt, die nicht nur das interdisziplinäre Verständnis fördern, sondern auch gemeinsame Workshops und Vortragsein- ladungen hervorgebracht haben. Daneben profitieren herausragende Young Talents von unterschiedlichen Förderprogrammen. Im Graduate Center erhalten rund 75 Promovie- rende und bis zu 20 Postdocs eine individuelle finanzielle Förderung sowie Angebote zur Qualifizierung und Vernet- zung. Im Rahmen der 13 Digitalisierungskollegs werden innovative Lern- und Lehrkonzepte für Studierende gefördert. Bereits sieben Berufungen für Professuren sind aus der Nachwuchsförderung hervorgegangen. Beson- deren Stellenwert erfährt die Vernetzung in der bundes- weiten Kooperation zwischen Digitalinstituten. In Zusam- menarbeit mit dem Weizenbaum-Institut, dem Center for Advanced Internet Studies (CAIS) und dem Hans- Bredow-Institut entstand das modulare Qualifizierungs- programm QPD. Auch die gemeinsame Nachwuchs- konferenz DigiMeet hat sich als Format etabliert – sie brachte 2023 eine internationale Forschungscommunity aus elf Ländern zusammen. www.bidt.digital/qpd 16 „Meine Arbeit am bidt empfinde ich als große Bereicherung. Das bidt lebt Interdisziplinarität. Der regelmäßige wissenschaftliche Austausch im Direk- torium und die Diskussion mit den über ganz Bayern verteilten Konsor- tialprojekten erweitert immer wieder meine Perspektive auf das Thema digitale Transformation und gibt mir Impulse für meine eigene Forschung im Bereich KI.“ Prof. Dr. Ute Schmid Mitglied im bidt-Direktorium und im Geschäftsleitenden Ausschuss

HAPPY BIDT-DAY „Das bidt ist ein einzigartiger Ort, an dem unterschiedliche Perspektiven aus Wissenschaft, Politik, Zivilgesell- schaft, Wirtschaft und Medien zu- sammenkommen. Es braucht diesen offenen Dialog, um die digitale Trans- formation aktiv und im Sinne des Gemeinwohls zu gestalten.“ Dr. Margret Hornsteiner Leiterin der bidt-Abteilung Dialog Das bidt schafft Orientierung und baut Brücken Der Dialog von Forschung und Gesellschaft spielt am bidt eine zentrale Rolle. Zeitgemäße Wissenschaftskom- munikation bedeutet für das bidt auch, Denkanstöße zu geben, Interaktion anzuregen und Inhalte bedarfsgerecht aufzubereiten. In über 120 Veranstaltungen brachte das bidt bislang über 9.000 Teilnehmende und unterschied- lichste Perspektiven aus Wissenschaft, Politik, Wirt- schaft, Zivilgesellschaft und Medien zusammen. Ob online, hybrid oder in Präsenz, von print bis digital – das bidt hat zahlreiche Kanäle, Events und Formate entwickelt, die große Resonanz erfahren. In fünf Jahren sind über 80 Publikationen in den bidt-Reihen und über 500 Publika- tionen aus den bidt-Projekten erschienen. Und auch die Social Media Community ist mit über 2.300 Followerin- nen und Followern auf LinkedIn beträchtlich gewachsen. Die „bidt Konferenz“ 2023 stellte ein besonderes Highlight dar (vgl. S. 38–41). Unter dem Titel „Digital kommunizieren – Digitales kommunizieren“ diskutierten auf der zweitägigen Veranstaltung 30 Expertinnen und Experten aus allen Bereichen der Gesellschaft zu den Auswirkungen von generativer KI, der Regulierung digita- ler Kommunikationsplattformen und den Diskurs über Digitales in Medien, Politik und Unternehmen. Über 600 Teilnehmende im Münchner Gasteig HP8 sowie online verdeutlichten das hohe Interesse – sowohl in der For- schung als auch bei der Zivilgesellschaft. www.bidt.digital/veranstaltungen 18 über 500 Publikationen aus bidt-Projekten

DOSSIER Dieses Motiv sowie das Magazin-Cover wurden mithilfe des KI-Tools Adobe Firefly erstellt. 20

DOSSIER: IMPULS Wann ist generative KI gut – und wann gut genug? Das Potenzial von Werkzeugen wie ChatGPT oder Mid- journey erscheint angesichts von Ergebnissen erstaun- licher Qualität unermesslich! In der Tat können wir davon ausgehen, dass (generative) künstliche Intelligenz (KI) großen Einfluss auf viele Bereiche unseres Lebens haben wird. Gleichzeitig müssen wir aber daran erinnern, dass auch diese Technologie nicht alle Probleme der Welt lösen kann. Dafür ist die bis heute nicht hinreichend präzise Erkennung KI-generierter Inhalte durch künstliche Intelli- genz selbst nur ein Beispiel von vielen – und es gibt auch (noch) keine Apps, die Aktienkurse vorhersagen können. Angezeigt erscheint ein realistisches Erwartungs- management: KI-basierte Anwendungen kann man nicht einfach als „korrekt“ oder „inkorrekt“ bezeichnen, wie das für klassische algorithmische Software der Fall ist. Das liegt u. a. daran, dass wir KI, genauer Maschinenlernen, gerade für solche Probleme verwenden, die wir nicht präzise beschreiben können: Wie beschreibt man für ein Erkennungssystem für Fußgänger explizit, was genau einen Fußgänger ausmacht? Könnten wir Probleme dieser Art präzise beschreiben, wäre Maschinenlernen in der Regel gar nicht die erste Wahl für ihre Lösung. Anstelle von kategorischen Aussagen zur Korrektheit – funktio- niert oder funktioniert nicht – können wir graduelle Aus- sagen treffen, vereinfacht gesagt: funktioniert vermutlich in 80 Prozent der Fälle. Halluzinationen von großen Sprachmodellen sind Beispiele für die fehlenden 20 Pro- zent, die nicht funktionieren. Aber wann genau ist etwas eine Halluzination? Gibt es Abstufungen von problemati- schen und unproblematischen Halluzinationen und hängt das von dem Prompt und Anwendungskontext ab? Wenn wir als Gesellschaft die Chancen der (gene- rativen) KI nutzen wollen, müssen wir verstehen, was es be- deutet, dass eine KI – im qualitativen, nicht ethischen – Sinn „gut“ ist. Wann ist sie „gut genug“ und was ist die Referenz? Ist dieser Vergleichsmaßstab ein durch- schnittlicher oder ein in seinem Fachgebiet heraus- ragender Mensch? Wir werden uns als Gesellschaft einigen müssen, welches Kosten-Nutzen-Verhältnis angesichts zu erwartender nicht perfekter Qualität für uns in welchem Kontext akzeptabel ist. Plakativ gesagt: Ist es akzeptabel, dass ein KI-basierter Lernassistent vielleicht 15 Prozent faktisch falsche Informationen lie- fert? Wie oft irren Lehrende an der Schule oder Hoch- schule? Und wenn Lernende gar keine andere Möglich- keit haben, Fragen zum Lernstoff mit einem Menschen zu diskutieren, dürfen wir ihnen dann diese Möglichkeit auch angesichts manchmal falscher Inhalte vorenthal- ten? Hier sind schwierige ethische Diskussionen zu füh- ren, die über reines Nutzendenken hinausgehen. Als Gesellschaft verstehen wir immer besser, wo wir generative KI gewinnbringend einsetzen können. Es ist davon auszugehen, dass diese Werkzeuge auf abseh- bare Zeit Assistenten bleiben werden, uns also in den meisten Fällen nicht ersetzen. Die Interaktion mit der ge- nerativen KI kann als solche einen Mehrwert bieten, etwa im Fall der Lernassistenten. Hier ist der Prozess wichtiger als das Produkt. Es gibt auch den Fall, dass in der Interaktion mit der generativen KI ein Produkt ent- steht, das als solches den Mehrwert darstellt. Das kann ein Newsletter sein, eine Dokumentation oder Code. Die Qualität der Prompts bzw. der Interaktion entscheidet dabei über die Qualität der Ergebnisse. Dann stellt sich die Frage, wann das Prompten und die Überprüfung der (Zwischen-)Ergebnisse weniger zeit- und/oder qualifika- tionsintensiv durchgeführt werden können als bei einem rein manuellen Vorgehen. Wie Kleist in seinem Aufsatz zur allmählichen Verfertigung von Gedanken beim Reden beobachtete, benötigen manche Menschen den Prozess der Entwicklung von Gedanken oder Produkten in klei- 22

DOSSIER: IMPULS Was ist digitaler Humanismus? Und was bedeutet er in Zeiten von generativer KI? Um diese Frage zu klären, bedarf es zunächst einer Be- stimmung dessen, was wir unter Humanismus verstehen wollen. Humanistisches Denken und teilweise auch eine humanistische Praxis in Gesellschaft und Politik gibt es seit der Antike. Zu den europäischen Wurzeln gehören Sokrates und das Philosophieren in seinem Geist. Die Sokratik geht davon aus, dass Menschen selbst denken können und zwar unabhängig von Herkunft, Geschlecht, formaler Bildung. Die Sokratik ist die humanistische Va- riante früher europäischer Aufklärung, ihr Gegenspieler ist die Sophistik, für die es keine Wahrheit und kein Wissen gibt, für die Argumente und Theorien lediglich den Zweck haben, eigenen Interessen zu dienen. Eine radikale Auf- klärung, die alles infrage stellt, endet im Anti-Humanismus, in Naturalismus und Nihilismus. Auch in anderen Kultur- kreisen gibt es antike Formen humanistischen Denkens – in Ostasien in Gestalt des Konfuzianismus, in Südasien in Gestalt des Buddhismus. Das Gemeinsame allen humanistischen Denkens ist das Vertrauen in die Vernunftfähigkeit der Menschen, die den Ausgang aus selbstverschuldeter Unmündigkeit (Immanuel Kant) weist. Damit Menschen imstande sind, sich ein eigenes Urteil zu bilden und ein Leben aus eige- ner Verantwortung heraus zu gestalten, müssen sie ihre kognitiven und ethischen Potenziale entfalten. Der Hu- manismus setzt auf Selbstentfaltung des Menschen als Individuum und der Menschheit als Kollektiv. Im 19. Jahrhundert ging ein neuer humanistischer Impuls zunächst von Preußen aus und verbreitete sich rasch über die deutschsprachigen Länder, Mittel- und Südeuropa, später über die ganze Welt. Dieser setzte ganz auf Bildung in Schulen, Hochschulen und Lebens- praxis. Die Bildung der Persönlichkeit sollte jedes einzel- ne menschliche Individuum in die Lage versetzen, das eigene Leben in respektvoller Interaktion mit anderen sinnvoll zu gestalten, in meiner Terminologie: Autorin 24

DOSSIER: IMPULS „Ein Angstszenario ist etwas, das uns lähmen kann – und in Europa können wir Lähmung in Bezug auf KI als Allerletztes gebrauchen.“ „Eigentlich brauchen wir so etwas wie das Wirtschafts- wunder im KI-Bereich.“ Sascha Lobo warb auf der „bidt Konferenz“ 2023 für mehr Mut in Sachen künstliche Intelligenz. Wir sprachen mit dem Autor, Podcaster und Internetunternehmer über Lösungsansätze, um Ängste gegenüber der KI-Transformation abzubauen. Zum Interview geht’s hier: www.bidt.digital/interview/lobo 2626

DOSSIER: INTERVIEW ChatGPT in Schule und Hochschule – ein Wendepunkt für Lernen und Lehre? Die Qualität von ChatGPT überraschte zu Beginn sogar führende KI-Expertinnen und -Experten. Schnell wurde deutlich: Das Sprachmodell hat einen enormen Einfluss auf das deutsche Bildungssystem. Doch wie sieht die Zukunft der Bildung aus? Professorin Ute Schmid und Professor Dirk Heckmann im Interview. 28

DOSSIER: INTERVIEW „Generative KI bietet viele Chancen für Lehre und Lernen. Die breite Debatte über den Einsatz dieser und anderer Technologien im Bildungs- system ist längst überfällig.“ Prof. Dr. Ute Schmid Wie stark haben sich Lernen, Lehren und Prüfen seit ChatGPT verändert? Schmid: Man kann sowohl an Schulen als auch an Uni- versitäten beobachten, dass Schülerinnen und Schüler sowie Studierende die neuen generativen KI-Tools zu- nehmend nutzen, zum Beispiel, um Übungsaufgaben zu bearbeiten oder Aufsätze zu schreiben. Lehrkräfte und Dozierende setzen die Technologie ebenfalls vermehrt ein, etwa zur Korrektur oder für die Aufgabenerstellung. Doch die Generierung von Inhalten mit Tools wie ChatGPT im Bildungskontext muss man fachdidaktisch und medienpädagogisch unterfüttern und begleiten. Beispielsweise sollten Strategien vermittelt werden, wie man den Wahrheitsgehalt und die Qualität von KI-gene- rierten Inhalten bewertet. Ich freue mich, dass durch ChatGPT das Thema Bildung im Zeitalter der Digitalität endlich breit diskutiert wird. Dies ist seit zwei Jahrzehn- ten überfällig, seit dem Aufkommen von Suchmaschinen, Wikipedia und maschineller Übersetzung. Der Impuls an manchen Hochschulen war ein Verbot von generativer KI. Warum kann das rechtlich nicht durchgesetzt werden? Heckmann: Ein Verbot würde in verschiedene Grund- rechte, wie Ausbildungsfreiheit und Chancengleichheit, eingreifen. Lernende dürfen technologische Inno vationen nutzen, die ihren Lernprozess unterstützen. Außerdem lässt sich ein Verbot in der Praxis nicht durchsetzen, weil der Einsatz von KI, zum Beispiel in Hausarbeiten, nicht effektiv kontrolliert werden kann. Auch das Argument, generative KI würde die Grundsätze guter wissenschaft- licher Praxis verletzen, hat keinen Bestand. Es kann ja nach so kurzer Zeit keine etablierten Standards geben, wie mit KI in der akademischen Arbeit umzugehen ist. Ein Verbot ist keine Lösung, aber ohne Regulie- rung wird es nicht gehen. Wie können rechtliche Rahmenbedingungen aussehen, die die handeln- den Personen in der Praxis unterstützen? Heckmann: Am Beispiel Hochschule sehen wir, dass das Recht die Realität des Studiums reflektieren muss. Dazu haben meine Kollegin Sarah Rachut und ich kürzlich einen Beitrag veröffentlicht. Studien- und Prüfungsord- nungen sollten angepasst werden, sodass Lehrinhalte und Bewertungsmethoden den tatsächlichen berufli- chen Anforderungen und Studienzielen entsprechen. Studierende sollen ihre Intelligenz sinnvoll einsetzen und gleichzeitig technologische Ressourcen effektiv nutzen können. Da sich Lernende vermehrt mit neuen Techno- logien auseinandersetzen, ist auch eine Anpassung des Workloads nötig. Für all das braucht es eine gesetzliche Grundlage, die nicht zuletzt klarstellt, dass die Integra- tion technologischer Entwicklungen in die Hochschul- bildung politisch unterstützt wird. 30

DOSSIER: INTERVIEW zesse müssen also so gestaltet werden, dass Menschen digitale Werkzeuge sinnvoll nutzen können und gleich- zeitig notwendige Kompetenzen, wie Prozentrechnen, sprachliche Kompetenzen oder Programmieren, nicht verloren gehen. Welche Erfahrungen haben Sie bisher mit dem Einsatz von KI in der Lehre gemacht? Heckmann: Ein Beispiel aus meiner Lehre ist das Semi- nar „Der Richter und sein Hacker“. Der Clou war, dass die Studierenden ihre Themen mithilfe von generativer KI er- arbeitet haben. Dazu gehörte eine kritische Überprüfung und Dokumentation des gesamten Prozesses. Die Stu- dierenden agierten als Qualitätsmanager. Schmid: Ich beobachte, dass viele Studierende ChatGPT und andere generative Tools nutzen, um beispielsweise ihre Programmierhausaufgaben zu bearbeiten. Dies kann eine sinnvolle Unterstützung sein. Aber es kann auch dazu führen, dass grundlegende Kompetenzen nicht er- worben werden. Sie beide leiten Teilprojekte am bidt innerhalb des neuen Forschungsschwerpunkts. Worauf zielen Ihre Projekte? Schmid: Unser Projekt fokussiert auf die Co-Creation von Programmcode. Wir wollen erforschen, wie Studierende die nötigen Programmierkompetenzen erwerben, auch wenn sie ChatGPT nutzen. Zudem werden wir bestehen- de KI-Ansätze zur Codegenerierung weiterentwickeln, um die Qualität des generierten Codes zu erhöhen. Heckmann: In unserem Projekt untersuchen wir die Evo- lution von Studium und Prüfungen im Kontext von Co- Creation. Zum Projekt gehört eine Roadshow, bei der ein Teammitglied durch Deutschland reist, um mit Universi- täten und Ministerien in Dialog zu treten. Ziel ist es, ein exemplarisches Prüfungsverfahren zu entwickeln, wel- ches das traditionelle Konzept der eigenständigen Leis- tung aufbricht. Wir werden natürlich auch so frech sein und generative KI für unsere Gutachten einsetzen, selbst- verständlich unter Einhaltung aller Qualitätsstandards. Herzlichen Dank für das Gespräch! „ChatGPT ist ein wertvolles Werkzeug, weil es zum Beispiel Zeit sparen kann. Aber die Qualität des Outputs muss vom Menschen kommen.“ Prof. Dr. Dirk Heckmann 32

DOSSIER: IMPULS Wenn Roboter Zeitung schreiben: Wird das Publikum KI-Journalismus vertrauen? Generative künstliche Intelligenz (KI) wird die Arbeits- weisen in zahlreichen Feldern von Wirtschaft und Gesell- schaft umwälzen. Auch die Arbeit und Produkte von Journalistinnen und Journalisten stehen vor solchen Ver- änderungen. Wie andere Wissensarbeitende profitieren sie von ChatGPT und Co. als nimmermüde Helferlein, Ideengeber oder Lektoren. Mit Blick auf die Aufgaben des Journalismus – Herstellung von Öffentlichkeit, Kritik und Kontrolle von Institutionen, insbesondere aber die Bereitstellung vertrauenswürdiger Informationen für die Meinungsbildung der Bürgerinnen und Bürger – stellt sich die spezifische Frage, wie das Nachrichtenpublikum reagiert, wenn journalistische Beiträge über aktuelle Themen explizit als Erzeugnisse generativer KI gekenn- zeichnet sind. Gelten Roboter als glaub- und vertrauens- würdige Urheber, die professionell arbeiten, belastbare Informationen bereitstellen und objektiv berichten? Während die meisten Medienhäuser KI-Innovationen positiv gegenüberstehen und Leitlinien zum Umgang da- mit erarbeitet haben, die vor allem die Transparenz nach außen betonen, ist bisher noch weitestgehend unklar, welchen Effekt der sichtbare Einsatz von generativer KI auf das Publikum hat. Menschliche Journalistinnen und Journalisten und das misstrauische Publikum Gesellschaftlich kontroverse und ideologisch aufgeladene Debatten (z. B. über den Klimawandel, die Umsetzung der Energiewende, Abtreibung, das Gendern von Texten o. Ä.) sind dadurch gekennzeichnet, dass sich zwei oder mehrere Lager vergleichsweise unversöhnlich gegen- überstehen. Je stärker die Einstellungen zu einem Thema ausgeprägt sind und je wichtiger dies für die eigene Identität und eigene Werthaltungen ist, desto weniger sind Individuen in der Regel bereit, sich mit Angehörigen des „anderen Lagers“ oder deren konträren Meinungen auseinanderzusetzen oder gar ihre Einstellungen zu überdenken. Wenn Bürgerinnen und Bürger bereits eine (ausgeprägte) Meinung zu einem aktuellen Thema be- sitzen, neigen sie dazu, journalistische Berichte darüber als verzerrt zuungunsten des eigenen Meinungslagers wahrzunehmen – auch wenn sich diese Beiträge um Neutralität und zweiseitig ausgewogene Darstellungen bemühen. Dieser sogenannte Hostile Media Bias wurde vielfach nachgewiesen und ist bei Menschen mit extremen Ansichten besonders ausgeprägt. Er wirkt einer argu- mentativen Auseinandersetzung im öffentlichen Diskurs entgegen, weil Bürgerinnen und Bürger dazu neigen, der Ausgewogenheit von Berichten zu misstrauen. KI als Journalist: Vertrauen in die Maschine ohne Eigen- interesse? Wie aber werden Menschen über Medienberichte urtei- len, deren Urheber sich als generative KI ausweisen? Mit dieser Thematik wird sich ein Projekt im Rahmen des bidt-Schwerpunktprogramms „Mensch und generative künstliche Intelligenz: Trust in Co-Creation“ befassen. Erste Studien in den USA haben interessante Erkenntnisse hervorgebracht: Demnach äußern Menschen merklich weniger Misstrauen bezüglich der Objektivität und Glaub- würdigkeit von Berichten, deren Verfasser als KI gekenn- zeichnet sind. Als plausible Ursache für dieses größere 34

DOSSIER: IMPULS Mit Booster und Gestaltungs- willen – wie die Politik generative KI gestalten kann Die Entwicklung von generativer KI schreitet rasant voran. Auch die Debatten um Risiken und Chancen werden in Wirtschaft und Wissenschaft immer differen- zierter – in der Politik ist es dagegen relativ still. Wenn die Bundesregierung die Entwicklung überhaupt noch gestalten will, braucht sie rasch einen Booster. Mit der Veröffentlichung von ChatGPT im November 2022 hat ein globaler KI-Boom eingesetzt, in kürzester Zeit haben neue Tools zur Generierung von Texten, Spra- che, Bildern und Videos Einzug gehalten. In der Wirt- schaft, der Wissenschaft und bei Bürgerinnen und Bürgern ist das Thema generative KI kaum noch wegzudenken. Laut einer repräsentativen Umfrage der DIHK hatten zwei Drittel der Unternehmen 2023 bereits KI im Einsatz, fast doppelt so viele wie 2022. Gerade ge- nerative KI gehört laut einer Umfrage der Boston Consul- ting Group zu den top drei Themen, die CEOs umtreiben. In einer repräsentativen bidt-Studie sehen 37 Prozent der Internetnutzenden generative KI als eine Technolo- gie, die das Leben in Zukunft erleichtern wird. In der deutschen Politik scheint das Thema dagegen erst langsam anzukommen. Lange wurde in der Bundes- regierung über Regulierung und den EU AI Act gesprochen, während wenig darüber zu hören war, wie sie zu der Technologie steht – oder welche Rolle Deutschland in der globalen KI-Industrie und Forschung künftig überhaupt spielen soll. Diesen großen Diskonnekt zwischen der durchaus sehr differenzierten Auseinandersetzung in Wissen- schaft und Wirtschaft mit Chancen und Risiken von ge- nerativer KI und der eigenen bisherigen Rolle als stiller Zuschauer muss die Bunderegierung dringend auflösen, wenn sie in Europa und global noch eine gestaltende Rolle übernehmen will. So rasant, wie die generative KI sich entwickelt, wird die Politik den eigenen Wissens- und Erfahrungsrückstand schon jetzt nur noch aufholen, wenn Wirtschaft und Wissenschaft ihr dabei helfen und einen Booster verpassen. In drei Punkten hätte solche Unterstützung den größten Effekt für alle Seiten: 1. Die Verwaltung muss selbst Gen-AI-Profi werden Nur wer im Alltag mit generativer KI umgeht, kann sie wirklich verstehen und sinnvoll regulieren oder fördern. Erste Ansätze und positive Stimmen in der Bundesregie- rung dazu gibt es, aber im Vergleich mit anderen Ländern ist die Bundesverwaltung weit hinterher, was Use Cases anbelangt, die die eigene Arbeit per ChatGPT und Co. erleichtern. Dabei gäbe es viele leicht umsetzbare An- wendungsfälle, wie beispielsweise das automatisierte Zusammenfassen von Dokumenten. Die besten Brücken- köpfe in der Verwaltung für solche Tests sind die Daten- labore in allen Bundesministerien. Beim großflächigen Ausprobieren kann die Bundesregierung stark von den Erfahrungen aus den Unternehmen profitieren. Diese wiederum profitieren von lebensnaher Regulierung, die auf eigenem praktischen Wissen basiert. 36

BIDT KONFERENZ „bidt Konferenz“: Mut zur Mitgestaltung Generative KI und automatisierte digitale Kommunikation, Regulierung neuer Technologien und digitale Teilhabe – Themen wie diesen widmete sich die „bidt Konferenz“ unter dem Motto „Digital kommunizieren – Digitales kommu- nizieren“ 2023 mit über 600 Teilnehmenden im Gasteig HP8. Ausgewählte Impressionen und Stimmen aus der Veranstaltung im Überblick. Mehr dazu Alles zur „bidt Konferenz“ 2023 – inklusive Aufzeichnung und Best-of-Video – ist hier abrufbar: www.bidt.digital/rueckblick/ bidt-konferenz-2023 Können wir das öffentliche Digitalisierungsnarrativ durch Kompetenzaufbau und transparente Kommunikation in eine positive Richtung wenden? Können Meinungsfreiheit und freie partizipative Kultur im Netz durch Regulierung oder Kuration geschützt werden? Bräuchte es einen prag- matischeren Ansatz beim Datenschutz? 30 Expertinnen und Experten aus Wissenschaft, Politik, Wirtschaft und Gesellschaft gingen der Frage nach, wie digital kommuniziert wird und wie über Digitales kom- muniziert wird. Kernergebnisse der bidt-Forschung sowie laufende Projekte des bidt-Graduate Centers standen im Fokus hochkarätiger Panels und am interaktiven Marktplatz. Einig war man sich: Wir müssen die digitale Transformation gestalten, nicht sie uns. Die Digitalisierung ist ein gesamt- gesellschaftliches Gestaltungsthema, das auch die Selbst- verantwortung der Bürgerinnen und Bürger betrifft. 3838

BIDT KONFERENZ SELBSTBESTIMMUNG „Es braucht keine ‚German Angst‘, aber einen nuancierten Diskurs … Ich wünsche mir, dass wir in den Fahrerinnensitz der Digitalisierung kommen.“ Lajla Fetic Senior Expert Tech Governance und Digitalpolitik, ehemals Bertelsmann Stiftung GEMEINWOHL „Niemand kann dir ein Zeugnis, Zertifikat oder die Erlaubnis geben, die Zukunft mitzugestalten. Wir brauchen mehr Menschen mit dem Mut, sich einzumischen. Die mit ihren Ideen eine Welt bauen, in der alle von Technologie, dem Inter- net und digitalen Inno- vationen profitieren.“ Valerie Mocker Gründerin Wingwomen, Digitalexpertin und Teil der „Europe’s 40 under 40“ 40

PERSPEKTIVEN Verantwortungsvolle KI für eine demokratische Gesellschaft Von Dr. Niina Zuber und Dr. Jan Gogoll Die fortschreitende Automatisierung dringt immer tiefer in Bereiche vor, die traditionell als genuin menschlich gelten, wie rationales Denken und emotionales Erleben. Diese Entwicklung zwingt uns, die Auswirkungen dieser neuen Technologien auf unser Leben und unsere Gesellschaft zu hinterfragen. Während Maschinen schon seit Langem manuelle Tä- tigkeiten übernehmen, weitet sich der Einfluss moder- ner Computertechnologien nun auf Kernaspekte der menschlichen Identität und Interaktion aus. Diese Fä- higkeiten sind nicht nur zentral für unsere persönliche Existenz, sondern auch für die Grundlagen unserer ge- sellschaftlichen Strukturen einschließlich der demo- kratischen Grundordnung. In diesem Kontext müssen wir die Integration von Softwaresystemen sorgfältig abwägen. Um zu verstehen, wie neue Technologien auf unsere Demokratie einwirken, müssen wir zunächst den Menschen und seine Fähigkeiten in den Blick nehmen. Humanismus und die aufgeklärte autonome Person Vernunft gilt als charakteristisches Merkmal des Men- schen – als Hauptmerkmal, das uns von anderen Lebens- formen auf der Erde unterscheidet. Es scheint ein not- wendiges Element der Conditio humana zu sein. Diese anthropologische Prämisse bildet auch den Kern eines digitalen Humanismus (Nida-Rümelin 2018; Nida-Rümelin/ Staudacher 2024, siehe auch Beitrag S. 24/25): Das autonome Individuum nimmt seine Handlungsmacht durch den Akt des Präsentierens von und Festhaltens an Gründen wahr. Die Person lässt sich nicht nur von Zu- ständen und Umständen leiten, sondern hält sich statt- dessen an die Gründe (Nida-Rümelin 2023; Wedgwood 2017). Darüber hinaus ist die autonome Person in der Lage, diese Gründe offenzulegen und entsprechend zu handeln. Aufgrund dieser Fähigkeit, Gründe zu erkennen, abzuwägen und nach ihnen zu handeln, schreiben wir Personen eine Begabung zur Vernunft zu. Vernunft um- fasst nicht nur bewusste kognitive Anstrengungen, son- dern kann auch in Form von Haltungen oder Tugenden als tradierte Vernunft oder als institutionalisiertes Ver- halten verstanden werden. Gemeinsam üben wir diesen Einsatz von Vernunft, bewerten die besseren Gründe und kommen zu Vereinbarungen, Kompromissen oder formulieren neue Forderungen. Wir schulen diese Fähig- keit in Bildungsinstitutionen und durch die Teilnahme an gesellschaftlichen Strukturen, die unsere Handlungs- fähigkeit sichern und fördern sollen. In Fällen von Unsicherheit handeln wir bestenfalls nicht blind, sondern beginnen innezuhalten und nachzu- denken. Dieser Akt des Nachdenkens beinhaltet die Fähigkeit, Argumente für und gegen eine bestimmte Posi- tion zu bewerten. Wir begründen, um zu überzeugen und lassen uns von den besten verfügbaren Argumenten überzeugen (Nida-Rümelin 2023). In diesem Austausch von Argumenten zeigt sich unsere vernunftgeleitete Freiheit. Als soziale Wesen sollten wir dabei unsere Mit- menschen achtsam behandeln, uns ihrer Emotionalität 4242

PERSPEKTIVEN Generative KI und Urteilskraft Wenn Menschen den von generativer KI erzeugten Output unkritisch übernehmen, kann dies dazu führen, dass menschliches Denken auf zufällige Äußerungen reduziert wird. Der Bezug zur Wirklichkeit ist nicht ge- geben: Es wird auf keinen realen Zusammenhang ver- wiesen. Ein weiteres Unterscheidungsmerkmal liegt in der Wahrhaftigkeit der Äußerungen. Die angezeigten Resultate spiegeln keine tatsächliche Meinung oder Überzeugung eines Sprechenden wider. Diese Diskre- panz zwischen Worten und inneren Überzeugungen führt zu einer korrumpierten Kommunikationsform, die nicht länger als verlässlich angesehen werden kann. In einem solchen Umfeld, in dem Worte ihre Verbindung zur Wirklichkeit und Wahrheit verlieren, wird der grund- legende Zweck der Kommunikation untergraben: der Austausch von Argumenten – seien dies Informationen, Gefühle oder Gedanken. Für demokratische Gesellschaften sind jedoch kri- tisches Denken und das Verständnis unterschiedlicher Standpunkte essenziell. Nur dann können eine gemein- same Deliberation, ein gemeinsamer Austausch und eine Entscheidungsfindung gelingen. Es ist also wesentlich, dass wir als autonome Personen an diesem Austausch teilnehmen. Eine zu starke Abhängigkeit von umfang- reichen Sprachmodellen kann daher auf eine Gefahr für demokratische Systeme hinauslaufen, weil diese auf gut informierte und kompetente Bürgerinnen und Bürger an- gewiesen sind (Zuber/Gogoll 2024). Der Verlust an Ur- teilskraft könnte dazu führen, dass Personen ihre eigenen Meinungen nicht mehr verfolgen und diese auch nicht mehr äußern. Stattdessen könnten sie die Meinungen anderer übernehmen und sich unbeabsichtigt anpassen. Das steht jedoch im Widerspruch zu einer aufgeklärten demokratischen Lebensweise. Technologie zum Wohle der Gemeinschaft Technologischer Fortschritt bringt aber nicht nur He- rausforderungen mit sich, sondern bietet auch viele po- sitive Möglichkeiten. So hebt die Europäische Union her- vor, dass sprachbasierte Systeme wie Chatbots für die demokratische Bildung förderlich sein können. Sie er- möglichen es Bürgerinnen und Bürgern beispielsweise, schnell und einfach Antworten auf Fragen zu Wahlpro- grammen zu erhalten oder sich über politische Neuig- keiten zu informieren. Diese Technologien können den Dialog zwischen der Bevölkerung und der Politik ver- bessern, indem sie Politikerinnen und Politikern die Mei- nungen und Sorgen der Bürgerinnen und Bürger näher- bringen. Es wird sogar vorgeschlagen, dass große Sprachmodelle als beratende Werkzeuge eingesetzt werden sollten. Diese können das Verständnis politi- scher Argumente verbessern und Einblicke in politische Prozesse geben, was Bürgerinnen und Bürger dazu an- regt, fundierte Entscheidungen zu treffen. Entscheidend ist jedoch, dass bei der Entwicklung und dem Einsatz von Technologien die Bedingungen de- mokratischer Lebensformen und europäischer Werte be- rücksichtigt werden (Gogoll/Zuber 2020). Es müssen Standards wie Sicherheit und eine angepasste Form des Datenschutzes beachtet werden, insbesondere, weil Daten in generativen KI-Systemen aufgehen und nicht gelöscht werden können. Dies ist notwendig, um zu ver- hindern, dass einfaches Hacking und Manipulationen möglich sind. Die genannten Maßnahmen sind essenzi- ell, um die Integrität unserer demokratischen und gesell- schaftlichen Strukturen zu wahren und sicherzustellen, dass die Technologie zum Wohl der Gemeinschaft ein- gesetzt wird. Notwendigkeit einer ethischen Beurteilung Ebenso muss gewährleistet werden, dass die Äußerun- gen von Personen angemessen vertreten werden, ins- besondere in der politischen Meinungsbildung. Perso- nen, wie Politikerinnen und Politiker, und Parteien, die Sprachmodelle nutzen, um mit den Bürgerinnen und Bürgern in Kontakt zu treten, müssen Verantwortung für die Inhalte übernehmen. Dies gilt auch bei fehlerhaften Darstellungen oder unerwünschten Ergebnissen. Es ist wichtig, dass die Authentizität und Verantwortlichkeit in der Kommunikation gewahrt bleiben, um das Vertrauen in den demokratischen Prozess zu stärken und eine ver- antwortungsvolle Nutzung der Technologie zu fördern. Eine ethische Beurteilung ist in diesen Fällen sowohl im Vorfeld als auch während der Anwendung unerlässlich. Es stellt sich die Frage, ob wir wirklich wollen, dass Maschinen gesellschaftlich relevante Themen, wie bei- spielsweise die Debatte um Migration, ausschließlich mithilfe statistischer Verfahren beantworten (Pretschner 4444

DAS BIDT ZU GAST IN BRÜSSEL Mehr Digitalkompetenz für Europa in Zeiten von generativer KI Die Stärkung der digitalen Kompetenzen aller EU-Bürgerinnen und Bürger ist essenziell für Europas technologische Souveränität. Da sich Technologien wie KI ständig verändern, muss die kritische Urteilsfähigkeit gefördert werden. Wie Europa diese Aufgabe meistern kann, war die zentrale Frage einer bidt- Veranstaltung in Kooperation mit der Vertretung des Freistaates Bayern bei der EU. Die digitalen Klüfte in Europa sind groß – insbesondere in Deutschland. Dies belegen die Ergebnisse des „bidt- Digitalbarometer.international“, die im Rahmen der Veran- staltung „Mehr Digitalkompetenz für Europa in Zeiten von generativer KI“ im März 2024 dem anwesenden Fach- publikum vorgestellt wurden. In der anschließenden Panel- diskussion diskutierten Expertinnen und Experten aus EU-Politik und Forschung über mögliche Lösungen zur Steigerung digitaler Kompetenzen. „Entscheidend ist die Urteilsfähigkeit. Wir müssen verstehen, was wir da sehen. Wir müssen unseren Verstand gebrau- chen. Wenn es stimmt, dass wir in allen Tätig keiten eine Verschiebung vom Schaffenden zum Überprüfenden erleben werden – und ich gehe fest davon aus –, dann müssen wir das Überprüfende, das kritische Denken, stärker trainieren.“ Prof. Dr. Alexander Pretschner Vorsitzender des bidt-Direktoriums „Ein deutlicher Anstieg der fortgeschritte- nen KI-Fähigkeiten muss in der EU Priorität haben, sowohl was spezialisierte KI-Ent- wickler als auch sachkundige KI-Nutzer angeht. Wir müssen uns der Dringlichkeit bewusst sein, denn das Zeitfenster, das der technologische Umbruch bietet, wird nicht ewig offenbleiben.“ Martin Ulbrich Policy Officer AI Policy Development and Coordination DG Connect der Europäischen Kommission 46

DAS BIDT ZU GAST IN BRÜSSEL Das „bidt-Digitalbarometer.international“: Digitale Kompetenzen im europäischen Vergleich Die digitale Transformation zeigt sich in allen Lebens- bereichen. Sie verändert die Art und Weise, wie Men- schen kommunizieren, wie sie arbeiten, einkaufen oder mit Behörden interagieren. Damit sind große Herausfor- derungen für Wirtschaft, Gesellschaft, Staat, aber auch jede einzelne Person verbunden. Für die Menschen bedeutet der digitale Wandel, dass sie neue, digitale Kompetenzen entwickeln müssen. Diese Kompetenzen ermöglichen es ihnen, mit neuen Gegebenheiten im Berufs- und Privatleben zurechtzukommen, ihre Beschäftigungs- fähigkeit zu erhalten und nicht zuletzt informiert, reflektiert und selbstbestimmt mit neuen Technologien umzugehen. Um den Stand der digitalen Transformation in Deutschland und insbesondere die Verteilung digitaler Kompetenzen in der Bevölkerung im Vergleich zu anderen Ländern zu erfassen, führte das bidt nach der ersten Befragung zum „bidt-SZ-Digitalbarometer“ im Sommer 2021 in Deutschland (Stürz et al. 2022) Ende 2022 / Anfang 2023 Vergleichserhebungen in sechs weiteren europäischen Ländern durch. Die Analyse der Daten aus Österreich (AUT), Spanien (ESP), Finnland (FIN), Frankreich (FRA), Großbritannien (GBR) und Italien (ITA) im Vergleich mit denen aus Deutschland (DEU) erlaubt es, Stärken und Schwächen beim digitalen Wandel in Deutschland aufzuzeigen. Die Studie stützt sich auf den Selbsteinschät- zungstest DigCompSAT (Clifford et al. 2020), der von der Gemeinsamen Forschungsstelle (JRC) der EU-Kommis- sion entwickelt wurde. Das bidt liefert damit erstmals repräsentative Daten für dieses Instrument aus den sieben betrachteten Ländern. Die Ergebnisse bezüglich digitaler Kompetenzen zeigen, dass das durchschnittliche digitale Kompetenzniveau in Deutschland vergleichsweise niedrig ist. Mit jeweils 55 von 100 möglichen Punkten bilden Deutschland und Spanien die Schlusslichter der betrach- teten Länder, deutlich höher ist das durchschnittliche Kompetenzniveau in Österreich mit 61 und in Finnland mit 63 Punkten. Selbsteinschätzungstest DigCompSAT: ● Basis: europäischer Referenzrahmen für digitale Kompetenzen DigComp mit den Kompetenzbereichen: Umgang mit Informationen und Daten Kommunikation und Zusammenarbeit Erzeugen von digitalen Inhalten Sicherheit Probleme lösen ● 82 Einzelaussagen zu Wissen, Fähigkeiten und Einstellungen, vierstufig beantwortbar, zu einem Index von 0 bis 100 Punkten zusammengefasst 4848

DAS BIDT ZU GAST IN BRÜSSEL Aber nicht nur nach Alter, sondern auch nach formalem Bildungsniveau, nach Haushaltsnettoeinkommen und nach Geschlecht ist die digitale Kompetenzkluft in Deutschland vergleichsweise stark ausgeprägt, während sie insbe- sondere in Finnland deutlich geringer ausfällt. Aufgrund der relativ großen Kompetenzkluft besteht hierzulande also mehr als in den anderen betrachteten Ländern die Gefahr, dass immer größere Teile der Bevöl- kerung digital abgehängt werden. Damit Deutschland bei der Digitalisierung nicht den Anschluss verliert, gilt es möglichst zeitnah zu handeln und den im „bidt-Digital- barometer.international“ aufgezeigten Schwächen ent- gegenzuwirken. Mehr zu diesen und weiteren Themen des „bidt-Digitalbarometers“ lesen Sie in unserer Studie „bidt-Digitalbarometer.international“ (Stürz et al. 2023). Digitale Kompetenzunterschiede nach Alter Indexwert (Punkte von 100 möglichen Punkten) 14 – 29 Jahre 65+ Jahre Unterschied DEU AUT ESP FIN FRA GBR ITA 72 68 69 72 68 66 71 35 47 39 51 45 42 40 -37 -21 -30 -21 -23 -24 -31 Basis: DEU: n = min. 3.444; AUT: n = 519; ESP: n = 719; FIN: n = 610; FRA: n = 847; GBR: n = 793; ITA: n = 790. Digitale Kompetenzunterschiede nach formaler Bildung Indexwert (Punkte von 100 möglichen Punkten) niedrige Bildung hohe Bildung Unterschied DEU AUT ESP FIN FRA GBR ITA 48 53 44 64 49 45 53 64 67 64 63 65 64 62 +16 +14 +20 -1 +16 +19 +9 Formale Bildung in Anlehnung an ISCED 2011: niedrig (Stufe 1–2), mittel (Stufe 3–4), hoch (Stufe 5–8). Basis: DEU: n = min. 6.606; AUT: n = 548; ESP: n = 1.265; FIN: n = 697; FRA: n = 1.011; GBR: n = 1.093; ITA: n = 1.002. Mehr dazu Weitere Forschungsergebnisse der Studie zum Nachlesen: www.bidt.digital/digitalbarometer-int 5050

MENSCHEN AM BIDT Menschen am bidt Neue Wege im Wissenschaftsmanagement Maschinen und künstliche Intelligenz und die Kommuni- kation damit werden in Zukunft immer mehr zu unserem Alltag gehören: im Auto, auf der IT-Messe, im Wohnzimmer, im Job. Was das mit Dr. Maria Staudte zu tun hat? In der Interaktion mit Maschinen lernen wir viel über unser eigenes menschliches Verhalten. Und genau diese Mensch-Maschine-Interaktion fasziniert Maria Staudte als Forscherin und Forschungsmanagerin. Von Robotern im Saarland zum bidt nach Bayern Im Saarland – dem zweitkleinsten Bundesland Deutsch- lands – hat Maria Staudte Computerlinguistik studiert, in Kognitionswissenschaften promoviert und später als Nachwuchsgruppenleiterin geforscht und gelehrt, ins- besondere im Bereich der Sprache. Die Vielfalt der Fach- disziplinen und der stark experimentelle Ansatz fesselten sie besonders. „Wie verarbeiten Menschen Sprache und dies auch im Zusammenspiel mit Maschinen? Für die Kommuni- kation zwischen Individuen spielen auch Mimik, Gestik oder Blickverhalten in Kombination mit dem richtigen Timing eine große Rolle. Dafür habe ich beispielsweise sehr viel mit Eye-Tracking in den Versuchen gearbeitet“, so Staudte. Ein Roboter oder virtueller Agent, der einen Sachverhalt auf der Tonspur erklärt, aber in einem für sein Gegenüber unpassenden Moment wegsieht, irritiert den Menschen. Inkongruentes Verhalten führt zum Teil sogar zum Vertrauensverlust in die Maschine. „Manchmal braucht es eben Fehler in der sonst so reibungslosen Kommunikation, um zu verstehen, wie sie eigentlich funktioniert.“ Von der Forschung ins Wissenschaftsmanagement Im Jahr 2020 entschloss sich Maria Staudte, vom Saarland nach München und von der Forschung ins Wissenschafts- management zu wechseln. Sie verstärkt das bidt-Team als Forschungskoordinatorin für Nachwuchsprogramme mit Schwerpunkt auf der Promovierendenförderung. „Was mich damals sehr an der neuen Herausforderung gereizt hat, war, dass die Nachwuchsförderung am bidt in Zusammenarbeit mit dem Bayerischen Wissenschafts- ministerium neu aufgestellt wurde. Das bot wirklich tolle Entwicklungs- und Gestaltungsmöglichkeiten. So kann ich mithilfe meiner eigenen Erfahrungen in Forschung und Betreuung dazu beitragen, Ausbildungs- und Förder- formate, insbesondere für Promovierende, in Bayern weiter zu verbessern.“ Mehr als 15 Jahre in der Forschung stehen nun gut vier Jahren als Forschungskoordinatorin gegenüber. Und Staudte hat hier gemeinsam mit ihren Kooperationspart- nerinnen und -partnern und dem bidt-Team viel erreicht. „Wir schaffen mit dem Graduate Center Möglichkeiten zur interdisziplinären Vernetzung.“ Dr. Maria Staudte Forschungskoordinatorin bidt 52

FORSCHUNGSSTARK: PROJEKTFEATURE Digitale Transformation von Unternehmen im Dialog erforschen und gestalten Wie Wissenschaft und Wirtschaft erfolgreich in Dialog gehen, zeigt das bidt-Projekt zur digitalen Transformation von Engineeringunternehmen. Professor Thomas Hess und Dr. Angela Graf vom bidt so- wie Dr. Holger Hackstein von Schenck Process berichten im Interview über spannende Perspektiven auf die digi- tale Transformation von Unternehmen. Durch den leben- digen Austausch sind neue Fragen entstanden, die das Forschungsteam im nächsten Projektabschnitt behan- deln wird. Die Ergebnisse sollen für echte Praxisprobleme in Organisationen anwendbar sein, ohne als One-Size- fits-all-Lösung missverstanden zu werden. Wie haben Sie Anfang 2022 für das bidt-Projekt zusammengefunden? Graf: Im Forschungsteam interessierten wir uns beson- ders für Maschinenbauunternehmen, denn diese Firmen fokussieren sich intensiv auf Technologie – aber nicht vorrangig auf Digitaltechnologien. Unsere These war: Bei traditionsreichen Maschinenbauunternehmen wird die Identität durch digitale Transformation besonders stark infrage gestellt. Als wir Holger Hackstein kennenlernten, war schnell klar: Das kann für beide Seiten unglaublich interessant werden. Schenck Process ist führend in der Mess- und Verfahrenstechnik mit 140-jähriger Tradition, das passte also optimal. Hackstein: Absolut. Bei den Gesprächen mit dem bidt stellte ich fest, dass ich einige Aspekte von Transforma- tion bisher nie bedacht hatte, zum Beispiel, wie stark die Digitalisierung die Unternehmens-DNA – die Identität – beeinflusst. Was bedeutet Unternehmensidentität konkret? Graf: Unternehmensidentität ist die kollektive Antwort auf die Frage: Wer sind wir eigentlich? Sie ist ein Wegweiser für das Handeln sowie für Entscheidungen im Unter- nehmenskontext und die Grundlage für ein Zusammen- gehörigkeitsgefühl. Das Bewusstsein darüber wird aber nicht täglich reflektiert, sondern tritt erst zutage, wenn die Organisation mit Unsicherheiten konfrontiert wird. Ist der Einfluss digitaler Technologien auf Unternehmen wirklich so groß? Hess: Auf jeden Fall, das kann man schon seit über 40 Jahren beobachten, wobei der Einfluss über die Jahre im- mer größer geworden ist. Aus wissenschaftlicher Per- spektive bezeichnen wir den Einfluss digitaler Technolo- gien auf Unternehmen als digitalen Wandel. Wenn aber eine neue Technologie, wie derzeit die künstliche Intelli- genz, grundlegende Strukturen infrage stellt, spricht man von Transformation. 54

FORSCHUNGSSTARK: PROJEKTFEATURE Unternehmen zusammen an Themen wagen, die noch nicht gelöst sind. Wir entwickeln und erproben neue An- sätze im Dialog. Unsere Methoden reichen von klassi- schen sozial- und wirtschaftswissenschaftlichen Verfah- ren, wie Dokumentenanalysen und Interviews, bis hin zu ethnografischen Beobachtungen und sogar zu Verfahren der gestaltungsorientierten Forschung, wie sie aus dem Engineering bekannt sind. Hackstein: Konkret stehen wir zum Beispiel vor der He- raus forderung, alle Mitarbeitenden zu erreichen, insbe- sondere die ohne täglichen PC-Zugang, wie in unserer Fertigungseinheit in Darmstadt. Während viele von uns regelmäßig E-Mails abfragen oder das Wetter online checken, sind manche Mitarbeitenden aufgrund der be- trieblichen Tätigkeiten von digitalen Ressourcen im Ar- beitskontext abgeschnitten. Worauf sind Sie besonders gespannt im weiteren Verlauf des Projekts? Hackstein: Ein wichtiges Anliegen sehe ich darin, dass der Wandel hin zur Digitalisierung unternehmensweit verstanden und akzeptiert wird. In der Maschinenbau- industrie ist das keine leichte Aufgabe, denn hier herrscht oft ein eher traditionelles Verständnis von Arbeit. Hess: Es wird interessant zu sehen, wie Kommunikations- strategien in Transformationsprozessen gestaltet werden müssen, um erfolgreich zu sein. Das ist ein bisher wenig erforschtes Gebiet. Graf: Unser Projekt befasst sich mit einer der großen Her ausforderungen unserer Zeit: Wie können sich etab- lierte Organisationen digital transformieren? Wir möchten einen Beitrag dazu leisten, die Komplexität solcher Ver- änderungsprozesse besser zu verstehen und gemeinsam mit der Praxis Ideen für eine erfolgreiche Transformation entwickeln, die auch die Beschäftigten mitnimmt. Es wird allerdings keine Einheitslösung herauskommen. Wir kön- nen allgemeine Ansätze und Konzepte entwickeln, die Organisationen dabei helfen, die für sie am besten geeig- neten Wege zu erkennen und nicht intendierte Effekte zu vermeiden. Aber die Umsetzung muss auf das Selbst- verständnis und die Bedürfnisse jedes Unternehmens zu- geschnitten sein. 56 Kontakt Prof. Dr. Thomas Hess Wirtschaftsinformatiker an der Ludwig- Maximilians-Universität München, Mitglied im bidt-Direktorium thess@bwl.lmu.de Dr. Angela Graf Soziologin, Privatdozentin an der Technischen Universität München, Projektleiterin am bidt angela.graf@bidt.digital Dr. Holger Hackstein Chief Digital Officer bei Schenck Process h.hackstein@schenckprocess.com Mehr dazu www.bidt.digital/forschungsprojekt/ unternehmen-identitaet

FORSCHUNGSSTARK: GRADUATE CENTER Das Team bestand in diesem Fall aus einem Ingenieur, einer Ethikerin, einer Politikwissenschaftlerin, einer Jour- nalistin und einem Philosophen. „Es ging um das Zusam- menführen der Forschungswelten“, so Loder. Gemein- sam das Problem zu schärfen und sogar ein Format zu entwickeln, das die Forschungsfrage an die Öffentlich- keit trägt, war eine spannende Herausforderung. Die eigenständige Organisation der Podiumsdis- kussion „Die Verteilung öffentlicher Güter – das Digitale als Lösung?“ mit Sprecherinnen und Sprechern aus den Bereichen Mobilität, Gesundheit und Rundfunk war auch für die Forschenden neu – und das Feedback des Publikums sehr gut. „Den Output des Panels verwende ich aktuell in einer Vorlesung“, erklärt Loder. Neben dem sichtbaren Resultat, betont er, habe die Mitarbeit im Arbeitskreis zur individuellen akademischen Weiterent- wicklung beigetragen. Die Zusammenarbeit mit anderen Fachrichtungen, der Austausch und das Netzwerk, das durch das bidt-Graduate Center entstanden ist, seien für seine Laufbahn sehr gewinnbringend. Durch dieses Netzwerk bleibe seine Verbindung zur bidt-Community auch langfristig erhalten. „Die bidt-Strukturen helfen dabei, zu verstehen, wie die Forschungs- und Förderland- schaft funktioniert – in Bayern und darüber hinaus.“ Prof. Dr. Allister Loder Das bidt gratuliert „Ausgezeichnete Forschung“ im doppelten Wortsinn: Wir freuen uns, dass die Young Talents des bidt-Graduate Centers für ihre Forschungsarbeit honoriert wurden – eine Auswahl … Steliyana Doseva Wissenschaftliche Referentin Forschung am bidt, laufende Promotion zu Lobbying-Prozessen in der EU-Plattformregulierung Akademiepreis der Karl-Thiemig-Stiftung (BAdW) Für ihre Forschung erhielt Steliyana Doseva 2023 den Karl-Thiemig-Preis für Nachwuchsforschung, der an Mitarbeitende der Bayerischen Akademie der Wissen- schaften (BAdW) vergeben wird. Mit ihren Forschungs- ergebnissen hat sie Beiträge zu hochaktuellen und gesellschaftlich relevanten Fragestellungen wie der Regulierung von Kommunikationsplattformen geleistet. Prof. Dr. Daniel Buschek Professor für Mobile Intelligent User Interfaces, Universität Bayreuth, Leiter der Nachwuchsforschungsgruppe AI Tools – Continuous Interaction with Computational Intelligence Tools in Förderung durch das bidt Preis des Google Research Scholar Program Professor Daniel Buschek wurde im Jahr 2023 mit einem Forschungspreis aus dem „Google Research Scholar Program“ ausgezeichnet, das internationales Renommee genießt. Ausgezeichnet wurde sein Projekt zur Frage, wie KI die Arbeit mehrerer Teammitglieder an digitalen Textdokumenten unterstützen kann. www.bidt.digital/person/steliyana-doseva www.bidt.digital/person/daniel-buschek 5858

FÜNF FRAGEN AN Judith Wittwer ist Chefredakteurin der „Süddeutschen Zeitung“ und damit auch für die digitale Weiterentwicklung des SZ-Journalismus zuständig. Die 46-Jährige ist außerdem Mitglied im Kuratorium des Bayerischen Forschungsinstituts für Digitale Transformation (bidt). 6060

DIALOG Treten Sie mit uns in den Dialog Die Chancen und Herausforderungen der digitalen Trans- formation beschäftigen uns auch weiterhin. Bleiben Sie mit dem bidt in Kontakt und vernetzen Sie sich mit uns – über unsere Social-Media-Kanäle oder den monatlichen Newsletter. Wir informieren Sie über Veranstaltungen, Projekte und Forschungsergebnisse. Außerdem interessiert uns, welche Digitalthemen Sie besonders bewegen. Wir freuen uns auf den Austausch! „Unabhängige, interdisziplinäre und evidenz- basierte Forschungsergebnisse bilden eine zentrale Grundlage, um politische Handlungs- felder proaktiv zu gestalten. Das gilt in Zeiten sich ständig verändernder Technologien umso mehr, da sie weite Bereiche unseres gesell- schaftspolitischen und wirtschaft lichen Zu- sammenwirkens umfassen. Wir freuen uns daher, mit unserer Expertise Entscheiderinnen und Entscheider zu unterstützen und so an einer gemeinwohlorientierten digitalen Zu- kunft mitwirken zu können.“ Hier geht’s zu den neuesten Infos, Publikationen und Studien www.bidt.digital Bleiben Sie mit uns in Kontakt @Bayerisches Forschungsinstitut für Digitale Transformation @BIDT_Muenchen @bidt@wisskomm.social @bidt.bsky.social @bidtmuenchen Mit dem monatlichen Newsletter halten wir Sie auf dem Laufenden. www.bidt.digital/newsletter Nicole Wloka Referentin Politikberatung und Kooperationen am bidt 6262

bidt – Bayerisches Forschungsinstitut für Digitale Transformation Ein Institut der Bayerischen Akademie der Wissenschaften Gabelsbergerstraße 4 80333 München www.bidt.digital