Digitale Transformation verstehen — Zukunft im Dialog gestalten Magazin PERSPEKTIVEN DOSSIER FORSCHUNGSSTARK Uploadfilter – eine Gefahr für das freie Internet? Forschung im Dialog Projekte des bidt im Überblick

EDITORIAL Liebe Leserin, lieber Leser, auch in dieser Ausgabe unseres bidt Magazins erwartet Sie wieder eine Fülle an Themen. Dabei zeigt sich: Interdisziplinarität bei Forschung und in der Zusammenarbeit ist unserem jungen, weiter im Aufbau befindlichen Institut praktisch in die DNA geschrieben. Denn die Erforschung des digitalen Wandels lässt sich nicht aus der Perspektive von nur einer Fachdisziplin verwirklichen. Aufgrund der Komplexität der digitalen Transformation bedarf es vielmehr verschiedener Sichtweisen und Instrumente zu ihrer Erforschung. Als begeisterter Informatiker weiß ich zugleich um die gewinnbringenden Perspektiven anderer Disziplinen bei Forschungsfragen zur digitalen Trans­ formation wie beispielsweise der Wirtschafts­ und Sozialwissenschaften oder der Philosophie. Diesem Anspruch kommen wir daher beim bidt durch unsere fachübergreifende Ausrichtung der von uns geförderten Forschungs­ projekte nach. Das zeigt auch die Breite unserer Forschungsfragen, die von der Regulierung digitaler Plattformen über die Messung von Meinungsmacht im Internet bis zu Ethik in der agilen Softwareentwicklung reichen. Doch Forschung ist kein Selbstzweck, sondern lebt auch davon, dass man über sie spricht. Ein weiterer Baustein unseres Selbstverständnisses ist daher die unsere Forschung begleitende Kommunikation. Wir wollen am bidt Forschung in den Dialog bringen – sowohl innerhalb der Wissenschaft, über Disziplingrenzen hinweg als auch darüber hinaus, mit Vertreterinnen und Vertretern aus Politik, Wirtschaft und der breiten Öffentlichkeit. Mit unserer Arbeit möchten wir Brücken der Verständigung bauen und zur verantwor­ tungsvollen Gestaltung der digitalen Zukunft beitragen – denn die digitale Transformation wird unser aller Leben in vielen Bereichen tiefgreifend ver­ ändern. Grund genug, dass wir alle aktiver darüber sprechen und uns enger vernetzen. Sehen Sie das vorliegende Magazin, mit dem wir Ihnen ausge­ wählte Themen und Projekte am bidt vorstellen möchten, gerne als Einladung zum weiteren Austausch. Ich wünsche Ihnen eine anregende Lektüre! Ihr Alexander Pretschner Prof. Alexander Pretschner ist Vorsitzender des Direktoriums des Bayerischen Forschungsinstituts für Digitale Transformation (bidt) und Inhaber des Lehrstuhls für Software und Systems Engineering an der Technischen Universität München. 3

INHALT 46 Dank an 40 Perspektiven Uploadfilter – eine Bedrohung für das freie Internet? Ein Beitrag von Steliyana Doseva und Jan Schillmöller 44 Infografik Berufstätigkeit und Digitalkompetenzen Das bidt­SZ­Digitalbarometer 46 Menschen am bidt Im Porträt: Der wissenschaftliche Ge­ schäfts führer des bidt, Dr. Christoph Egle 48 Forschungsstark Interdisziplinäre Forschungsprojekte des bidt im Überblick Projektfeature: Online­Feindlichkeit gegenüber politisch aktiven Frauen 54 Fragebogen Fünf Fragen zum digitalen Wandel an Andrea Martin, IBM 56 Dialog 57 Impressum 54 Anja Reiter, die uns beim Dossier­Inter­ view und ­Feature sowie bei „Menschen am bidt“ redaktionell unterstützt hat. Die freie Journalistin schreibt u. a. für Die ZEIT und die Süddeutsche Zeitung. Kilian Blees, der für „Menschen am bidt“ Dr. Roland A. Stürz und sein Think und das Interview im Innenteil die Gesprächspartnerinnen und ­partner Thank­Team, die uns bei der Erstellung der Infografik zum bidt­SZ­Digitalbarometer in Szene gesetzt hat. tatkräftig unterstützt und spannende Daten generiert haben. ( S. 44 ) 5

„Deutschland hat in der Pandemie einen Crashkurs in Digitalisierung erlebt. Nach holbedarf besteht teil­ weise in den Ämtern, im Home office und beim Ein satz von KI wurde das Rad vieler orts aber auch überdreht. Wir brauchen eine Diskussion darüber, wie wir die digitale Transformation nachhaltig gestalten können.“ Prof. Felix Freiling Mitglied im bidt­Direktorium IN KÜRZE bidt-SZ-Digitalbarometer Das bidt­SZ­Digital barometer ist ein Indikator für die Entwicklung der digitalen Transformation in Deutschland. Es ist ein Gemeinschaftsprojekt des bidt und des SZ­Instituts der Süddeutschen Zeitung. Im Spätsommer 2021 wurden in einer ersten Er­ hebung insgesamt 9.044 Personen in Deutschland ab 14 Jahren repräsentativ befragt. Die Teil neh­ menden gaben Auskunft und Einschätzungen zu ihrem Nutzungsverhalten bezüglich digitaler Geräte und Techno logien, zu digi talen Kompetenzen, zur digi talen Transformation der Arbeitswelt, zu E­Government und zum Thema Künstliche Intelligenz. In Zukunft sind weitere Aus wertungen vorgesehen. www.bidt.digital/studie­digitalbarometer 94 % der Berufstätigen in Deutschland nutzen das Internet beruflich. bidt — @BIDT_Muenchen Wie digital ist Deutschland? Diese Frage steht im Mittelpunkt des bidt­SZ­Digitalbarometers – und sie leitete die #bidtPerspektiven im Januar ein, bei der die Studie vorgestellt wurde. Die Ergebnisse der Diskussion und das Video zur Veranstaltung hier: www.bidt.digital/lessons­learned­bidt­perspektiven­digitalbarometer 7

IN KÜRZE bidt Konferenz Die digitale Transformation macht nicht an Ländergrenzen halt, vielmehr findet sie in einem globalen Wettbewerb statt. Insbesondere das US­amerikanische und das chinesische Digitalisierungsmodell fordern internationale Machtstrukturen heraus und werfen in Deutschland sowie auf europäischer Ebene Fragen der Eigenständigkeit und Handlungsfähigkeit auf. Welche Rolle Deutschland und Europa im weltweiten digitalen Wettbewerb spielen, beleuchtete die erste bidt Konferenz im Herbst 2021. Die Veranstaltung fand unter dem Titel „Digitale Transformation gestalten – verantwortungsvoll, souverän, europäisch“ statt. Mehr Informationen zur bidt Kon­ ferenz finden Sie auf den Seiten 34 bis 39 dieses Magazins. bidt — @BIDT_Muenchen „Ein Dialog ist dann frucht­ bar, wenn unterschiedliche Perspektiven zusammen­ kommen, genau wie auf der #bidtKonferenz2021 – mit inspirierenden Köpfen aus Wissenschaft, Medien und allen Bereichen der Gesell­ schaft.“ – Bayer. Digital­ ministerin @gerlach_judith bidt-Publikationen Ein Blick in die Publikationsliste des bidt lohnt sich! Auf der Web­ site des bidt werden in regelmäßigen Abständen Forschungs­ arbeiten der vom bidt geförderten Projekte veröffentlicht. Das Angebot umfasst die Reihen „Studien & Analysen“, „Working Paper“ und „Impulse“. Letztere richtet sich an ein breites Publikum, insbesondere aus Politik und Gesellschaft. Veröffentlicht werden Positionen oder Handlungsempfehlungen zu bestimmten Themen. Die Themen der bidt­Publikationen umfassten bereits Analysen des chinesischen Sozialkreditsystems, Diskussionsbeiträge zum Einsatz von Gesichtserkennungstechnologie oder Handlungs­ empfehlungen in Hinblick auf die Digitalisierung von Lehre und Forschung an Hochschulen. www.bidt.digital/publikationen 9

IN KÜRZE „Bei der Gestaltung der digitalen Transformation kommt es darauf an, voneinander zu lernen. Welche Ansätze, Konzepte und Erfahrungen aus der Wirtschaft lassen sich auf Politik und Verwaltungsstrukturen übertragen? Der Einsatz von Chief Digital Officers in Ministerien ist ein gutes Beispiel hierfür. Wir müssen Diskurse und Modelle zusammen­ führen, um den digitalen Wandel erfolgreich zu bewältigen.“ Prof. Thomas Hess Mitglied im bidt­Direktorium 11

NACHGEFRAGT Was ist eigentlich ... Cyberkriminalität Unter Cyberkriminalität versteht man alle Formen von Krimi­ nalität, die mittels moderner IT begangen werden. Dabei umfasst Cyberkriminalität im engeren Sinn nur solche Taten, deren Angriffsgegenstand Computer, Daten, Daten netze und Datenverarbeitungen sind. Zur Cyberkriminalität im weiteren Sinn gehören etwa die Verbreitung von Pornografie online, Betrug bei eBay und Beleidigung mittels E­Mails oder auf Internetseiten. Zur Cyber­ kriminalität im engeren Sinn zählen beispielsweise Angriffe auf fremde Computer oder Datenverarbeitungen durch Hacken, Datenspionage oder Datenveränderungen. Es entstehen jedoch fortwährend neue Formen von Cyberkriminalität: So lassen sich etwa mittels virtueller Realität sogenannte Deep­ fakes erstellen. Eine neue Form von Cyberkriminalität liegt z. B. vor, wenn KI eingesetzt wird, um die Schwachstellen eines IT­Systems auszutesten. Cyberkriminalität zeichnet sich durch drei Besonderheiten aus: Erstens ist sie typischerweise ein Distanzdelikt und über­ schreitet leicht Landesgrenzen, was die Strafverfolgung häufig schwierig macht. Außerdem stellt sich in solchen Fällen die Frage, welche Rechtsordnung überhaupt zuständig ist. Zwei­ tens bietet das Internet die Möglichkeit, sehr viele Ziele praktisch zeitgleich anzugreifen, etwa durch betrügerische E­Mails, die an Hunderttausende von potenziellen Opfern gesendet werden. Eine dritte Besonderheit liegt darin, dass durch das Wachstum des Internets immer wieder neue, oft gänzlich unerfahrene Personen als potenzielle Opfer zur Verfügung stehen. Zu den Faktoren, die die Strafverfolgung im Internet erleichtern, gehört vor allem, dass Täter im Internet stets Spuren hinterlassen. Diese können mittels der immer leistungsfähiger werdenden Computerforensik ausgewertet werden. Die Frage, wie weit der Staat technische Möglichkeiten zur Kontrolle des Internets einsetzen darf (z. B. eine Vorrats­ datenspeicherung), gehört heute zu den wichtigsten Themen des Polizei­ und Strafverfahrensrechts. Schon lange gibt es Bestrebungen, die Strafnormen zur Bekämpfung von Cyberkriminalität international zu verein­ heitlichen. Selbst bei international gleichförmigen Strafnormen bereitet jedoch die Rechtsdurchsetzung über die eigenen Staatsgrenzen hinaus oft Probleme. Deutschland hat als eines der ersten Länder der Welt Strafnormen gegen Cyberkriminalität erlassen. Es handelt 13 sich hier vor allem um die Tatbestände der Datenveränderung (§ 303a StGB), der Computersabotage (§ 303b StGB) und des Ausspähens von Daten (§ 202a StGB). Hinzu treten die Urkundenfälschung im Computer (§§ 269, 270 StGB) sowie der Computerbetrug (§ 263a StGB). Normen zum Schutz der Datensicherheit existieren außerdem auch im Datenschutz­ recht, etwa in der DSGVO. Wirksamer als ein strafrechtlicher Schutz, dessen präven­ tive Wirkung stets fragwürdig bleibt, sind jedoch technische Maßnahmen zum Schutz von Computersystemen. Hinzu kommt die Notwendigkeit, im Rahmen der allseits geforderten Medienkompetenz hinreichend Sensibilität dafür zu entwi­ ckeln, dass man sich im digitalen Raum mindestens ebenso vorsichtig verhalten sollte wie in der alten analogen Welt. Dies bedeutet z. B. den Einsatz elementarer Selbstschutzmaßnah­ men (wirksame Passwörter, Nutzung von Antivirensoftware usw.). Ohne hinreichenden Schutz vor Cyberkriminalität droht die digitale Transformation unserer Gesellschaft zu scheitern. Prof. Eric Hilgendorf ist Mitglied im Direktorium des bidt und Inhaber des Lehrstuhls für Strafrecht, Strafprozessrecht, Rechtstheorie, Informationsrecht und Rechtsinformatik an der Julius­Maximilians­ Universität Würzburg. Er beschäftigt sich seit Jahren mit ethischen und rechtlichen Fragen der Digitalisie­ rung und Technikregulierung. Der vorliegende Beitrag ist eine gekürzte Fassung – die Langform sowie Artikel weiterer Autorinnen und Autoren finden Sie im Glossar auf der bidt­Website. www.bidt.digital/glossar Kontakt Prof. Eric Hilgendorf Julius­Maximilians­Universität Würzburg hilgendorf@jura.uni­wuerzburg.de

NACHGEFRAGT Vernetzung Digitalisierungs­ kollegs Austausch Interdisziplinäres Interdisziplinäres Arbeiten Arbeiten PhD Network Graduate Center Postdoc Network bidt Graduate Center Das bidt Graduate Center wird in zwei Programmlinien an Hochschulen in ganz Bayern umgesetzt: als PhD Net­ work für Promovierende sowie als Postdoc Network. „Ziel des PhD Network ist es, die Geförderten beruflich zu vernetzen und den Zugang zu angrenzenden Diszipli­ nen zu erleichtern. Das erfolgt beispielsweise durch das Mitwirken in interdisziplinären Arbeitsgruppen, durch ein breites Kursangebot oder die Teilnahme an gemeinsamen Veranstaltungen“, erläutert Maria Staudte. Mit dem PhD Network sollen Hochschulabsolventinnen und ­absol­ venten angesprochen werden, die an einer Hochschule in Bayern ihre Promotion mit Bezug zu Digitalisierungs­ themen anstreben. Pro Jahr werden bis zu 25 Promo­ vierende aufgenommen, zusätzlich erhalten sie ein jähr­ liches Stipendium von 3.000 Euro. Beim Postdoc Network steht neben der Vernetzung das Career Development im Vordergrund. „Durch vielfäl­ tige Angebote wie etwa Mentoring möchten wir die Postdocs bei der Entwicklung ihres Forschungsprofils unterstützen. Unser Ziel ist es, sie für einen Verbleib in der Wissenschaft zu qualifizieren. Eine Frage lautet: Wie können wir Nachwuchskräfte fördern, sodass sie für die spätere Übernahme einer Tenure­Track­Stelle möglichst gut vorbereitet sind?“, so Christina Dieckhoff. Zur Ziel­ gruppe des Postdoc Network gehören herausragende Promovierte, deren Erlangung der Doktorwürde in der Regel nicht länger als zwei Jahre zurückliegt. Über das 15 Förderprogramm werden bis zu zehn Postdoc­Stellen finanziert. Die Geförderten erhalten zudem jährliche For­ schungsmittel in Höhe von bis zu jeweils 15.000 Euro über einen Zeitraum von bis zu vier Jahren. Perspektivisch ist noch eine weitere Vernetzungs­ option attraktiv: Durch die gestartete Kooperation des bidt mit dem CAIS und dem Weizenbaum­Institut werden auch für Nachwuchswissenschaftlerinnen und ­wissen­ schaftler interessante Angebote zur deutschlandweiten Vernetzung und Qualifizierung geschaffen. Es zeigt sich: Forschung zur digitalen Transformation ist ein „weites Feld“ – bayernweit, deutschlandweit. Mehr dazu Weitere Informationen rund um die Nachwuchsförderungsprogramme wie auch zur Bewerbung finden In teressierte auf der Website des bidt. www.bidt.digital/young­talents

DOSSIER Forschung im Dialog Forschung zum digitalen Wandel gelingt aufgrund ihrer Komplexität nur gemeinsam. Als junges Forschungsinstitut bringt das bidt Forscherinnen und Forscher verschiedener Disziplinen zusammen. Gemeinsam bauen sie Brücken der Wissensvermittlung und Verständigung. Sie stoßen den Dialog für den Austausch mit Wissenschaft, Politik, Wirtschaft und Gesellschaft an. Auf den nachfolgenden Seiten möchten wir Sie einladen, mehr zu erfahren, wie Forschung im Dialog beim bidt gelebt wird. 17

DOSSIER: INTERVIEW Ein Gespräch bei einem Kaffee mit dem Vorsitzen­ den des bidt­Direktoriums, Professor Alexander Pretschner, und der Dialog­Leiterin des bidt, Margret Hornsteiner, über die Chancen und Her­ ausforderungen der dialogorientierten Forschung. Herr Professor Pretschner, Frau Hornsteiner, das bidt hat es sich zur Aufgabe gemacht, Grund- lagen zu liefern, um „die digitale Zukunft der Gesellschaft verantwortungsvoll und gemein- wohlorientiert zu gestalten“. Welche Rolle spielt der Dialog, um diesen gemeinwohlorientierten Auftrag zu erfüllen? Alexander Pretschner: Der Dialog mit unterschiedlichen Stakeholdern ist in die DNA unseres Instituts einge­ schrieben. Es war unser expliziter Wunsch, diesen Dialog nicht als einseitige Kommunikation von Ergebnissen zu verstehen, sondern immer als den gegenseitigen Aus­ tausch von Wünschen, Vorschlägen und Fragestellungen. Als Wissenschaftlerinnen und Wissenschaftler können wir Impulse und Empfehlungen geben, wie bestimmte Ent­ wicklungen gemeinwohlorientiert gestaltet werden kön­ nen. Nicht emotional, sondern faktenbasiert, auf Ebene von wissenschaftlichen Erkenntnissen. Wir können dabei helfen, die relevanten Dimensionen zu verstehen, ent­ scheiden müssen andere. Frau Hornsteiner, als Politik- und Kommunika- tionswissenschaftlerin haben Sie sich in der Vergangenheit mit den Bereichen Partizipation und Repräsentation beschäftigt. Inwiefern können Sie diese Schwerpunkte auch in Ihre Arbeit im Dialog-Team des bidt einbringen? Margret Hornsteiner: Das bidt verbindet auf ganz span­ nende Art und Weise all die Themen, die ich in meinen vorherigen Tätigkeiten bearbeitet habe. In meiner Disser­ tation konnte ich zeigen, dass es bei Partizipations­ prozessen einen Unterschied macht, wen man wann zu welchem Themengebiet einbindet. In der Beratung habe ich Bürgerbeteiligung in der Praxis erprobt und gesehen, 19

DOSSIER: INTERVIEW „Ein gutes Prozessdesign ist enorm wichtig, damit Beteiligung gelingt.“ Margret Hornsteiner Am bidt arbeiten Forscherinnen und Forscher aus unterschiedlichen Disziplinen zusammen. Wie können diese eine gemeinsame Sprache entwickeln und Missverständnisse vermeiden? Pretschner: Eine Kultur der Interdisziplinarität muss über Jahre wachsen. Dafür muss es Räume wie das bidt ge­ ben, in denen Wissenschaftlerinnen und Wissenschaftler aus unterschiedlichen Disziplinen eng zusammenarbeiten können. Nur so kann Respekt und Verständnis füreinander entstehen. Ich habe gelernt, dass die unterschiedlichen Disziplinen anders denken. Ingenieure denken extrem problem­ und lösungsorientiert. In den Geistes­ und Sozialwissenschaften wird stärker in Diskursen gedacht. Diesen unterschiedlichen Zugang muss man lernen, damit man gemeinsam an Fragestellungen arbeiten kann, ohne Frustration und Unverständnis heraufzubeschwören. Welche Ziel- und Altersgruppen versuchen Sie in der Öffentlichkeit zu erreichen? Sind das alle Zielgruppen, vom Kitakind bis zur Seniorin? Hornsteiner: Der Auftrag, einen Dialog mit der gesamten Gesellschaft zu führen, ist unfassbar groß. Im Moment legen wir unseren Fokus weniger auf Kinder und Jugend­ liche, vielleicht entwickeln wir aber zukünftig noch ein Angebot für diese Zielgruppe. Eine Vielzahl unserer Akti­ vitäten richtet sich an eine breite Öffentlichkeit. Gerade bei unseren Veranstaltungen wie bidt Perspektiven oder bidt Werkstatt digital und den Stakeholder­Workshops legen wir je nach Thema einen bestimmten Schwer­ punkt, zum Beispiel auf Wirtschaftsvertreterinnen und ­vertreter, Personen aus Politik und Verwaltung oder aus dem Bildungsbereich. Im Rahmen unserer Studie zum Sozialkreditsystem in China konnten wir zum Beispiel bayerischen Unternehmen spezifische Informationsan­ gebote machen. Mit welchen Veranstaltungen und Tools gelang es in der Vergangenheit, die verschiedenen Stakeholder in den Diskurs miteinzubeziehen? Hornsteiner: In den letzten zweieinhalb Jahren haben wir verschiedene Kanäle und Formate entwickelt, darunter Veranstaltungs­ und Publikationsreihen, Social Media und klassische Medienarbeit. Viele unserer Ideen beruhen darauf, dass sich Menschen vor Ort treffen können. Der unmittelbare Austausch ist extrem wertvoll und schafft Vertrauen – innerhalb der Forschung, aber auch mit den Stakeholdern. Die Pandemie hat uns in dieser Hinsicht vor besondere Herausforderungen gestellt. Unter den ge gebenen Bedingungen haben wir aber das Bestmög­ liche herausgeholt. Unsere bidt Konferenz im Herbst 2021 war eine hybride Veranstaltung. Etwa 80 Teilneh­ mende waren vor Ort, 800 haben die Konferenz online verfolgt. Wir haben uns große Mühe gegeben, auch den online zugeschalteten Teilnehmenden Interaktionsange­ bote zu machen. Es gab einen Liveblog, Social­Media­ Angebote und Diskussionsräume. 21

DOSSIER: INTERVIEW Ist das bidt auch eine Institution, die klassische Politikberatung betreibt? Wie viel Strahlkraft hat das bidt hier bislang? Hornsteiner: Die Politik ist einer unserer zentralen Stake­ holder. Gesetze und Regulierungen sind wichtige Gestal­ tungsinstrumente der digitalen Transformation. Im Rahmen unseres Projekts „Messung von Meinungsmacht und Vielfalt im Internet“ haben wir eine Veranstaltung mit Politikerinnen und Politikern organisiert, bei der auch Vertreterinnen und Vertreter aus Medienpolitik und Regu­ lierungsgremien anwesend waren. Ein weiteres Thema, mit dem wir uns beschäftigt haben, ist Governance von Digitalpolitik. Daneben gab es immer wieder informelle Formate, bei denen wir uns mit Landtags­ und Bundes­ tagsabgeordneten getroffen haben. Wir verstehen uns also durchaus als Beraterinnen und Berater von Politik, die gehört werden wollen, aber auch gerne schon im Vorfeld gefragt werden. Welche Zukunftsszenarien gibt es für das bidt? Wie wollen Sie den Dialog weiterentwickeln? Hornsteiner: Ein Ziel ist die Weiterentwicklung unserer Website, in die wir Dialogfeatures einbauen wollen, damit die Öffentlichkeit sich noch besser beteiligen kann. Auch persönliche Begegnungen und das persönliche Erleben wollen wir weiter ausbauen, sofern dies in Zukunft wieder möglich sein wird. Pretschner: In den letzten zweieinhalb Jahren haben wir ein sehr schnelles Wachstum unserer Prozesse und Strukturen erlebt. Nun ist es an der Zeit, uns zu konsoli­ dieren und zu verstehen, was in der Vergangenheit gut funktioniert hat und wo wir uns verbessern können. Wir sind in einem so irren Tempo vorangekommen, dass wir mit allzu großen Veränderungen vorsichtig sein sollten. So oder so haben wir noch eine große Aufgabe vor uns: die Wirkzusammenhänge zwischen den einzelnen Phäno­ menen der Digitalisierung zu identifizieren, diese aus Sicht der einzelnen Disziplinen zu beschreiben und Ver­ allgemeinerungen abzuleiten. Darin sehe ich die große Aufgabe des bidt. Herzlichen Dank für das Gespräch! 23 „Der Dialog mit unterschiedlichen Stakeholdern ist in die DNA unseres Instituts eingeschrieben.“ Prof. Alexander Pretschner Kontakt Margret Hornsteiner bidt, Abteilungsleitung Dialog margret.hornsteiner@bidt.digital Prof. Alexander Pretschner Vorsitzender des bidt­Direktoriums alexander.pretschner@tum.de

und steht für den Austausch mit Studierenden verschie­ dener Fächer zur Verfügung. „Ich versuche immer so konkret wie möglich zu vermitteln, was KI und Maschi­ nelles Lernen eigentlich sind“, erzählt Ute Schmid. Viele Zuhörerinnen und Zuhörer würden dann Berührungs­ ängste verlieren und mehr Verständnis für die Chancen und Risiken von Künstlicher Intelligenz entwickeln. Damit der Wissenstransfer gelingen kann, seien vor allem drei Dinge grundlegend: „Man muss sein Fachgebiet kennen, eine Leidenschaft dafür haben und den Dialog mit Menschen mögen.“ Nur wenn diese drei Grundlagen ge­ geben seien, könne Digital Literacy zielgruppengerecht und effektiv vermittelt werden; der konkrete didaktische Instrumentenkasten sei dabei fast schon zweitrangig. Seit 2001 hält Ute Schmid Vorlesungen zu Künst­ licher Intelligenz, und fast genauso lange engagiert sie sich schon in der breiten Vermittlung von Data Literacy und grundlegenden Informatikkompetenzen. Auch nach so vielen Jahren des Wissenstransfers nehme sie aus jeder Begegnung mit Lernenden noch etwas für sich mit. „Bei jeder Vorlesung gibt es Dinge, die ich plötzlich an­ ders verstehe – weil etwa eine Studentin eine Frage gestellt hat, die ich mir so noch nie gestellt habe.“ Ähnlich sei es auch mit dem Diskurs mit der Öffentlichkeit. „Unerwartete Fragen gestellt zu bekommen und nach Möglichkeiten der Erklärung und Vermittlung zu suchen ist ein kreativer Akt“, so Ute Schmid. „Das finde ich un­ heimlich reizvoll.“ 25 Prof. Ute Schmid ist Mitglied im Direktorium und im Geschäftsleitenden Ausschuss des bidt. Sie ist Professorin für Kognitive Systeme an der Universität Bamberg und lehrt und forscht seit vielen Jahren im Bereich Künstliche Intelligenz mit Fokus auf menschenähnliches Maschinelles Lernen und Methoden für interaktives und erklärendes Lernen. Für ihr Engagement für Wissenstransfer im Bereich Informatik, speziell zum Thema KI, für Kinder, Lehrkräfte sowie die breite Öffentlichkeit wurde sie 2020 mit dem Rainer­Markgraf­Preis aus­ gezeichnet. Ute Schmid ist Mitglied im Bayerischen KI­Rat. Kontakt ute.schmid@uni­bamberg.de

DOSSIER: GASTBEITRAG Prof. Dirk Heckmann ist Mitglied im Direktorium des bidt und Inhaber des Lehrstuhls für Recht und Sicherheit der Digitalisierung an der Technischen Universität München. Der im Nebenamt als Verfassungsrichter am Bayerischen Verfassungsgerichtshof tätige Staatsrechtler berät regelmäßig Parlamente und Regierungen. Der vor ­ liegende Gastbeitrag beleuchtet den Aspekt „Digitalisierung im Dialog“ aus rechtswissenschaftlicher Perspektive. Kontakt dirk.heckmann@tum.de Das sind interdisziplinäre Fragen des Technikdesigns und der Mediendidaktik, die bislang noch wenig Eingang in die Informatik, die Rechtswissenschaft oder die Bil­ dungswissenschaften gefunden haben, dort aber hinge­ hören. Es bedarf noch viel Forschung und Entwicklung, die nicht nur, aber auch an den Hochschulen und For­ schungseinrichtungen wie dem bidt zu leisten sind. Inter­ disziplinär, praxisorientiert, im Dialog mit den Menschen, als Bürgerinnen und Bürger, Nutzerinnen und Nutzer, Ver­ braucherinnen und Verbraucher. Empathisch, gewisser­ maßen als Reinform von gemeinwohlorientierter Digita­ lisierung. Mit dem Bayerischen Digitalgesetz ist dem Bayerischen Staatsministerium für Digitales insofern ein großer Wurf gelungen. Digitalisierung nah am Menschen. er nimmt sie ernst und verhält sich bei einer optimalen Anwendung seiner selbstgesetzten Gestaltungsaufgabe gleichsam empathisch. Dabei weiß er, dass die digitale Transformation, der Übergang in eine voll digitalisierte Verwaltung, die Akzep­ tanz der Betroffenen voraussetzt. Das betrifft die Bürge­ rinnen und Bürger genauso wie die Menschen in den Unternehmen und die Beschäftigten in den Behörden. Sie sind es, die sich in den neuen digitalen Umgebungen zurechtfinden müssen. Denn der Mensch steht höher als Technik und Maschine. So selbstverständlich und leicht das klingt, so anspruchsvoll ist diese Aufgabe: Wie gestaltet man nutzer­ freundliche Anwendungen? An wem orientiert man die Verständlichkeit? Was kann man voraussetzen? Muss jeder technische Vorgang Schritt für Schritt erklärt werden oder geht es mehr um „Plug and Play“? Wie weit gelingt eine solche Reduktion von Komplexität? Wer überprüft, ob ein IT­System alle an dieses gestellten rechtlichen Anforderungen (einschließlich der Diskriminierungsfrei­ heit) erfüllt? Ist dies überhaupt möglich in einer Blackbox von Anwendungen Künstlicher Intelligenz? 27

DOSSIER: DIALOGBEISPIELE Responsible Robotics Die Rolle von Robotik im Gesundheitswesen Transformation. Drei Tage war das Responsible­Robotics­ Projekt mit dem Zukunftsrat Demokratie, der Ludwig Boltzmann Gesellschaft und der Initiative European Public Sphere vor Ort. „Alle interessierten Besucherinnen und Besucher hatten im Rahmen sogenannter World Cafés die Gelegenheit, selbst Themen zu setzen und darüber zu diskutieren. Ein bereichernder Austausch“, so Braun. Die Themen reichten von Technologieregulierung bis zur Frage, welche Berufe durch KI­Technologien gefährdet seien. Laut Braun sollte Forschung zu gesamtgesell­ schaftlichen Themen wie neue Technologien möglichst vielfältige Perspektiven einbeziehen. Denn von der neuen Technologie könnten ja nicht nur medizinisches und pfle­ gerisches Personal betroffen sein, sondern beispielsweise ebenso Patientinnen und Patienten und deren Angehörige. Daher ist ein breiter Diskurs entscheidend, und vielleicht sehen sich eines Tages wirklich Mensch und Robotik vertrauensvoll in die Augen. „Schau mir in die Augen“, lautet ein berühmtes Zitat von Humphrey Bogart aus dem Film Casablanca. Welche Reaktion aber würde es hervorrufen, wenn ein KI­Roboter diese Worte ausspräche? Irritation, Misstrauen oder doch Vertrauen? Das Szenario ist zwar noch Zukunfts­ musik, aber bereits heute wird an KI­Technologien in Form von Robotern geforscht. Ein Beispiel ist der Pflege­ roboter GARMI, Forschungsobjekt des vom bidt ge­ förderten Projekts „Responsible Robotics“. Das interdis­ ziplinär besetzte Projektteam untersucht die sozialen, ethischen und rechtlichen Dimensionen von KI­basierten Technologien im Gesundheitswesen. „Wir fokussieren uns auf die Mensch­Maschine­Interaktion – neben GARMI untersuchen wir zudem die haptische Telemedizin als eine Form der kontaktlosen medizinischen Versorgung“, erklärt Maximilian Braun, wissenschaftlicher Mitarbeiter am Lehrstuhl für Science and Technology Policy an der Technischen Universität München. Die zentrale Frage lautet: Wie können neue KI­Technologien in der Praxis des Gesundheitswesens verantwortungsvoll implemen­ tiert werden? Um dieser Frage nachzugehen, steht das Projekt­ team im Austausch mit Auszubildenden, Studierenden und Lehrkräften verschiedener Bildungseinrichtungen für Pflege. Auf Basis dieser Gespräche wird unter­ sucht, wie die neuen KI­Technologien und bestehende Arbeits­ und Lebenskonzepte zusammenpassen. Welche Hoffnungen und Bedenken gibt es? Wo bedarf es eines engeren Austauschs zwischen Entwicklungsarbeit und Pflegepraxis? In Zusammenarbeit mit dem Deutschen Museum werden zudem konkrete Lehrmodule für die Arbeit mit einem Pflegeroboter für Pflegekräfte entwickelt. Der Experimentierfaktor und das Ausprobieren neuer Dialogformate sind für die Forscherinnen und Forscher für ihre Arbeit wichtig. 2021 war das Projekt Teil des Kunstfestivals Ars Electronica im österreichischen Linz. Ein spannendes Terrain für den Dialog zur digitalen 29

DOSSIER: DIALOGBEISPIELE und seinem Team am Munich Institute of Robotics and Machine Intelligence der TUM entwickelt wird und in der Pflege eingesetzt werden soll. Gemeinsam mit Professorin Alena Buyx und ihrem Team am Institut für Geschichte und Ethik der Medizin der TUM erforschen wir, wie die Bedürfnisse unterschiedlicher Gruppen von Nutzer*in­ nen – von älteren Menschen bis hin zum Pflegepersonal – in die Entwicklung des Roboters einfließen können. Unser Ziel ist, konkrete Tools, Standards und Empfehlungen für eine verantwortungsvolle Entwicklung und Integration von KI­Technologien in die Arbeitspraxis und Ausbildung im Gesundheitswesen zu entwickeln. Welche Rolle kommt hier dem Dialog zu? Im Sinne von Co­Creation eine ganz entscheidende Rolle. Forschung sollte nicht in der eigenen „Bubble“ verbleiben. Als Co­Creation werden Forschungs­ und Entwicklungs­ prozesse bezeichnet, die von Forscher*innen ge meinsam mit Bürger*innen und anderen Stakeholdern unternom­ men werden. Das Ziel ist, Technologien zu entwickeln, die auf die Bedürfnisse der Gesellschaft abgestimmt sind. Dabei ist es natürlich sehr wichtig, unterschiedliche Perspektiven aus der Gesellschaft zu berücksichtigen. Und gerade für jene, die schon gesellschaftlich benach­ teiligt sind, gibt es oft signifikante Hürden, an solchen Prozessen teilzunehmen. Hier braucht es Konzepte, um diese Gruppen zu erreichen und in Innovationsprozesse einzubinden. In diesem Sinn hat meine Forschungsgruppe, gemeinsam mit dem Team von Professorin Iris Eisen­ berger an der Universität Wien, aufbauend auf dem EU­ Projekt SCALINGS, jüngst eine Roadmap for Socially Inclusive and Responsible Co-Creation in Europa ent­ wickelt. Die Roadmap soll Forscher*innen Werkzeuge an die Hand zu geben, um Co­Creation inklusiver zu ge­ stalten. Wenn nur die Perspektiven jener berücksichtigt werden, die schon privilegiert sind, kann Co­Creation auch schnell ein Tool dafür werden, bestehende Ungleich­ heiten zu amplifizieren und zu legitimieren. Führt eigentlich mehr Wissen über KI auto- matisch zu einer positiveren Einstellung? Mehr Wissen über eine KI­Technologie im Sinne von „Wie funktioniert etwas?“ führt nicht automatisch zu einer hohen Akzeptanz. Soziale Aspekte, ökonomische Verhält­ 31 nisse und politische Kontexte spielen hier auch eine große Rolle. Welche Folgen hat der Einsatz einer bestimmten Technologie? Wer profitiert davon – einzelne Wirtschafts­ vertreter oder möglichst viele Nutzer*innen im Sinne ei­ ner bedarfsgerechten Entwicklung? Auch hier spielt das Thema gesellschaftliche Gerechtigkeit eine wichtige Rolle und müsste stärker diskutiert und integriert werden. Ruth Müller ist Professorin für Wissenschafts­ und Technologiepolitik am Department of Science, Technology and Society der School of Social Sciences and Technology der Technischen Universität München. Sie ist gemeinsam mit Professor Sami Haddadin und Professorin Alena Buyx Leiterin des vom bidt geförderten Projekts „Responsible Robotics“. Beim diesjährigen For..Net Symposium sprach sie mit Professor Dirk Heckmann über die ethischen und sozialen Aspekte von KI­basierten Trans formationen in den Arbeits­ und Wissens umgebungen des Gesundheitswesens. Mehr dazu www.bidt.digital/forschungsprojekt­ responsible­robotics Kontakt ruth.mueller@tum.de Hinweis In diesem Interview wird der Genderstern für die Bezeich nung unter schiedlicher Ge schlechteridentitäten verwendet.

DOSSIER: DIALOGBEISPIELE Das chinesische Sozialkreditsystem „Das chinesische Sozialkreditsystem und dessen Aus­ wirkung auf Unternehmen in Bayern, aber auch in allen anderen Bundesländern besser zu verstehen – das ist ei­ nes unserer zentralen Anliegen“, erläutert Dr. Omar Ramon Serrano Oswald, wissenschaftlicher Mitarbeiter und Pro­ jektleiter am Lehrstuhl für European and Global Governan­ ce an der Technischen Universität München. Der Politik­ wissenschaftler forscht gemeinsam mit seinen Kolleginnen und Kollegen im vom bidt geförderten Konsortialprojekt „Vom ‚Vorreiter‘ lernen? Eine multidisziplinäre Analyse des chinesischen Sozialkreditsystems und seiner Aus­ wirkungen auf Deutschland“. Das Projekt untersucht aus interdisziplinärer Perspektive, auf welcher Datengrund­ lage das chinesische Sozialkreditsystem (SKS) aufgebaut wird und wie es sich weiterentwickelt. Werden auch deutsche Firmen erfasst? Was unterscheidet Chinas Sozialkreditsystem von Institutionen wie der Schufa? Und könnte der Ansatz für andere Schwellenländer attraktiv sein und sich international verbreiten? „Wir sehen in unserem Projekt, dass in Deutsch­ land ein hoher Bedarf seitens Wirtschaft, Politik, aber auch der Öffentlichkeit besteht, besser zu verstehen, wie genau das SKS funktioniert. Wir wollen daher erst mal Transparenz schaffen“, so Serrano. Ein Hauptgrund für die chinesische Regierung, das SKS einzuführen, ist die bessere Implementierung von bereits existierenden Regulierungen – diese wurden über eine längere Zeit auf­ grund von regulatorischen Schwächen nicht umgesetzt. Zu den wichtigsten Kategorisierungsmechanismen des SKS gehören mittlerweile Einträge in Register und Listen, mit denen das Verhalten von Unternehmen und Einzel­ personen belohnt oder bestraft wird. Die Informationen sind zwar öffentlich zugänglich und auf den Websites der chinesischen Regierung einsehbar, aber sie sind ver­ streut und natürlich auf Chinesisch. Diese SKS­Einträge hat sich das Forschungsteam für 170 in China tätige bayerische Unternehmen genauer angesehen – zum ersten Mal wurde das SKS in die­ sem Umfang für deutsche Unternehmen untersucht. „Wir haben ermittelt, wie große, mittlere, kleine und kleinste Unternehmen im SKS klassifiziert und bewertet werden. Zusätzlich zur Datenauswertung haben wir teilstruk­ turierte Tiefeninterviews mit Unternehmensvertreterin­ nen und ­vertretern zu ihren Erfahrungen mit dem SKS geführt. Das hat uns neue Perspektiven ermöglicht und uns in unserem Vorhaben bestärkt“, so Serrano weiter. Denn mangelnde Transparenz und eingeschränkte Hand­ lungsmöglichkeiten sind zentrale Kritikpunkte, die hier genannt wurden. „Größere Unternehmen verfügen tendenziell über tiefer gehende Kenntnisse des SKS, indem sie meistens mit Beratungsunternehmen zusammenarbeiten oder spezialisierte Fachkräfte beschäftigen. Kleinere oder mittlere Unternehmen verfügen oftmals nicht über diese Ressourcen. Hier möchten wir seitens Forschung ein Stück weit Licht in die Blackbox bringen und Wirkungs­ mechanismen aufzeigen“, sagt Serrano. Die Forscherin­ nen und Forscher verstehen sich hier als Dialog­ und Sparringspartner. Neben Informationsveranstaltungen wie beispielsweise in Kooperation mit der vbw – Vereini­ gung der Bayerischen Wirtschaft e. V. führen sie Work­ shops mit Unternehmen durch. Serrano zieht eine erste Bilanz: „Die Reaktionen sind sehr positiv, weil wir hier mit unserer Forschung eine Wissenslücke schließen und Handlungsoptionen geben. In einem nächsten Projekt­ schritt werden wir uns genauer ansehen, ob das Verhalten von chinesischen Unternehmen in Deutschland Eingang in das SKS ihres Heimatlandes findet.“ Mehr dazu www.bidt.digital/forschungsprojekt­ sozialkreditsystem 33

BIDT KONFERENZ EUROPÄISCH „Die Projekte des bidt sind interdisziplinär angelegt. Aber es geht nicht nur um die Vernetzung unterschiedlicher Disziplinen, sondern auch im Sinne eines europäischen Leitgedankens um die Vernet­ zung von Wissenschaftlerinnen und Wissenschaftlern über Ländergrenzen hinaus. Wir säen so einen Samen für die digitale Zukunft.“ Prof. Alexander Pretschner Informatiker, Vorsitzender des bidt­Direktoriums 35

BIDT KONFERENZ SOUVERÄNITÄT „Technologische Souveränität ist eine Notwendigkeit, kein reiner Selbstwert. Dafür braucht es viel Tatkraft, um das mit voller Energie umzusetzen. Klare Ziele müssen her. Zudem geht es nicht nur um Datenschutz, sondern um infor­ mationelle Selbstbestimmung. Daten werden zwar gebraucht, und zwar viele davon – aber der Umgang muss mit der nötigen Selbstbestimmung einhergehen.“ Prof. Julian Nida-Rümelin Philosoph und Mitglied im bidt­Direktorium 37

BIDT KONFERENZ DIALOG „Der gemeinsame Dialog ist wichtig, um die digitale Transformation zum Erfolg zu machen. Das bidt hat es geschafft, mit der Konferenz einen Raum für eine produktive Diskussion zu schaffen. Es geht vor allem darum: Wie gewinnen wir die Menschen? Die Konferenz hat dazu wert­ volle Impulse gegeben.“ Prof. Andreas Boes Soziologe und Mitglied im bidt­Direktorium Prof. Dirk Heckmann — @elawprof Auch für mich: DAS Veranstaltungs­ highlight 2021. Fantastisch organisiert (danke stellvertretend für das Team @mhornsteiner und @L_Woell), hoch­ karätig besetzt und superspannend in den Themen. Ich bin sehr glücklich, im @BIDT_Muenchen mitwirken zu dürfen! #bidtKonferenz2021 Prof. Dirk Heckmann ist Professor für Recht und Sicherheit der Digitalisierung an der Technischen Universität München. 39 bidt Konferenz – zum Nachschauen und Nachlesen Weitere Informationen über die bidt Konferenz 2021 – da­ runter die Aufzeichnung und eine Social Wall – sind unter www.bidt.digital/rueckblick­ bidt­konferenz abrufbar. Einen Überblick über die ein­ zelnen Beiträge der Referen­ tinnen und Referenten gibt der Liveblog zur Veranstaltung.

PERSPEKTIVEN einträchtigung der partizipativen Kultur im Internet dar. Insbesondere wurde eine Zensur durch den Einsatz von Uploadfiltern befürchtet. Im Zusammenhang damit steht auch die Angst vor einem Overblocking. Dies hat schon während des Gesetzgebungsverfahrens auf europäi­ scher Ebene zu den meisten Bedenken und zur Einbezie­ hung verschiedener Absicherungsmechanismen geführt. Die Bundesregierung versprach zwar, bei der Umset­ zung der Richtlinie auf den Einsatz von Uploadfiltern zu verzichten – so war es auch im Koalitionsvertrag der großen Koalition festgelegt. Dieses Versprechen konnte sie jedoch nicht halten, denn auch das UrhDaG verhin­ dert den Einsatz von Uploadfiltern nicht. Es wurden jedoch verfahrenstechnische Lösungen etabliert, die die Auswirkungen der Uploadfilter abschwächen sollen. So sollen Nutzungen, die bestimmte Bagatellgrenzen nicht überschreiten (z. B. 15 Sekunden eines Songs), nicht auto­ matisiert blockiert werden, oder die Uploader sollen die Möglichkeit erhalten, auch im Falle des „Anschlagen“ eines Uploadfilters ihre Inhalte als zulässige Nutzung zu kennzeichnen, z. B. weil ein Zitat vorliegt. Die Auswirkungen der neuen urheberrechtlichen Regulierung Während die DSM­RL in der Öffentlichkeit diskutiert wurde und zu großen Demonstrationen europaweit ge­ führt hat, blieb ihre Umsetzung in deutsches Recht vergleichsweise unbeachtet. Auch nach dem Inkrafttreten des UrhDaG haben die Auswirkungen der Uploadfilter trotz aller Befürchtungen noch nicht zu neuen Diskussio­ nen oder Protesten geführt. Aus Sicht der am Gesetz­ gebungsprozess beteiligten Politikerinnen und Politiker könnte das Ausbleiben eines „Aufschreis“ bedeuten, dass es ihnen mit dem Urheberrechts­Diensteanbieter­ Gesetz (UrhDaG) gelungen ist, die Interessen der betei­ ligten Akteure in einen fairen Ausgleich zu bringen und gleichzeitig Maßgaben zu etablieren, die ein Overblocking verhindern. Um die Auswirkungen des UrhDaG zu evaluieren, wurde am bidt ein Workshop mit verschiedenen Stake­ holdern durchgeführt. Vertreterinnen und Vertreter der Plattformen sowie Rechtsinhaber und Uploader sind in einen direkten Austausch getreten und haben ihre Po­ sitionen geäußert. Aus der Sicht der Uploader scheint sich jedoch in den letzten Monaten seit dem Inkrafttreten des UrhDaG nicht viel geändert zu haben. Dies könnte daran liegen, dass das Gesetz in erster Linie eine lizenz­ rechtliche Lösung propagiert, um den Einsatz von Filter­ maßnahmen zu vermeiden. Die Diensteanbieter sollen Lizenzen für Werke abschließen, die auf ihren Plattfor­ men in mehr als geringfügigen Mengen wiedergegeben werden. Werden solche Lizenzen (die angeboten werden oder leicht verfügbar sind) nicht abgeschlossen, haftet der Diensteanbieter selbst beim Einsatz von Uploadfil­ tern für die Inhalte der Uploader. Darüber hinaus scheint die Wirkung der Maßnahmen zur Beschränkung von Overblocking eher gering zu sein. Dies bestätigt sich unter anderem durch die Einschätzung von Vertreterinnen und Vertretern der Rechtsinhaber, die meinen, dass YouTubes Copyright Management System Content ID immer noch die entscheidende Instanz für den Umgang mit Urheberrechtsverletzungen ist. Content ID existiert seit 2007 als YouTubes wichtigstes Werkzeug zur Ver­ hinderung von Urheberrechtsverletzungen. Rechtsin­ haber können mithilfe von Content ID bewirken, dass YouTube nach ihren Werken sucht, und wenn die Ver­ wendung ihrer Werke entdeckt wird, können sie entweder die Sperrung des Videos verlangen, die Zuschauerzahlen beobachten oder eine Umsatzbeteiligung an der im Rahmen des Videos geschalteten Werbung erhalten (Google 2016, 26 f.). Die Filterung von Inhalten ist folglich kein neues Phänomen, das erst durch die Urheberrechtsreform rele­ vant wurde, sondern war auch schon zuvor Realität. YouTube setzt mit Content ID schon seit über einem Jahr­ zehnt einen Uploadfilter ein (vgl. stellvertretend Hastedt 2021, 699). Dennoch wurden die Auswirkungen von privaten Filtermechanismen weder im Gesetzgebungs­ verfahren noch in der öffentlichen Diskussion großflächig thematisiert. Auch wenn aus Sicht der Plattformvertreterinnen und ­vertreter streng zwischen den staatlichen Regulie­ rungsmaßnahmen und privaten Initiativen wie Content ID differenziert werden sollte, scheint eben jenen die zentrale Rolle in der Urheberrechtsdiskussion zuzukom­ men. Dabei ist ihr Ansatz zunächst einmal begrüßens­ wert: In über 90 Prozent der Urheberrechtskonflikte werden die Inhalte nicht blockiert, sondern nur die durch Werbung erzielten Einnahmen (die sogenannte Monetari­ sierung) vom Uploader zum Rechtsinhaber verschoben. Als milderes Mittel gegenüber einer Blockierung des 41

PERSPEKTIVEN politische Entscheidungen hinter geschlossenen Türen getroffenen werden, weswegen die demokratische Legi­ timität dieser Entscheidungen angezweifelt wird. In Anbetracht dieser Herausforderungen sollte der Gesetzgeber bei anstehenden plattformregulierenden Prozessen sowohl für mehr Transparenz hinsichtlich der politischen Entscheidungsfindung sorgen, als auch den Austausch zwischen den verschiedenen Stakeholdern verbessern. Der direkte Kontakt zu betroffenen ressour­ censchwachen Akteursgruppen könnte helfen, die ein­ zelnen Regulierungsmechanismen realitätsnäher zu ge­ stalten. Dieser Kontakt kann allerdings auch indirekt erfolgen, indem die Bewertung und Wahrnehmung der jeweiligen Akteursgruppen empirisch erfasst wird und wissenschaftliche Analysen in aktuellen Gesetzgebungs­ prozessen stärker integriert werden. Außerdem muss sich der Fokus der Regulierung mehr in Richtung der bereits tatsächlich angewandten Geschäftsmodelle auf den Plattformen verschieben. An­ statt normativ gewünschte Regulierungsziele festzulegen und diese den Plattformen „aufzuzwingen“, muss man sich stärker darauf konzentrieren, die bereits etablierten privaten Entscheidungssysteme einzuhegen und auszu­ gestalten. Dies verhindert eine realitätsfremde Regu­ lierung und reduziert gleichzeitig die Möglichkeiten der Plattformen, die gesetzlichen Maßnahmen zu umgehen. Dies wird auch von entscheidender Bedeutung für den Erfolg des Digital Services Act (DSA) sein. Hier wird diesen Geschäftsmodellen bereits mehr Aufmerksam­ keit geschenkt. So soll das in Art. 17 des DSA geregelte Beschwerdeverfahren nach den Kompromissvorschlägen des EU­Parlaments nicht nur, wie ursprünglich geplant, die Blockierung von Inhalten erfassen. Es sollen gerade auch Maßnahmen, die die Sichtbarkeit von Beiträgen einschränken oder die Verschiebung von Werbeeinnah­ men betreffen, umfasst sein, um den Rechtsschutz der Nutzerinnen und Nutzer zu erhöhen. Literaturverzeichnis Google (2016). How Google fights Piracy. Hastedt, A. (2021). Neue Herausforderungen für das Recht durch „Impossibility Structures“. In: MMR, 696–700. Holznagel, D. (2018). Overblocking durch User Generated Content (UGC). In: CR, 269–378. Kaesling, K. (2019). Die EU­Urheberrechtnovelle – der Untergang des Internets? In: JZ 74 (12), 586–591. 43 Das Projekt Videoplattformen bieten viele Chancen für öffentliche Diskurse und innovative Geschäftsmodelle. Gleichzeitig ergeben sich erhebliche Risiken – etwa durch die Ausgrenzung bestimmter Gruppen oder die Verbreitung von Falschinformationen. Hinzu kommt die Marktmacht der global agierenden Plattformbetreiber. Hier setzt das Forschungsprojekt „Herausforderungen der Regulierung digitaler Kommunikations­ plattformen“ an. Welche gesellschaftlichen Erfordernisse gibt es an Regulierungen von Videoplattformen? Ziel ist es, evidenz­ basiert regulierungspolitische Optionen zu entwickeln. Das interdisziplinäre Projekt führt dabei Perspektiven aus Kommunika­ tions­ und Rechtswissenschaft zusammen. Das Projekt wird geleitet von Professorin Hannah Schmid­Petri und Professor Dirk Heckmann. Mehr dazu Herausforderungen der Regulierung digitaler Kommunikationsplattformen www.bidt.digital/forschungsprojekt­ digitale­kommunikationsplattformen Kontakt Steliyana Doseva bidt, wissenschaftliche Referentin steliyana.doseva@bidt.digital Jan Schillmöller bidt, wissenschaftlicher Referent jan.schillmoeller@bidt.digital

INFOGRAFIK Im Vergleich: Kompetenzstufen im Bereich „Probleme lösen“ Niedrige Kompetenzstufe (0–29 Punkte) Je nach Kompetenzstufe unterscheiden sich die Berufstätigen teils deutlich von­ einander. So sind erwerbstätige Personen mit niedrigen digitalen Kompetenzen im Bereich Probleme lösen mehrheitlich weiblich und im Durchschnitt 53 Jahre alt. 37 % haben keinen oder einen Haupt­/Volksschulabschluss. 51 % fühlen sich im Umgang mit digitalen Geräten oder dem Internet oft oder sehr oft überfordert. 26 % sehen in ihrem Beruf ein Potenzial für die Nutzung von Homeoffice. 30 % fürchten, dass mindestens Teile ihrer Tätigkeiten im Beruf innerhalb der nächsten zehn Jahre im Zuge der Digitalisierung überflüssig werden. Fortgeschrittene Kompetenzstufe (81–100 Punkte) Dagegen sind Berufstätige mit fortgeschrittenen digitalen Kompetenzen im Bereich Probleme lösen überwiegend männlich und im Durchschnitt rund 16 Jahre jünger als Berufstätige mit niedrigen digitalen Kompetenzen. 65 % besitzen mindestens einen Fachhochschulabschluss. Sie verfügen zudem im Mittel über ein höheres Haushalts­ nettoeinkommen als Berufstätige mit einem niedrigen Kompetenzniveau und fühlen sich so gut wie nie im Umgang mit digitalen Geräten oder dem Internet überfordert. 84 % sehen in ihrem Beruf ein Potenzial für die Nutzung von Homeoffice. 51 Punkte 63 Punkte 60 Punkte Erzeugen von digitalen Inhalten 16 % 26 % 48 % 10 % Sicherheit und Schutz 3 % 12 % 68 % 16 % Probleme lösen 8 % 20 % 54 % 19 % Mehr dazu Das bidt­SZ­Digitalbarometer bietet zudem mit einem Vergleichstest jeder Person die Möglichkeit, sich selbst im Vergleich zu den repräsentativen Daten einzuschätzen. www.sz.de/digitalbarometer 45

Christoph Egle Dr. Christoph Egle sitzt an der Schnittstelle von Team, Direktorium und Gesellschaft. Als wissen­ schaftlicher Geschäfts ­ führer organisiert er die Forschung am bidt. Technikfolgenabschätzung am bidt Als Vater zweier Kinder macht sich Christoph Egle auch viele Gedanken um die Zukunft unserer Welt. Wie wird die digitale Transformation unsere Gesellschaft verän­ dern? In dieser Diskussion verortet er sich in einer optimistisch­realistischen Position. Horrorszenarien von Maschinen, die die Welt erobern, hält er für Unsinn. Zugleich sei es kein Selbstläufer, dass die Menschheit neue Technologien bloß für gute Zwecke einsetze. „Unser Vorteil ist, dass wir ein höheres Reflexionsniveau haben als frühere Gesellschaften“, so Christoph Egle. Im Unterschied zur industriellen Revolution gebe es heute eine Technikfolgenabschätzung. Institute wie das bidt antizipieren den Wandel, analysieren Veränderungen und geben Empfehlungen für politische und wirtschaft­ liche Gestaltungs­ und Regulierungsschritte. Ein Beispiel für die gelungene Antizipation des Wandels sei das bidt­ Projekt zur Messung von Meinungsmacht und Vielfalt im Internet. „Wie kann die Medienkonzentration im Zeitalter der Digitalisierung kontrolliert werden, um eine Pluralität der öffentlichen Meinung sicherzustellen?“, fasst Christoph 47 Egle die Forschungsfrage zusammen. Bislang sei die Medienregulierung noch in der Offlinewelt verhaftet. Die bidt­Forscher rund um Professor Carsten Reinemann entwickeln nun eine Metrik, um auch die Meinungs­ macht von z. B. Social­Media­Plattformen zu erfassen. Weil auch die Bayerische Landeszentrale für neue Medien am Projekt beteiligt ist, sei die Rückkoppelung an die Praxis garantiert. „Den Wandel zum Wohle der Menschen mitzugestalten, ist eine gesellschaftliche und politische Aufgabe, an der wir uns als bidt gerne beteiligen.“ Mehr dazu Impuls von Dr. Christoph Egle: „Digitalministerium: Welche Fehler gemacht und wie sie vermieden werden könnten“ www.bidt.digital/impuls­digitalministerium Kontakt christoph.egle@bidt.digital

FORSCHUNGSSTARK „Die Themen der vom bidt geförderten Projekte zeigen die Bandbreite der aktuellen Forschungs­ diskussionen auf. Digitalisierung durchdringt alle Lebensbereiche. Unsere Projekte und der damit verbundene Dialog leisten einen wertvollen Beitrag für Politik, Wirtschaft und Gesellschaft, die Aus­ wirkungen der digitalen Transformation besser zu verstehen und einzuordnen.“ Dr. Christoph Egle wissenschaftlicher Geschäftsführer des bidt PROJEKT 1 PROJEKT 2 „Transforming digitally“: Digitale Innovationen zur erfolgreichen Gestaltung des organisationalen Wandels Wie können digitale Innovationen in organisationalen Veränderungsprozessen eingesetzt werden, um bekannten Herausforderungen besser zu begegnen und die geringen Erfolgsraten von Veränderungs­ projekten zu steigern? Das Forschungskonsortium verknüpft Perspektiven aus Wirtschaftsinformatik, Soziologie und Management, um die Chancen und Risiken von digitalen Innovationen zur Gestaltung organisationalen Wandels von Unternehmen ganz­ heitlich zu erforschen. Beteiligte Hochschulen: Ludwig­Maximilians­Universität München und Friedrich­Alexander­Universität Erlangen­Nürnberg 49 Verantwortungslücken in Mensch- Maschine-Interaktionen: Die Ambivalenz von Vertrauen in KI Das Projekt untersucht die potenziellen Gefahren eines zu starken Vertrauens in Maschinen bei medizinischen Entscheidungen. Die Forschenden bewerten das an­ gemessene Maß an Vertrauen, damit Ärztinnen und Ärzte vom Einsatz KI­basierter Empfehlungssysteme bei der Interpretation medizinischer Bilder profitieren können. Sie erforschen, wie die KI­Systeme gestaltet werden sollten und welche Rolle diese für Verant­ wortlichkeit und Rechenschaft spielen. Beteiligte Hochschulen: Technische Hochschule Ingolstadt und Katholische Universität Eichstätt­Ingolstadt

FORSCHUNGSSTARK PROJEKT 5 Der Einsatz digitaler Kollaborations- plattformen zur Steigerung intra- organisationalen Wissensaustauschs Digitale Kollaborationsplattformen bieten die tech­ nologische Grundlage für einen interdisziplinären, hierarchieübergreifenden Austausch von Individuen innerhalb von Organisationen – sie werden jedoch zu weiten Teilen unzureichend genutzt. Das Projektteam erforscht die Motivatoren und Inhibitoren in der in ­ dividuellen Nutzung. Es sollen Lösungsansätze aus Perspektive der Organisations­ und Management ­ forschung, der Sozialpsychologie sowie Forschung zur Mensch­Computer­Interaktion für einen optimierten Einsatz von Plattformen identifiziert werden. Beteiligte Hochschulen: Ludwig­Maximilians­Universität München, Universität der Bundeswehr München und Friedrich­Alexander­ Universität Erlangen­Nürnberg Ansprechpartner Dr. Christoph Egle bidt, wissenschaftlicher Geschäfts führer christoph.egle@bidt.digital Mehr dazu Eine ausführliche Beschreibung sowie eine Übersicht aller vom bidt geförderten Projekte finden Sie zudem unter: www.bidt.digital/projekte 51

FORSCHUNGSSTARK: PROJEKTFEATURE solcher Dynamiken entwickeln. Daher werden wir unsere Arbeit auf eine breite Palette von Forschungsmethoden stützen und drei Fallstudien in Deutschland, Indien und Brasilien erarbeiten, die uns zudem einen Ländervergleich ermöglichen.“ Denn Onlinehassrede mache natürlich nicht vor Ländergrenzen halt, und deshalb sei die Ent­ wicklung einer Toolbox als Hilfe zur Selbsthilfe über Ländergrenzen hinweg ein wichtiger Meilenstein der For­ schungsaktivitäten. Für die Entwicklung einer solchen Toolbox arbeitet das Projektteam mit betroffenen Politikerinnen, Fach­ expertinnen und ­experten, beispielsweise im Bereich Faktenprüfung, sowie mit Medienhäusern in Brasilien und Indien zusammen. „Die Wirkungsweisen von Feind­ lichkeit im Netz müssen in einem breiten Diskurs in der Öffentlichkeit transparent gemacht und Lösungsansätze hierfür entwickelt werden “, so Udupa. Um diesen Diskurs zwischen politischen Vertreterinnen und Vertretern zu stär­ ken, wird das Projektteam daher Policy Briefs und Regu­ lierungsansätze als Handlungsempfehlungen entwickeln, um Online­Frauenfeindlichkeit gezielter zu bekämpfen. 53 Das Projektteam Jürgen Pfeffer ist Professor für Computational Social Science and Big Data an der Technischen Universität München. Seine Forschung an der Schnittstelle von Sozial­ und Computerwissenschaften befasst sich mit der Analyse dynamischer sozialer, politischer und wirtschaftlicher Systeme sowie methodologischen, algorithmischen und theoretischen Herausforderungen, die durch diese Analysen entstehen. Sahana Udupa ist Professorin für Media Anthropology an der Ludwig­Maximilians­Universität München und Principal Investigator des For Digital Dignity Research Network. Die Kommunikationswissenschaftlerin und Ethnologin verfügt über breite Expertise in den Bereichen digitale Politik, globale digitale Medien und Extreme Speech, Fact­Checking und Journalismuskulturen. Udupa ist Joan Shorenstein Fellow an der Harvard University (2021/22). Janina Isabel Steinert ist Professorin für Global Health an der Technischen Universität München. Sie forscht in den Bereichen der globalen Gesundheit und Entwicklungsökonomie. Schwerpunkte sind hierbei Gewalt gegen Frauen, die Wechselwirkung zwischen Krankheit und Armut sowie ethische Herausforderungen in der Entwicklungsforschung. Mehr dazu Online­Feindlichkeit gegenüber politisch aktiven Frauen verstehen, erkennen und entschärfen www.bidt.digital/forschungsprojekt­ online­frauenfeindlichkeit

FRAGEBOGEN Fünf Fragen an Andrea Martin Technische Entwicklungen können tiefgreifende gesellschaftliche Auswirkungen haben. Wie denken Expertinnen und Experten über die Digitalisierung? Mit welchen Fragen und Herausforderungen setzen sie sich auseinander? Und wie gehen sie selbst mit den modernen Kommunikationsmitteln um? In der Rubrik Frage bogen bittet das bidt um Antworten. 4 Eine wesentliche Errungenschaft der Digitalisierung ist … … den Informationsschatz zu heben, der in den vielen Daten verborgen ist, die wir als Bürgerinnen und Bürger, Konsumen­ tinnen und Konsumenten und Unterneh­ men im Laufe der Jahre angesammelt haben – damit bessere Ent scheidungen getroffen und neue Erkenntnisse ge­ wonnen werden können. 5 Meine Vision einer digitalen Gesellschaft … … ist eine souveräne Gesellschaft, die sowohl im privaten als auch im profes­ sionellen Umfeld gute Entscheidungen über die Nutzung von digitalen Lösungen treffen kann. Es ist eine Gesellschaft, in der wir alle über die Disziplinen hinweg zusammenarbeiten und gemeinsam die besten Lösungen identifizieren. 1 Mit Digitalisierung beschäftige ich mich … … seit fast 30 Jahren, sprich: seit ich bei dem Technologieunternehmen IBM ar­ beite. Besonders wichtig ist mir dabei, welcher Nutzen durch Digitalisierung erreicht werden kann – ohne die Risiken aus den Augen zu verlieren. 2 Meine liebsten Apps … … Twitter – ich kann über die Timeline das Ohr am Puls der Zeit haben und Trends aufgreifen, wobei man echte von Fake News unterscheiden muss. Privat bleibe ich mit unterschiedlichen Mes­ senger­Apps mit Freunden und Familie in Kontakt. Und die E­Mail­App gehört zum täglichen Handwerkszeug. 3 Ein digitaler Helfer, der mir noch fehlt … … ist eine App, die automatisch Termine koordiniert und vereinbart. 55

Gestaltung made in – Design und Strategieberatung S. 18/20/22 Kilian Bless; S. 25 Jürgen Schabel; S. 25/27/29 Illustration Sjoerd van Leeuwen, Kilian Blees; S. 31 Ulli Benz/TUM; S. 32 bidt/Das KRAFTBILD; S. 35 unten & 36 oben bidt/storytile/ Andreas Kusy; S. 35 39 bidt/storytile/ Christoph Mittermüller, S. 39 unten, 43 & 47 Kilian Blees; S. 50 ISF; S. 51 Kilian Blees; S. 51 & 53 Illustration Sjoerd van Leeuwen; S. 54 IBM Corporation; S. 56 Gerne senden wir Ihnen die Printausgabe des Magazins kostenlos zu. Bitte schreiben Herausgeber bidt – Bayerisches Forschungsinstitut für Digitale Transformation Gabelsbergerstraße 4 80333 München www.bidt.digital www.madein.io Veröffentlichung Juni 2022 Das bidt ist ein Institut der Bayerischen Ausgabe Nr. 2 Akademie der Wissenschaften. ISSN: 2702-220X Konzept und Redaktion Margret Hornsteiner (verantwortlich) Nadine Hildebrandt (federführend) dialog@bidt.digital Bildnachweise Druck Hauke Bendt bauerprint gmbh, Aschaffenburg MitarbeiterInnen dieser Ausgabe Anja Reiter (Dossier: Interview und Cover Illustration Studio Sjoerd van Sie uns eine Mail an: dialog@bidt.digital Leeuwen; S. 3 Kilian Blees; S. 4 Kilian mit dem Betreff „bidt Magazin“. Blees, Illustration Sjoerd van Leeuwen; Feature; Menschen am bidt), Kilian S. 5 Kilian Blees (oben), IBM Corporation Nachdruck von Artikeln mit Genehmigung Blees (Fotografie), Sjoerd van Leeuwen (Mitte), Anja Reiter/privat, Kilian Blees der Redaktion (Illustration), Dr. Roland A. Stürz und (v.l.n.r.); S. 6 Weizenbaum-Institut e. V.; Think Thank-Team (Infografik), Prof. Dirk S. 7 & 8 bidt/Klaus D. Wolf; S. 9 bidt/ © 2022 bidt – Bayerisches Forschungs- Heckmann (Dossier Gastbeitrag), storytile/Christoph Mittermüller; institut für Digitale Transformation Jan Schillmöller und Steliyana Doseva S. 10 Sandra Meyndt, S. 11 Kilian Blees; (Perspektiven), Britta Mümmler (Lektorat), S. 12 Romy Vinogradova; S. 13 Kilian Blees; Christine Miller (Schlusslektorat) S. 16 Illustration Sjoerd van Leeuwen;