Der Deutsche Ethikrat hat eine Stellungnahme zu den die Auswirkungen digitaler Technologien auf das menschliche Selbstverständnis und Miteinander veröffentlicht. Darin spricht sich der Deutsche Ethikrat für die strikte Begrenzungen bei der Verwendung von Künstlicher Intelligenz u.a. in Medizin (Kap.5) und Bildung (Kap. 6) aus. KI dürfe den Menschen nicht ersetzen, der Einsatz von KI müsse menschliche Entfaltung erweitern, nicht vermindern. Softwaresysteme verfügten weder über Vernunft noch würden sie selbst handeln und könnten daher auch keine Verantwortung übernehmen, so Alena Buyx, Vorsitzende des Deutschen Ethikrates (Deutscher Ethikrat 2023).
Im aktuellen Infobrief 01/2023 sind die Empfehlungen separat abgedruckt. Die Empfehlungen für Bildung werden hier zur Verfügung und zur Diskussion gestellt, da sie direkte Auswirkungen auf das Unterrichten und den Einsatz (oder Nicht-Einsatz) solcher Technologien) begründen. Denn wie es auch im Unesco-Bericht „2023 Global Education Monitor“ heißt: Nur weil es Technologien gibt, muss man sie nicht im Unterricht verwenden: „Von Technologien, die für andere Zwecke entwickelt wurden, kann nicht unbedingt erwartet werden, dass sie für alle Bildungsbereiche geeignet sind.“
Empfehlungen des Deutschen Ethikrats zu Bildung
Stellungnahme „Mensch und Maschine“ – die Empfehlungen des Deutschen Ethikrates im Wortlaut (Auszug Bildung, ohne Fussnoten, S. 184-186):
Empfehlung Bildung 1:
Digitalisierung ist kein Selbstzweck. Der Einsatz sollte nicht von technologischen Visionen, sondern von grundlegenden Vorstellungen von Bildung, die auch die Bildung der Persönlichkeit umfassen, geleitet sein. Die vorgestellten Tools sollten deshalb im Bildungsprozess kontrolliert und als ein Element innerhalb der Beziehung zwischen Lehrenden und Lernenden eingesetzt werden.
Empfehlung Bildung 2:
Für jedes Einsatzgebiet gilt es, eine angemessene Abwägung von Chancen und Risiken vorzunehmen. Insbesondere sollten Autonomie und Privatheit von Lehrenden und Lernenden hohen Schutz erfahren. Besondere Chancen ergeben sich im Bereich der Inklusion und Teilhabe, wo das Potenzial dieser Systeme genutzt werden sollte, um etwa sprachliche oder räumliche Barrieren abzubauen.
Empfehlung Bildung 3:
Tools, die einzelne Elemente des Lehr- und Lernprozesses ersetzen bzw. ergänzen (enge Ersetzung) und nachweislich Fähigkeiten, Kompetenzen oder soziale Interaktion der Personen, die sie nutzen, erweitern, wie etwa einige intelligente Tutor-Systeme oder Telepräsenz-Roboter für externe Lehrbeteiligung, sind prinzipiell weniger problematisch als solche, die umfassendere bzw. weitere Teile des Bildungsprozesses ersetzen. Je höher der Ersetzungsgrad, desto strenger müssen Einsatzbereiche, Umgebungsfaktoren und Nutzenpotenziale evaluiert werden.
Empfehlung Bildung 4:
Es gilt standardisierte Zertifizierungssysteme zu entwickeln, die anhand transparenter Kriterien des Gelingens von Lernprozessen im genannten umfassenden Sinne Schulämter, Schulen und Lehrkräfte dabei unterstützen können, sich für oder gegen die Nutzung eines Produkts zu entscheiden. Hier kann sich auch der Empfehlung zur dauerhaften Einrichtung länderübergreifender Zentren für digitale Bildung, wie es im jüngsten Gutachten „Digitalisierung im Bildungssystem. Handlungsempfehlungen von der Kita bis zur Hochschule“ von der Ständigen Wissenschaftlichen Kommission der Kultusministerkonferenz angesprochen wurde254, angeschlossen werden.
Empfehlung Bildung 5:
Bei der Entwicklung, Erprobung und Zertifizierung entsprechender KI-Produkte bedarf es einer engen Zusammenarbeit mit den relevanten Behörden, mit den jeweils zuständigen pädagogischen Fachgesellschaften sowie der Partizipation von Beteiligten, um Schwachstellen der Produkte frühzeitig zu entdecken und hohe Qualitätsstandards zu etablieren. Bekannte Herausforderungen KI-getriebener Technologien wie beispielsweise Verzerrungen bzw. Bias oder Anthropomorphisierungstendenzen sollten bei der Entwicklung und Standardisierung berücksichtigt werden.
Empfehlung Bildung 6:
Um den verantwortlichen Einsatz von KI-Technologien im Bildungsprozess zu gewährleisten, muss die Nutzungskompetenz insbesondere der Lehrkräfte erhöht werden; es bedarf der Entwicklung und Etablierung entsprechender Module und Curricula in der Aus-, Fort- und Weiterbildung. Insbesondere die Gefahren eines verengten pädagogischen Ansatzes und eines Deskillings in der Lehre sollten dabei aktiv in den Blick genommen werden. Ebenso sollte die digitale Nutzungskompetenz von Lernenden sowie Eltern gestärkt und um KI-Aspekte erweitert werden.
Empfehlung Bildung 7:
Im Sinne der Beteiligungsgerechtigkeit sollten KI-basierte Tools Lernenden grundsätzlich auch für das Eigenstudium zur Verfügung stehen.
Empfehlung Bildung 8:
Die Einführung von KI-Tools im Bildungsbereich erfordert ferner den Ausbau verschiedener flankierender Forschungsbereiche. Sowohl theoretische Fundierung als auch empirische Evidenz zu Effekten, etwa auf die Kompetenzentwicklung (z. B.Problemlösen) oder zur Beeinflussung der Persönlichkeitsentwicklung bei Kindern und Heranwachsenden, müssen weiter ausgebaut werden. Dabei sollte nicht nur stärker in Forschung und entsprechende Produktentwicklung investiert, sondern vor allen Dingen auch die praktische Erprobung und Evaluation im schulischen Alltag verstärkt werden.
Empfehlung Bildung 9:
Des Weiteren stellt sich hier die Problematik der Datensouveränität. Zum einen sind bei der Sammlung, Verarbeitung und Weitergabe von bildungsbezogenen Daten strenge Anforderungen an den Schutz der Privatsphäre zu beachten. Zum anderen sollte die gemeinwohlorientierte, verantwortliche Sammlung und Nutzung von großen Daten, etwa in der prognostischen lehrunterstützenden Anwendung, ermöglicht werden.
Empfehlung Bildung 10:
Eine vollständige Ersetzung von Lehrkräften läuft dem hier skizzierten Verständnis von Bildung zuwider und ist auch nicht dadurch zu rechtfertigen, dass schon heute in bestimmten Bereichen ein akuter Personalmangel und eine schlechte (Aus-)Bildungssituation herrschen. In der komplexen Situation der schulischen Bildung bedarf es eines personalen Gegenübers, das mithilfe technischer Komponenten zwar immer stärker unterstützt werden kann, dadurch selbst als Verantwortungsträger für die pädagogische Begleitung und Evaluation des Bildungsprozesses aber nicht überflüssig wird.
Empfehlung Bildung 11:
In Anbetracht der erkenntnistheoretischen und ethischen Herausforderungen und unter Abwägung potenzieller Nutzen und Schäden stehen die Mitglieder des Deutschen Ethikrates dem Einsatz von Audio- und Videomonitoring im Klassenzimmer insgesamt skeptisch gegenüber. Insbesondere erscheint die Analyse von Aufmerksamkeit und Emotionen per Audio- und Videoüberwachung des Klassenraums mittels aktuell verfügbarer Technologien nicht vertretbar. Ein Teil des Ethikrates schließt den Einsatz von Technologien zur Aufmerksamkeits- und Affekterkennung zukünftig jedoch nicht vollständig aus, sofern sichergestellt ist, dass die erfassten Daten eine wissenschaftlich nachweisbare Verbesserung des Lernprozesses bieten und das hierfür notwendige Monitoring von Lernenden und Lehrkräften keine inakzeptablen Auswirkungen auf deren Privatsphäre und
Autonomie hat. Ein anderer Teil des Ethikrates hingegen hält die Auswirkungen auf Privatsphäre, Autonomie und Gerechtigkeit hingegen generell für nicht akzeptabel und befürwortet daher ein Verbot von Technologien zu Aufmerksamkeitsmonitoring und Affekterkennung in Schulen.
Deutscher Ethikrat (2023) Veröffentlichung der Stellungnahme ‚‚Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ mit PDF-Downloads der Empfehlung, Illustration, Statements und PM, 20. März 2023, (20.03.2023)
Die Stellungnahme in voller Länge (PDF): ethikrat.org/fileadmin/Publikationen/
Stellungnahmen/deutsch/stellungnahme-mensch-und-maschine.pdf
Informationen und Nachrichten aus dem Deutschen Ethikrat Infobrief 01/23, Nr. 32, August 2023
Die Website zum UNESCO Report:
https://www.unesco.org/gem-report/en/technology
Der Unesco-Bericht: : Technology in Education – Full Report / GEM Report 2023 / UNESCO (418 pages):
Die Zusammenfassung: Technology in Education – Summary – GEM Report – 2023 UNESCO (35 pages)