In eigener Sache

Warum Technikfolgeabschätzung für digitale Technologien das exakte Gegenteil vom Maschinenstürmerei oder Technikfeindschaft, sondern die Grundlage einer demokratischen und humanen Zukunft ist.

Fiktive Gegnerschaft als Ablenkungsmanöver

Wer den Dieselbetrug der deutschen Automobil-Industrie Betrug nennt, ist kein Gegner der Autofahrer oder des Autos, sondern Ankläger des Betrugs. Zugleich zeigt dieser jahrelange, vor allem systematische und technisch aufwendige Betrug zum Erzeugen falscher Abgaswerte auf Prüfständen, dass auch hochkomplexe Technik und Software nicht nur zur Verbesserung der Motorleistung oder Verringerung der Abgase genutzt werden kann. Die gleichen Mittel und Techniken lassen sich zum Austricksen der Prüfer zweckentfremden.

Doch nicht nur die Hersteller und Ingenieure waren Teil des Systems, sondern auch die Autofahrerinnen und Autofahrer – wenn man ehrlich ist. Immer größere und schwerere Autos mit immer noch mehr Leistung verbrauchen immer weniger? Bei jedem Tanken und mit Hilfe der Grundrechenarten im Zahlenraum unter 100 konnte man leicht ausrechnen, dass der von den Herstellern angegebene Spritverbrauch nie mit dem tatsächlichen Verbrauch im Straßenverkehr übereinstimmte. Noch einfacher ging es mit dem eingebauten Bordcomputer, der neben anderen Parametern auch den Durchschnittsverbrauch anzeigt.

Das Kapital der Daten-Ökonomie sind Nutzerdaten

Dieser Widerspruch zwischen Herstellerangaben und Realität gilt für viele Konsumgüter und Dienstleistungen, auch im Web. Die dort angebotenen, meist nützlichen, oft kostenlosen Dienste haben einen Haken: die Preisgabe persönlicher Daten. Daraus werden Konsum-, Persönlichkeits- und Verhaltensmuster generiert und an die Werbe-Industrie verkauft. Nutzerdaten sind die Grundlage der Geschäftsmodelle der „Big Five“ der IT (Google/Alphabet, Apple, Facebook, Amazon und Microsoft, kurz GAFAM). Es ist ein expandierender Markt. Nicht umsonst sind es die Unternehmen mit den höchsten Börsenwerten und den reichsten Männern der Welt an der Spitze. Doch auch Digitaltechniken haben eine Kehrseite, die „Dark Side of Digital Hype“.

“Was bleibt vom Menschen“ fragte Bundespräsident Dr. Frank-Walter Steinmeier auf dem 7. Deutschen Evangelischen Kirchentag am 20. Juni 2019 in Dortmund, „wenn neue Technologien immer tiefer in unsere Entscheidungen eingreifen, unser Denken lenken, unsere Wünsche formen? Und wie soll Gesellschaft funktionieren, wenn jede Faser von Individualität – längst nicht mehr nur jede Abweichung von der Norm – als Datenpunkt erfasst und in neuen Zusammenhängen verarbeitet wird – bei den einen vom Staat [China; rl], bei den anderen von privaten Datenriesen? [USA; rl]” Nicht um die Digitalisierung der Demokratie müssten wir uns jetzt zuallererst kümmern, mahnte Steinmeier, sondern um die Demokratisierung des Digitalen. Er konkretisierte:

“Die Rückgewinnung des politischen Raumes – gegen die Verrohung und Verkürzung der Sprache und der Debatten, aber auch gegen die ungeheure Machtkonzentration bei einer Handvoll von Datenriesen aus dem Silicon Valley –, ist die drängendste Aufgabe!” (Steinmeier, 2019)

Die Rückgewinnung des politischen Raumes bedeutet zugleich: Wir haben diesen Raum (zumindest teilweise) verloren. Wir sind bereits in der Defensive. Für die IT-Monopole der weltweiten Daten-Ökonomie dient der Mensch nur noch als Datenlieferant (Harari, 2017; Zuboff, 2018). Armin Grunwald, Professor für Technikphilosophie und Technikethik in Karlsruhe und Leiter des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag, präzisiert:

„Es geht hier [bei der KI als Schlüsseltechnologie der Daten-Ökonomie; rl] eben nicht einfach um Technik mit ihren Chancen und Risiken, ihren Innovationspotenzialen und Nebenfolgen. Vielmehr betrifft der Kern der Debatte uns selbst als Menschen, vor allem unser Menschenbild. (…) Wir müssen ernsthaft die Frage stellen: Wer sind die Macher der KI, wer verbreitet die Erzählungen und wer will hier eigentlich seine Werte und Interessen hinter einem vermeintlichen Technikdeterminismus verstecken?“ (Grunwald, 2019)

Systemlogik vs. Nutzerorientierung

Die sogenannte „Künstliche Intelligenz“ – die automatisierte Datenverarbeitung aus Mustererkennung, Statistik und Wahrscheinlichkeitsrechnung – ist die Grundlage für personalisierte Angebote. Dazu muss das IT-System identifizieren, wer vor dem Display oder am Touchscreen sitzt.

„Viele dieser interaktiven Systeme funktionieren nur, wenn sie den Nutzer kennen. Das bedeutet, dass Daten protokolliert werden: Was hat der Betreffende gestern gemacht? Welche Frage konnte er nicht beantworten? Wo müssen wir wieder ansetzen?“ (Meinel, 2020).

Ist man ein Luddit (Maschinenstürmer), wenn man diese unkontrollierte Sammlung personalisierter Daten als Basis von Geschäftsmodellen in Frage stellt? Oder warum ist man gleich „Gegner der Digital- oder Netzwerktechnik“, wenn man kritisch hinterfragt, ob es sinnvoll ist, bereits die Lernbiografien von Kindern und Jugendlichen zu verdaten und als Datenprofil zu hinterlegen, das …

„… idealerweise ab der Schulzeit alle relevanten Ausbildungsschritte registriert und den Status der Fortbildung nachvollzieht. Das Bildungscloud-Lernprofil würde so zum persönlichen Lebenslauf werden, der über die individuellen Fähigkeiten und Kenntnisse punktgenaue Auskunft erteilt und so die Bedeutung von weniger aussagekräftigen aggregierten Bewertungssystemen (z. B. Abiturnoten) abnimmt.“ (Meinel, 2017)

Informatiker wie Meinel vom Hasso-Plattner-Institut (HPI) argumentieren systemlogisch mit dem Ziel der Optimierung technischer Systeme wie der HPI-Schulcloud. Dafür ist die Zentralisierung möglichst vieler Daten in nur einer Datenbank optimal, Stichwort Netzwerkeffekt.

Informatiker mit anderen Prämissen, darunter der „Vater des Web“, Tim Berners-Lee, Erfinder von HTML (Hypertext Markup Language), Begründer des World Wide Web und Professor am Massachusetts Institute of Technology (MIT), warnen vor solchen technischen Mono-Kulturen. Sie sind vor allem besonders lohnende Ziele zum Hacken. Die Datenkumulation in wenigen Datensilos (Ganten, zit. n. Knop) maximiert den Schaden bei erfolgreichem Datendiebstahl. Berners-Lees Vorschlag, den er als Projekt namens SOLID am MIT bereits umsetzt, geht exakt in die andere Richtung: Datensparsamkeit und Dezentralisierung von Servern und Datenhaltung, Datenzugriff durch Unternehmen nur nach Zustimmung der Nutzer sowie die Pflicht, nicht mehr benötigte Daten zu löschen. Statt der Kommerzialisierung und Monopolisierung des Web durch wenige Anbieter soll das Netz wieder zu einem Werkzeug im Dienst und unter der Hoheit der Nutzer werden – wie es ursprünglich konzipiert war. Das ist eine Umkehrung der heutigen Praxis.

Ein unauflösbarer Widerspruch

Vertreter der Daten-Ökonomie (Harari nennt sie Dataisten) plädieren für zentralisierte, digitale Infrastrukturen und die Optimierung der technischen Systeme. Für Bildungseinrichtungen wäre das die möglichst automatisierte Beschulung und Testung, ab der Kita. Life Long Learning – mitsamt einem lebenslang mitgeführten Lernprotokoll. Das ist die Metrisierung von Schule und Unterricht (Mau, 2017) mit dem Ziel einer möglichst kleinteiligen Lernstandsmessung durch Learnig Analytics und die Verdatung von Lernbiographien(Hartong, 2018; 2019).

Vertreter des freien Web hingegen setzen auf die Autonomie und Verantwortung der Nutzer und deren Datenhoheit. Wer fremde Daten nutzen will, muss sagen, wofür sie eingesetzt werden und dafür zahlen, die Algorithmen müssen transparent sein (Gigerenzer et.al.), sobald Entscheidungen über Lebenswege von Menschen davon berührt werden. Die entscheidende Frage ist daher: Wer bestimmt darüber, wie und für was Digitaltechniken eingesetzt werden? Wer entscheidet, welche Daten erhoben werden dürfen und was damit gemacht werden darf? Unternehmen oder der demokratische Rechtsstaat? Die Antwort heute lautet daher notgedrungen: Um die digitale Infrastruktur und Dienste zu demokratisieren, müssen wir IT neu denken – bevor wir weiter mit IT arbeiten können.

Die gute Botschaft: Technisch funktioniert es. Wer statt der Optimierung technischer Systeme den Menschen als autonome Persönlichkeit und Rechtsperson im Blick hat, kappt als Erstes den Rückkanal für Daten. Statt Nutzerprofile in intransparenten Datensilos von IT-Monopolen zu sammeln, werden Daten allenfalls lokal gespeichert (Edge Computing) und nach Gebrauch gelöscht. Persönlichkeits- und Leistungsprofile werden weder erstellt noch vermarktet. Lokal wird mit offenen Betriebssystemen wie Linux und Open Source-Software im Intranet gearbeitet. Für die Kommunikation im Netz nutzt man verschlüsselte Messenger wie Signal oder Threema, die keine Meta-Daten aufzeichnen, für das Web Tor-Browser (The Onion Router). Dadurch werden Rechner und Software wieder zu Werkzeugen der privaten (!) Kommunikation und Unterhaltung oder auch mögliche Medien im Unterricht, allerdings ohne erzwungene Datenprostitution. Man muss „nur“ den Menschen in den Mittelpunkt stellen statt Daten und Geschäftsinteressen. Das aufzuzeigen ist keine Technikfeindlichkeit, sondern zukunftsweisend.

Der Text als PDF: In eigener Sache

Literatur und Quellen

  • Gigerenzer, Gerd; Rebitschek, Felix G.; Wagner, Gert G. (2018) Eine vermessene Gesellschaft braucht Transparenz, in: Wirtschaftsdienst 2018/12, S. 860-868; DOI: 10.1007/s10273-018-2378-4
  • Grunwald, Armin (2019) Künstliche Intelligenz: Gretchenfrage 4.0, in SZ vom 29.12.2019, S. 11, https://www.sueddeutsche.de/kultur/kuenstliche-intelligenz-gretchenfrage-4-0-1.4736017 (27.2.2020)
  • Harari, Yuval Noah (2017): Homo Deus. Eine kurze Geschichte von Morgen, 2017
  • Hartong, Sigrid (2018): „Wir brauchen Daten, noch mehr Daten, bessere Daten!“ Kritische Überlegungen zur Expansionsdynamik des Bildungsmonitorings; in Pädagogische Korrespondenz, Heft 58, S. 15-30
  • Hartong, Sigrid (2019) Learning Analytics und Big Data in der Bildung Zur notwendigen Entwicklung eines datenpolitischen Alternativprogramms Dokumentation zur Veranstaltung; hrsg. GEW Frankfurt
  • Knop, Carsten (2018) Wem gehört unser digitaler Zwilling? in: FAZ v. 19.2.2018, https://www.faz.net/aktuell/wirtschaft/software-weckruf-behaltet-die-kontrolle-ueber-euer-digitales-ich-15448079.html (12.04.2019)
  • Mau, Steffen (2017) Das metrische Wir. Über die Quantifizierung des Sozialen
  • Meinel, Christoph (2020) Im internationalen Vergleich sind wir nicht gut aufgestellt, didacta-Themendienst; https://bildungsklick.de/schule/detail/im-internationalen-vergleich-sind-wir-nicht-gut-aufgestellt (19.2.2020) Meinel ist Leiter des Hasso-Plattner-Institut Berlin, das die Schul-Cloud mitentwickelt.
  • Meinel, Christoph (2017) Eine Vision für die Zukunft digitaler Bildung, in: FAZ, April 2017; FAZ Plus: http://plus.faz.net/wirtschaft/2017-04-20/eine-vision-fuer-die-zukunft-digitaler-bildung/341612.html; kostenfrei im Hochschulforum Digitalisierung: https://hochschulforumdigitalisierung.de/de/blog/christoph-meinel-hpi-vision-zukunft-digitale-bildung (14.03.2020)
  • Münch, Richard (2018): Der bildungsindustrielle Komplex. Schule und Unterricht im Wettbewerbsstaat, Weinheim, Beltz-Juvena, 2018.
  • Steinmeier , Frank-Walter (2019): Rede von Bundespräsident Dr. Frank-Walter Steinmeier zur Eröffnung der Podiumsdiskussion “Zukunftsvertrauen in der digitalen Moderne” beim 37. Deutschen Evangelischen Kirchentag am 20. Juni 2019 in Dortmund; http://www.bundespraesident.de/SharedDocs/Reden/DE/Frank-Walter-Steinmeier/Reden/2019/06/190620-Kirchentag-Podiumdiskussion.html (14.3.2020)
  • SOLID https://solid.mit.edu/ (14.3.2020)
  • Zuboff, Shoshana (2018) Das Zeitalter des Überwachungskapitalismus, Campus
  • Zuboff, Shoshana (1988) In the Age of Smart Machines. The Future of Work and Power