Räuber und Vielfraß?

Befinden wir uns nach der Industriellen Revolution des 19. Jahrhunderts und der Digitalen Revolution des 20. nun in der KI-Revolution des 21. Jahrhunderts? Was geschieht, wenn Musik, Literatur und Malerei von KIs generiert werden? Werden Kunst- und Musikschaffende ersetzbar, so wie schon Ende der 1920er-Jahre die Einführung des Tonfilms tausende arbeitslos machte? Berauben OpenAI und andere IT-Konzerne die Musikschaffenden ihres geistigen Eigentums? Befreit die kreative Auseinandersetzung mit KI aus ästhetischer Begrenztheit und Stagna­tion, indem sie Horizonte weitet, Ideen vernetzt, neue Lösungen anbietet? Wer treibt die Entwicklung der KI mit welchen Interessen voran? Wer profitiert ökonomisch vom aktuellen Hype? Werden die Leistungen von Mensch und Maschine zunehmend ununterscheidbar und dadurch entwertet? Oder steigt womöglich die Wertschätzung für das selbst Gedachte, Gesagte, Gemalte, Gespielte? Wann werden bestehende Bild-, Text- und Sounddateien nicht mehr nur neu arrangiert wie bei hunderten Präludien und Fugen in der Bach-Nachfolge oder der „Rekonstruktion“ von Beethovens 10. Sinfonie, sondern entsteht wirklich eine von menschlicher Intelligenz und Vorstellungskraft unabhängige künstliche Intelligenz, die diesen Namen verdient?

Viele Anwendungen von KI versprechen die Befreiung von einförmiger Arbeit durch größere Effizienz und Produktivität. Wie schon im Zeitalter der Aufklärung begrüßen manche diesen technischen Fortschritt als ein Instrument zur Emanzipation des Menschen von den Beschränkungen seiner eigenen Natur. Nach Stellungnahmen zu „Big Data und Gesundheit“ (2017) sowie „Robotik für gute Pflege“ (2019) veröffentlichte der Deutsche Ethikrat nach zweijähriger Beratung die Studie „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ (2023). Die rund 20 Mediziner, Juristen, Philosophen, Religionsvertreterinnen und Wissenschaftlerinnen geben auf vierhundert Seiten eine Einschätzung der positiven und negativen Folgen des Einsatzes von KI, Maschinenlernen, Mustererkennung und Trainingsdaten. In den Fokus nehmen sie die Felder Medizin, Bildung, öffentliche Kommunikation/Meinungsbildung, und Verwaltung. Neben Erweiterungen menschlicher Möglichkeiten skizzieren sie auch Gefahren totaler Kontrolle und Unfreiheit.

Freie Menschen und ­kaputte Maschinen

Den Menschen definiert der Ethikrat dadurch, dass er intentional, absichtsvoll und zweckgerichtet handelt, weshalb er sein Leben auch selbst verantwortet und dafür „Handlungsurheberschaft beziehungsweise Autorschaft“ beansprucht (S. 24). Maschinen sind dagegen weder eigenständig handlungsfähig noch verantwortlich. Ein Rasenmäher-Roboter, der seinen programmierten Arbeitsbereich verlässt, hat keinen eigenen freien Willen entwickelt, sondern ist schlicht kaputt. Der Ethikrat begrüßt daher den Einsatz von KI, sofern sie Möglichkeiten menschlicher Autorschaft erweitert, und zeigt zugleich Risiken auf, wo KI diese Autorschaft vermindert oder gar ablöst. Die Unterscheidung von Mensch und Technik wird allerdings immer schwieriger, weil Menschen in KI gestützten Systemen nicht nur als handelnde Subjekte auftreten, sondern auch zu behandelten Objekten werden. Bisher ist die Anwendung des Begriffs „Intelligenz“ auf Computer bloß metaphorisch, weil menschliche Intelligenz leiblich gebunden ist und neben Logik auch Kreativität, Urteilsvermögen, emotionale und soziale Intelligenz einschließt. Indem der KI Fähigkeiten wie Denken, Lernen, Entscheiden oder gar Empfinden zugeschrieben werden, wird sie vorschnell anthropomorphisiert. Der Ethikrat spezifiziert dagegen „enge KI“, die menschliche Fähigkeiten nur simuliert beziehungsweise effizient reproduziert, um bestimmte Aufgaben zu erfüllen, ferner „breite KI“, die das Spektrum der Anwendungen über einzelne Domänen hinaus erweitert, und schließlich „starke KI“, „die jenseits der möglicherweise perfekten Simulation menschlicher Kognition auch über mentale Zustände, Einsichtsfähigkeit und Emotionen verfügen würde“ (S. 19). Letzteres wäre die von Konzernchefs und Programmierern angestrebte „Singularität“, das heißt eine unabhängig vom Menschen sich eigengesetzlich entwickelnde Intelligenz.

Statistik statt Individuum

Zeitdruck, Arbeitskräftemangel und Bequemlichkeit sind schon jetzt Motive, um Arbeit und Kontrolle an KI-Systeme abzugeben, etwa in Verwaltung, Medizin, Justiz, Lehre, Logistik und Polizeifahndung. Dadurch verändern sich Wertungen und Verhaltensweisen. Nimmt eine KI eine medizinische Diagnose vor, tut sie dies nicht auf der Grundlage eingehender Untersuchungen individueller Erkrankungen bestimmter Menschen, sondern aufgrund von Vergleichsdaten nach statistischer Häufigkeit. „Classroom Analytics“ ermittelt auf der Grundlage von Audio- und Video-Vergleichsdaten die Aufmerksamkeit und emotionale Verfasstheit von Schulklassen. Wieder andere Programme errechnen Arbeitsmarktchancen von Personen oder Zuweisungen von Sozialleistungen. Schon jetzt zeigen Umfragen, dass Menschen algorithmisch erzeugten Ergebnissen mehr vertrauen als menschlichen (S. 32).

Das größte Problem sieht der Ethikrat in der Marktmacht weniger privater Konzerne in den USA und China, deren Plattformkapitalismus die öffentliche Kommunikation, Information und Meinungsbildung über Soziale Netzwerke prägt und durch Pro­filing, Microtargeting, Fake-News und automatisierte Bots manipuliert. Als Schreckensvision droht eine „Algokratie“ (S. 56), eine asoziale Herrschaft privatwirtschaftlich gesteuerter, profitorientierter Algorithmen über öffentlichen Diskurs und Gemeinwohl. Fatale Folgen für Privatleben und Gesellschaft hätten auch Hackerangriffe oder Stromausfälle, die an KI-Systeme delegierte Kompetenzen und systemrelevante Einrichtungen versagen lassen.

Armin Grunwald vom Institut für Technikfolgenabschätzung und Systemanalyse Karlsruhe skizzierte bei einem Vortrag in der Karl Rahner Akademie Köln Grundzüge der KI-Stellungnahme des Deutschen Ethikrats, dessen Mitglied er ist. Gegenüber der verbreiteten Ohnmacht angesichts von Digitalisierung und KI beharrte er darauf, dass Menschen im Gegensatz zu Maschinen zwischen Sein und Sollen unterscheiden und – weil sie „kontrafaktisch“ denken – auch bestehende Verhältnisse ändern und bessere Welten entwerfen können. Zugleich räumte er ein, dass gesetzliche Regulierungen dem technischen Fortschritt immer hinterher hinken, derweil OpenAI, ChatGPT und andere das online verfügbare geistige Eigentum zahlloser Autorinnen und Autoren plündern. Dieselbe Piraterie betreiben immer mehr handelsübliche KIs mit Texten, Fotos, Bildern, Filmen, Klängen, Musik. Was also ist der Mensch? Räuber und Beraubter? Vielfraß und Gefressener?