Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz. Stellungnahme

Zusammenfassung ................................................................................................................... 7 1 Einleitung ...................................................................................................................... 54 TEIL I: TECHNISCHE UND PHILOSOPHISCHE GRUNDLEGUNGEN 2 Zentrale Entwicklungen und technische Grundlagen Künstlicher Intelligenz ...... 60 2.1 Historischer Kontext ...................................................................................................... 60 2.2 Künstliche Intelligenz im 21. Jahrhundert: Big Data, Algorithmen und soziotechnische Ökosysteme ......................................................................................... 64 2.2.1 Digitale Durchdringung der menschlichen Lebenswelt ................................................. 64 2.2.2 Daten und digitale Infrastrukturen ................................................................................. 66 2.2.3 Algorithmen und Datenverarbeitung ............................................................................. 68 2.2.4 Einsatzbereiche algorithmischer Systeme und Künstlicher Intelligenz ......................... 74 2.2.5 Ethische Leitlinien und regulativer Rahmen für algorithmische Systeme und KI ........ 76 3 Zentrale Begriffe und philosophische Grundlagen................................................... 83 3.1 Künstliche Intelligenz: Begriffliche Analyse ................................................................ 83 3.2 Intelligenz und Vernunft ................................................................................................ 88 3.2.1 Intelligenz ...................................................................................................................... 88 3.2.2 Vernunft ......................................................................................................................... 93 3.3 Handlung und Verantwortung ....................................................................................... 97 3.3.1 Handlung ........................................................................................................................ 97 3.3.2 Verantwortung ............................................................................................................. 101 3.4 Anthropologische Aspekte des Mensch-Maschine-Verhältnisses ............................... 105 3.4.1 Philosophische Grundbestimmung des Menschseins .................................................. 105 3.4.2 Der Mensch als Maschine – die Maschine als Mensch? ............................................. 108 3.4.3 Verleiblichte Vernunft ................................................................................................. 114 3.5 Fazit ............................................................................................................................. 117 4 Mensch-Technik-Relationen ..................................................................................... 120 4.1 Einleitung ..................................................................................................................... 120 4.2 Technikdeterminismus versus Sozialkonstruktivismus ............................................... 121 4.3 Mehrstufige Mensch-Technik-Wechselwirkungen ...................................................... 125 4.4 Erweitern und Vermindern menschlicher Autonomie und Autorschaft ...................... 130 4.5 Fazit ............................................................................................................................. 134 +++ Vorabfassung! Wird durch die lektorierte Fassung ersetzt. +++ 5 TEIL II: AUSGEWÄHLTE ANWENDUNGEN UND SEKTORSPEZIFISCHE EMPFEHLUNGEN 5 Medizin ....................................................................................................................... 140 5.1 Einleitung ..................................................................................................................... 140 5.2 Einsatz von. KI-Systemen in der Medizin ................................................................... 141 5.2.1 Entwicklung von KI-Systemen .................................................................................... 142 5.2.2 KI in der medizinischen Forschung ............................................................................. 144 5.2.3 KI in der medizinischen Versorgung ........................................................................... 146 5.3 Fazit und Empfehlungen .............................................................................................. 159 6 Bildung ........................................................................................................................ 163 6.1 Einleitung ..................................................................................................................... 163 6.2 Zum Bildungsbegriff .................................................................................................... 164 6.3 Einsatzmöglichkeiten datenbasierter, KI-gestützter Lehr-Lern-Systeme .................... 167 6.4 Mensch-Maschine-Relationen in der schulischen Bildung: Ersetzen, Erweitern, Vermindern .................................................................................................................. 170 6.5 Grundsätzliche Diskussion: KI im schulischen Bildungsprozess ................................ 178 6.6 Fazit und Empfehlungen .............................................................................................. 182 7 Öffentliche Kommunikation und Meinungsbildung .............................................. 187 7.1 Einleitung ..................................................................................................................... 187 7.2 Das Internet als soziotechnisches System: Funktionsweise Sozialer Medien ............. 188 7.2.1 Neue soziotechnische Infrastrukturen .......................................................................... 188 7.2.2 Informationsauswahl und Kuratierung ........................................................................ 189 7.2.3 Moderation von Inhalten .............................................................................................. 192 7.2.4 Auswirkungen auf die Erweiterung und Verminderung menschlicher Handlungsfähigkeiten .................................................................................................. 195 7.3 Informationsqualität ..................................................................................................... 197 7.3.1 Falschnachrichten und Verschwörungstheorien .......................................................... 198 7.3.2 Filterblasen und Echokammern ................................................................................... 200 7.3.3 Moralische und emotionale Aufladung ........................................................................ 202 7.3.4 Relevanz der beobachteten Effekte .............................................................................. 203 7.4 Diskursqualität ............................................................................................................. 204 7.4.1 Politische Polarisierung ............................................................................................... 205 7.4.2 Politische Werbung und Manipulation ........................................................................ 208 7.4.3 Spannungsfeld Diskursverrohung und Äußerungsfreiheit ........................................... 212 +++ Vorabfassung! Wird durch die lektorierte Fassung ersetzt. +++ 6 7.4.4 Erweiternde und vermindernde Rückwirkungen auf den öffentlichen Vernunftgebrauch ........................................................................................................ 215 7.5 Fazit und Empfehlungen .............................................................................................. 216 8 Öffentliche Verwaltung ............................................................................................. 223 8.1 Einleitung ..................................................................................................................... 223 8.2. Ethische Fragen algorithmischer Automatisierung im Verwaltungshandeln .............. 224 8.3 Automatische Entscheidungssysteme am Beispiel des Sozialwesens ......................... 229 8.3.1 Erweiterung professioneller Handlungskompetenz ..................................................... 230 8.3.2 Verminderung von Entscheidungskompetenz, Handlungsoptionen und Autorschaft . 236 8.4 Predictive Policing – KI in der Kriminalitätsbekämpfung .......................................... 241 8.5 Fazit und Empfehlungen .............................................................................................. 247 TEIL III: QUERSCHNITTSTHEMEN UND ÜBERGREIFENDE EMPFEHLUNGEN 9 Zusammenfassung der bisherigen Analyse ............................................................. 253 9.1 Anthropologische und ethische Grundorientierung ..................................................... 253 9.2 Einsichten aus den Anwendungsfeldern ...................................................................... 256 10 Entfaltung von Querschnittsthemen und Empfehlungen ...................................... 261 10.1 Querschnittsthema 1: Erweiterung & Verminderung von Handlungsmöglichkeiten .. 261 10.2 Querschnittsthema 2: Wissenserzeugung durch KI und der Umgang mit KI-gestützten Voraussagen .......................................................................................... 263 10.3 Querschnittsthema 3: Die Gefährdung des Individuums durch statistische Stratifizierung .............................................................................................................. 265 10.4 Querschnittsthema 4: Auswirkungen von KI auf menschliche Kompetenzen und Fertigkeiten .................................................................................................................. 267 10.5 Querschnittsthema 5: Schutz von Privatsphäre und Autonomie versus Gefahren durch Überwachung und Chilling-Effekte ................................................................... 270 10.6 Querschnittsthema 6: Datensouveränität und gemeinwohlorientierte Datennutzung .. 272 10.7 Querschnittsthema 7: Kritische Infrastrukturen, Abhängigkeiten und Resilienz ........ 276 10.8 Querschnittsthema 8: Pfadabhängigkeiten, Zweitverwertung und Missbrauchgefahren ..................................................................................................... 279 10.9 Querschnittsthema 9: Bias und Diskriminierung ......................................................... 281 10.10 Querschnittsthema 10: Transparenz und Nachvollziehbarkeit – Kontrolle und Verantwortung ............................................................................................................. 284 10.11 Fazit ............................................................................................................................. 286