Versuch einer antidisziplinären Antwort
„Am Ende gilt: Rechner rechnen, Menschen leben – mit ihren Handlungsmöglichkeiten und Träumen, aber auch mit ihren Verfehlungen und Grenzen“ Ulrich Hemel
Fast jeden Tag erreichen Meldungen über Fortschritte im Bereich der Künstlichen Intelligenz (KI) die breite Öffentlichkeit. KI komponiert die 10.Sinfonie von Beethoven, von KI erstellte Kunstwerke erreichen neue Höchstpreise, KI löst das Problem der Proteinfaltung, KI revolutioniert die Geldanlage und den Immobilienmarkt ... Gleichzeitig wächst die Erkenntnis, dass die Informations- und Arbeitsdichte im schnell wachsenden digitalen Raum Menschen an ihre Grenzen stoßen lässt. Je nach dem Grad der persönlichen Betroffenheit, der sozialen Stellung und des Bildungsweges fällt die Reaktion der Menschen auf diese Trends sehr unterschiedlich aus und umfasst sowohl Euphorie, Ratlosigkeit als auch Angst. Daher ist die von Ulrich Hemel gestellte Frage „Was unterscheidet Menschen von Künstlicher Intelligenz“ (Hemel, 2021) nicht nur von philosophischem Interesse, sondern von großer Relevanz für die Zivilgesellschaft. Schon jetzt treffen Menschen Berufsentscheidungen aufgrund möglicher weiterer Fortschritte der KI. In den USA herrscht ein Mangel an LKW Fahrern, da allgemein angenommen wird, dass autonomes Fahren diesen Beruf aussterben lassen wird. Übersetzer müssen sich fragen lassen, wie sie in Zukunft Geld verdienen wollen angesichts der Überlegenheit der Übersetzungsalgorithmen. Selbst Softwareentwicklern wird prophezeit, dass die goldenen Zeiten vorüber sind. In gleichem Maße stellt sich Unternehmen die Frage, wieweit der Grad der Automatisierung getrieben werden soll. Ist es sinnvoll Call Center Mitarbeiter durch Chatbots zu ersetzen? Was gewinnt und was verliert das Unternehmen, wenn Algorithem die Bewerberauswahl bestimmen?
Interessanterweise stehen im Rahmen dieses Diskurses oftmals die Unzulänglichkeiten und Grenzen des Menschen im Vordergrund, nicht jedoch jene der Digitalisierung und KI. Noch gravierender erscheint der oft fließende Übergang von Wissenschaft zu Marketing und Science Fiction. Vor allem aber wird deutlich, dass der Diskurs häufig auf die Grenzen der Fachbereiche und die dort herrschenden Paradigmen beschränkt bleibt. Angesichts der Komplexität dieser Aufgabe möchte ich den Versuch einer antidisziplinären Antwort wagen. Dirk Brockmann beschreibt die Komplexitätsforschung als dem Wesen nach antidisziplinär. Gleiches gilt aus meiner Sicht für die Forschung und das Nachdenken über Digitalisierung und Künstliche Intelligenz. Den nahezu 8 Milliarden menschlichen Akteuren stehen bereits über 2 Milliarden PCs, knapp 4 Milliarden Smartphones und 20 Milliarden connected IOT devices und ungezählte, mehr oder weniger intelligent agierende Softwareinstanzen gegenüber. Die sozialpsyschologische und technische Komplexität dieses Systems dürfte alles übertreffen was einzelne Wissenschaften bisher analysiert haben. Denn auch hier gilt – am Ende hängt alles mit allem zusammen.
Im ersten Gedankengang soll versucht werden die Fragestellung zu präzisieren. Als Naturwissenschaftler und Mathematiker ist man darin trainiert, erst einmal sicherzusztellen, dass das Problem wohldefiniert ist. Bevor man sich dem Unterschied zwischen Menschen und Künstlicher Intelligenz zuwendet, sollten zuerst folgende Fragen geklärt werden
- Was ist der Mensch?
- Was ist Künstliche Intelligenz?
Die Antwort auf (1) ist bekanntlich häufig versucht, und noch häufiger revidiert worden. Ursprünglich eine Domäne der Philosophie und Theologie (man könnte sagen, diese Frage ist deren Ausgangspunkt) haben heute Molekularbiologie, Medizin, Psychologie, Ökonomie, Rechtswissenschaft, Informatik, Chemie, Physik, Literatur ihre je eigenen Sichtweisen auf den Menschen. Juristische Person, Homo Oeconomicus, Produktionsfaktor, User, Agent, Beobachter, Komplexes System, Heldin, Patient sind alles Facetten der menschlichen Existenz, aber alleine unzureichend. Mir persönlich gefällt die vielleicht historisch erste Defintion durch Demokrit (460–370 v. Chr.) „Mensch ist, was wir alle kennen“. Womit ein erster Unterschied zur Künstlichen Intelligenz gefunden wäre, denn sicherlich kennen nicht alle Menschen KI.
Kant, der die berühmten vier Grundfragen der Philophie formulierte, konnte selbst keinen letzgültige Antwort liefern. Nach David Johann Lensing „liegt gerade darin das Wesen aller Grundfragen der Philosophie: Es geht nicht darum, sie final zu beantworten, sondern darum, sie immer wieder neu zu stellen, zu behandeln, zu durchdenken und vorläufig zu beantworten“
Wichtig ist festzuhalten, dass die Frage „Was ist der Mensch?“ von niemandem letztgültig beantwortet werden kann. Stanislaw Lem schreibt in seinem Zukunftsroman „Solaris“ : „Menschen suchen wir, niemanden sonst“. Ohne vorwegreifen zu wollen, scheint mir dies auch auf die Debatte um Künstliche Intelligenz zuzutreffen.
Die Antwort auf (2) ist erstaunlicherweise nicht weniger schwierig zu finden Wenn es etwas gibt, in dem sich alle KI Experten einig sind, dann dass der Begriff Künstliche Intelligenz unglücklich gewählt ist. Die erste Verwendung des Begriffs geht auf die Initiatoren der Dartmouth Konferenz im Sommer 1956 zurück, John McCarthy, Marvin Minsky, Claude Shannon, Nathaniel Rochester.
“We propose that a 2 month, 10 man study of artificial intelligence be carried out during the summer of 1956 at Dartmouth College in Hanover, New Hampshire. The study is to proceed on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it. An attempt will be made to find how to make machines use language, form abstractions and concepts, solve kinds of problems now reserved for humans, and improve themselves”
Damit ist bereits gesagt, was unter künstlich zu verstehen ist : die Simulation mit Hilfe einer Maschine. Seit der berühmten Arbeit von Alan Turing (Turing, 1936) ist weiterhin klar, dass diese Maschine wiederum durch eine Turing Machine, einen universellen Computer, simuliert werden kann. Die Definition von Intelligenz ist jedoch weitaus schwieriger. „Da einzelne kognitive Fähigkeiten unterschiedlich stark ausgeprägt sein können und keine Einigkeit besteht, wie diese zu bestimmen und zu unterscheiden sind, gibt es keine allgemeingültige Definition der Intelligenz“ (Wikipedia, 2021). Die Suche nach einer angemessenen Definition von Intelligenz hat sich dabei zu einem eigenen Forschungsprojekt entwickelt (Shane Legg, 2007). Eine für die KI Community akzeptable Variante wurde aus 70 (!) gebräuchlichen aber unterschiedlichen Definitionen von Intelligenz herausgearbeitet : „Intelligence measures an agent's ability to achieve goals in a wide range of environments“
Insgesamt zeigt sich damit, dass angesichts der einfachen Frage „Was unterscheidet Menschen von Künstlicher Intelligenz?“ die Sprache versagt. An diesem Diskurs nehmen Mathematiker, Informatiker, Physiker, Ökonomen, Unternehmer, Philosophen, Theologen, Soziologen, Politiker, Journalisten, Künstler und Bürger jeden Alters mit ihren je eigenen Bildern vom Menschen und Verständnis von Intelligenz teil. Daher kann es nicht verwundern, dass ohne gemeinsame Sprache häufig aneiander vorbei gesprochen wird und Missverständnisse entstehen. In Bezug auf Digitale Ethik sieht Ulrich Hemel ethische Sprachfähigkeit „als eine Kernkompetenz für die Zukunft, wenn wir in komplexen, digital organisierten Gesellschaften friedlich zusammenleben wollen“ (Hemel, Kritik der Digitalen Vernunft, 2020). Ethische Sprachfähigkeit lässt sich dabei verstehen als Fähigkeit zur Offenlegung von Voraussetzungen für ethische Urteile und als Fähigkeit und Bereitschaft zum Perspektivenwechsel bei der Abwägung ethischer Maßstäbe“ (Hemel, Kritik der Digitalen Vernunft, 2020). Ich denke es braucht gleichermaßen eine Digitale Sprachfähigkeit, die es allen Diskursteilnehmern ermöglicht ihre je eigenen Voraussetzungen für Urteile in der Mensch versus KI Debatte offenzulegen. Fähigkeit und Bereitschaft zum Perspektivenwechsel hilft nicht nur im Zusammenhang mit ethischen Konflikten beim Einsatz von KI. Sie sind Grundvoraussetzung für klares Denken und vernünftiges Handeln im digitalen Raum. Digitale Sprachfähigkeit sollte dabei nicht mit digital literacy gleichgesetzt werden, welche auf die technischen Fertigkeiten in der Anwendung digitaler Medien abhebt. Es ist nachgerade der Kern des zuvor beschriebenen Problems, dass Menschen effizient und schnell lernen mit der Digitaltechnik zu funktionieren, sich jedoch den Abläufen und Kontigenzen jenseits der Benutzeroberflächen nicht bewusst sind. Sowie ethische Sprachfähigkeit vor allem in (oft dilemmatischen) Konflikt- und Krisensituationen essentiell wird, so braucht es Digitale Sprachfähigkeit für die Beurteilung der Bedeutung, Möglichkeiten und Grenzen Künstlicher Intelligenz jenseits des Jargons der Technologieunternehmen.
Im zweiten Gedankengang soll der geforderte Perspektivenwechsel anhand mehrerer Anwendungsfälle dargestellt werden. Der Einsatz von KI ist für die Mitarbeitersuche in Unternehmen bereits relativ weit verbreitet. Vereinfacht geht es darum aus dem Pool aller Bewerbungen diejenigen auszuwählen, die optimal zu der ausgeschriebenen Position und dem Unternehmen passen. Traditionell wird diese Aufgabe durch Recruiter, Hiring Manager und Interviewpartner gelöst. Was unterscheidet diese Menschen von einem durch Data Scientists entwickelten KI (Sofware-) Agenten und welche Auswirkungen haben die Antworten auf das Selbstbild aller Beteiligten?
Aus der Perspektive der Data Scientists geht es vornehmlich um mathematische Statistik und die Frage, wie anhand historischer Datensätze der Fit eines bestimmten Bewerbers prognostiziert werden kann. Die Details wie das gemacht wird sollen hier keine Rolle spielen. Wichtig ist aber, dass hier keine Magie oder schwarze Schachteln im Spiel sind, sondern ausschliesslich Mathematik und Computercode. Wie in der Theoretischen Physik wird eine Problemstellung auf Mathematik reduziert und mit Hilfe leistungsfähiger Algorithmen und Computer gelöst. Der KI Agent lernt aus der Fülle des wachsenden Bestands an Bewerberdaten, kann Bewerbungen anhand des berechneten predictive score sortieren, die Top 10 zu einem Vorstellungsgespräch einladen, oder auch automatisch entscheiden. In dieser Perspektive werden folgende Unterschiede zwischen Menschen und KI deutlich. Künstliche Intelligenzen folgen Regeln, Menschen mitunter. Mit identischen Daten wird der KI Agent zu jedem Zeitpunkt identische Ergebnisse liefern. Der berechnete Fit ist eine Funktion der Eingangsdaten. Das Votum eines Hiring Managers kann allerdings variieren und ist unberechenbar. Daniel Kahnemann liefert hierzu in seim Buch Noise eine Reihe von Beispielen. So konnte man anhand der statistischen Analyse von Gerichtsurteilen feststellen, dass Urteile unter anderem von der Tageszeit abhängig sein können. „If judges are hungry, they are tougher“. Selbst den gleichen Fall können Menschen zu unterschiedlichen Zeitpunkten unterschiedlich bewerten, aus welchen Gründen auch immer. Diese ungewollte Variabilität nennt Kahneman noise. Übrigens können sowohl Künstliche Intelligenzen als auch Menschen mit Vorurteilen (bias) belastet sein. Dies musste etwa Amazon feststellen, deren KI Agent Frauen im Recruitingprozess systematisch benachteiligte (Reuters, 2018). Grund dafür waren die Trainigsdaten. Arbeiten in einem Unternehmen überwiegend Männer so lernt die KI natürlich auch dieses Muster. Dies führt uns zu dem nächsten Unterschied. Künstliche Intelligenzen gehen keine neuen Wege, Menschen schon. KI Agenten werden anhand historischer Daten trainiert, finden Muster und optimieren damit Zielfunktionen. Damit schreiben sie aber stets den Status quo fort. Normative Entscheidungen (etwa : der Anteil von Frauen in der Belegschaft soll erhöht werden) müssen einprogrammiert oder über Parameter gesteuert werden. Dies ist ein tiefgreifender Unterschied. Da KI zu 100% aus Mathematik und Computercode besteht kann sie nichts wirklich neues in die Welt bringen. Dies mag verblüffen angesichts Musik komponierender und Bilder malender Künstlicher Intelligenzen. Aber sich selbst überlassen gehen alle diese Agenten in eine Endlosschleife über. Die wahren Künstler sind die Entwickler hinter dieser Art von Software. Ich komme auf diesen Punkt später nochmals zurück doch hier sei bereits erwähnt, dass KI Werkzeugcharakter hat. Menschen können durchaus KI verwenden um neues zu schaffen, sei es gut oder böse, schön oder hässlich. Es wäre ein Taschenspielertrick, dies dem Werkzeug zuzuschreiben.
Aus der Perspektive der Psychologie und Ökonomie sind die menschlichen Entscheidungsprozesse bei der Bewerberauswahl vergleichbar mit der Art und Weise, wie auch andere Experten (Richter, Ärzte, Gutachter) zu Urteilen auf Grundlage präsentierter Fakten gelangen. „The decision makers must consider multiple options and apply their values to make the optimal choice. But the decisions depend on underlying predictions, which should be value-neutral“ (Kahnemann 2020). Erfahrene Personalchefs wissen aus Erfahrung, welche Indikatoren und Merkmale für oder gegen eine Kandidatin sprechen, fragen nach, begeben sich in eine offene Gesprächssituation und bilden sich ein Urteil. Natürlich ist dieses Urteil alles andere als objektiv und auch nicht determiniert. Die jeweilige Stimmung, die Raumtemperatur, Tageszeit und unzählige andere vom Bewerber vollkommen unabhängige Faktoren können das Urteil und die Entscheidung beeinflussen. Deshalb ist es ja eine gängige Praxis Bewerbungsentscheidungen auf Grundlage der Urteile verschiedener Experten zu treffen.
Vor allem aber ist es das bewusste oder unbewusste Anwenden von Werten, welche den Menschen von der KI unterscheiden. In der klassischen Definition von Max Scheler sind Werte „unreduzierbare Grundphänomene fühlender Anschauung“. Unreduzierbar bedeutet, daß Werte auch nicht auf Zahlen oder Mathematik abgebildet werden können. Werte entziehen sich schlichtweg jeder Form der Quantifizierung und damit der Digitalisierung. Vor allem sind Werte keine Naturkonstanten, sondern in höchstem Maß situativ. Ein zwischen zwei Menschen geführtes Bewerbungsgespräch lässt sich vielleicht aufzeichnen, aber niemals vollkommen digital erfassen oder simulieren. Ulrich Hemel nennt dies das Digitale Unvollständigkeitstheorem. So wie die Statistische Physik keine Aussagen über singuläre Erscheinungen sondern nur Ensembles treffen kann, so kann auch keine KI alle Nuancen einer bestimmten Person oder Situation erfassen. Menschen können dies, weil sie nicht auf Daten angewiesen sind, sondern vielmehr die Situation subjektiv erleben. Menschen haben Mathematik und Wissenschaft erfunden, um die Subjektivität zu überwinden und Urteile frei von Gefühlen und Vorurteilen treffen zu können. Künstliche Intelligenz und Computer sind als Methode und Hardware dafür geeignet in diesem Sinne objektive Ergebnisse zu liefern, hinreichende Datenqualität vorausgesetzt. Quellcode und Datenbasis können offengelegt werden, so dass für alle Beteiligten der Prozess nachvollziehbar ist. Wären Objektivität und Gerechtigkeit die einzigen Maßstäbe, so sollten Menschen in der Tat Künstlichen Intelligenzen alle Personalentscheidungen überlassen. Zusammenfassend kann gesagt werden : Künstliche Intelligenzen sind potenziell objektiv, Menschen immer subjektiv.
Eine Unternehmensleitung, welche die Nutzung einer Recruiting KI erwägt, wird die Vor- und Nachteile menschlichen Urteilens im Vergleich zu maschinellen Entscheidungsprozessen wie auch die direkten und indirekten Auswirkungen auf die Belegschaft und das Ansehen des Unternehmens abwägen müssen. Eine zentrale Aussage dieser Analyse ist, dass dabei das bei den Entscheidern verankerte Menschenbild und deren Fähigkeit zum Perspektivwechsel von größter Bedeutung ist. Geht man davon aus, dass Bewerber vollständig durch Datenprofile beschrieben werden können und HR Experten prinzipiell nicht anders arbeiten als Computer, nur langsamer und fehlerhafter, dann ist eine Entscheidung für einen hohen Automatisierungsgrad vordergründig rational. Ein anderes Extrem könnte sein, dass ein an klassisch humanistischen Werten orientiertes Management den Einsatz von KI im Personalwesen aufgrund ethischer Bedenken grundsätzlich ausschliesst. Diese Entscheidung erscheint auf den ersten Blick als moralisch richtig, würdigt jedoch nicht die Möglichkeiten Künstlicher Intelligenz zu objektiven Einschätzungen zu gelangen. Ein Aspekt eines neuen digitalen Humanismus könnte daher sein, das Zusammenspiel von Menschen und KI vernünftig auszutarieren.
Ähnliche Fragen ergeben sich überall dort, wo KI aus betriebswirtschaflticher und technischer Sicht Potential für die Steigerung des Automatsierungsgrades bieten kann. Bilderkennung (Image recognition) ist ein in der Praxis bereits sehr weit verbreitetes Verfahren. Ein Einsatzzweck ist zum Beispiel der sogenannte Shelf-Audit in der Konsumgüterindustrie. Dabei geht es darum, dass Hersteller regelmässig überprüfen, ob ihre Ware entsprechend den Vereinbarungen mit Händlern in Supermärkten präsentiert werden. Traditionell wird diese Aufgabe durch Vetriebsmitarbeiter erledigt, in dem sie die Märkte besuchen, die Regale überprüfen, Preise notieren usw. Stand der Technik ist heute ist jedoch, dass die Vertriebsmitarbeiter die Regale nur noch abfotogradieren, und eine KI in Echtzeit ermittelt, ob es Abweichungen gibt und wo Handlungsbedarf besteht. Dieses Problem wird von Data Scientist sehr gut verstanden. Es gibt Millionen von Bildern, die für das Training der Modelle verwendet werden können. Objektivität, Präzision und Skalierbarkeit machen eine Shelf-Audit KI zu einem wertvollen Werkzeug für den Vertriebsmitarbeiter, der im besten Falle mehr Zeit für Aufgaben erhält, die nur von Menschen erledigt werden können. Sowie Astronomen mit Hilfe eines Teleskops mehr Details am Nachthimmel erfassen können, so erlaubt diese KI Vertriebsmitarbeitern mehr Regalflächen schneller und genauer zu analysieren. Bilderkennung wird auch in der Radiologie eingesetzt um anhand hochauflösender Röntgenbilder Krebsdiagnosen zu erstellen. Aus der Perspektive der Data Scientists kommen ähnliche Verfahren zum Einsatz. Auch hier haben Radiologen und Onkologen ein Werkzeug in der Hand, um in kürzester Zeit auf Millionen von Befunden zuzugreifen und Muster zu finden. Es ist jedoch abwegig zu vermuten, dass eine derartige Bilderkennungssoftware die Rolle eines Arztes einnehmen könnte oder sollte. Die Auswertung eines Röntgenbilds stellt einen Datenpunkt im Spektrum eines Patienten dar und Bedarf der Einordung und Bewertung durch eine Menschen. Auch hier zeigt sich wieder, dass das bei Entscheidern verankerte Menschenbild den Unterschied ausmacht. Geht man davon aus, dass Patienten vollständig durch Datenprofile beschrieben werden können und Ärzte prinzipiell nicht anders diagnostizieren als Computer, nur langsamer und fehlerhafter, dann erscheint der Beruf des Arztes gefährdet. Anerkennt man, dass Patienten nicht auf Daten reduziert werden können und statistische Analysen klinischer Daten großen Mehrwert liefern, so haben sowohl KI als auch der Beruf des Arztes eine gemeinsame Zukunft. Somit zeigt sich erneut, dass nicht die Frage nach dem Unterschied von Menschen und Künstlicher Intelligenz grundlegend ist, sondern „Was ist der Mensch?“ Die persönliche Haltung in dieser Frage als Vorausetzung ausweisen zu können ist eine der Konsequenzen Digitaler Sprachfähigkeit.
Im dritten Gedankengang soll die Frage nach dem Unterschied zwischen Menschen und Künstlicher Intelligenz aus der Perspektive der Wissenschafts- und Technikgeschichte betrachtet werden.
Die Methodik der Datenwissenschaft (Data Science) geht auf Galileo Galileo zurück, der erkannte, dass die Natur in der Sprache der Mathematik formuliert ist. Durchführung von Experimenten, Erfassung von Messergebnissen (Daten), mathematische Modellierung sind seit Galileo das Erfolgsrezept der exakten Naturwissenschaften. Es ist diese naturwissenschaftliche Methode welche Errungenschaften wie die Entdeckung der Ceres Bahn durch Carl Friedrich Gauß und die intelligenten Empfehlungen von Amazon, Netflix oder Apple miteinander verbindet. In allen Fällen geht es darum Muster in mehr oder weniger verrauschten Datenmengen zu finden. Judea Pearl, einer der Machine Learning Pioniere, fasst es so zusammen. „At the end of the day AI is nothing but fitting data to a curve“ (Pearl). Tatsächlich war es Gauß, der im Zusammenhang mit der Berechnung der Ceres Bahn die Methode der kleinsten Quadrate entwickelte. Anhand beobachteter Bahnpositionen (data) und der bekannten Bewegungsgleichungen (curve) konnte er die Parameter optimal anpassen (fit) und die damit Positionen vorausberechnen (predict). Für die Entwicklung einer Recommender KI passen Data Scientists die Parameter ihres mathematischen Modells (curve) so lange an, bis der Fehler (Abweichung zur Zielfunktion) in Hinblick auf die Trainingsdaten minimal ist (fit). Im Kern geht es also darum, mithilfe mathematischer Statistik der Wahrheit (ground trouth) möglichst nahezukommen. Oder anders formuliert : aus Daten zu lernen. Sowohl Maschinen als auch Menschen (Gauß hatte nichts anderes als Papier und Bleistift zur Hand) sind dazu in der Lage.
Das Werk von Daniel Kahneman macht jedoch den Unterschied zwischen Maschinen und Menschen deutlich. Von Natur aus neigen Menschen zum Storytelling und heuristischem Urteilen (kausales, schnelles Denken) und nicht zur mathematischen Analyse (langsames, statistisches Denken). „Our sense of understanding the world depends on our extraordinary ability to construct narratives that explain the events we observe (Kahneman, 2021). “Relying on causal thinking about a single case is a source of predictable errors. Taking the statistical view, which we will also call the outside view, is a way to avoid these errors”.
Diese Neigung zum kausalen Denken und Storytelling beeinflusst in großem Maße den KI Diskurs wie auch dessen Auswirkungen auf das Selbstbild der Menschen. Sowohl Laien als auch Experten erliegen allzuleicht der Illusion, dass intelligente Maschinen Subjektcharakter haben. Das wachsende Arsenal an spezialisierten Künstlichen Intelligenzen gleicht einem Marionettentheater. Erst wenn der Marionettenspieler hervortritt erwachen wir aus der Illusion. Erst wenn wir die Funktionsweise einer KI verstehen und die menschliche Akteure entdecken, die die Fäden in den Händen halten, verschwindet das Gefühl etwas Magischem gegenüber zu stehen.
Während traditionell Wissenschaft Mythen aufklären und abschaffen möchte, so macht die KI Community heute mitunter das Gegenteil und erfindet neue Mythen. Spekulationen zu einer möglichen Singularität, Superintelligenz oder Starken KI sind nicht mehr Wissenschaft, sondern eben (mehr oder weniger gutes) Storytelling. Auch dazu gibt es Parallelen in der Geschichte der Physik.
Pierre Simon Laplace ersann 1814 den sogenannten Laplaceschen Dämon. „Wir müssen also den gegenwärtigen Zustand des Universums als Folge eines früheren Zustandes ansehen und als Ursache des Zustandes, der danach kommt. Eine Intelligenz, die in einem gegebenen Augenblick alle Kräfte kennt, mit denen die Welt begabt ist, und die gegenwärtige Lage der Gebilde, die sie zusammensetzen, und die überdies umfassend genug wäre, diese Kenntnisse der Analyse zu unterwerfen, würde in der gleichen Formel die Bewegungen der größten Himmelskörper und die des leichtesten Atoms einbegreifen. Nichts wäre für sie ungewiss, Zukunft und Vergangenheit lägen klar vor ihren Augen.“ (Pierre-Simon Laplace im Vorwort des Essai philosophique sur les probabilités von 1814)
Dies war nicht nur eine Phantasie, sondern spiegelt das Paradigma und Ideal der klassischen Physik im 19. Jahrhundert wieder. Die Erfolge der Physik waren dermaßen spektakulär, dass viele Wissenschaftler der Versuchung nachgaben alle Naturphänomene auf die Newtonsche Mechanik zurückzuführen. Der Laplacesche Dämon war ein Mythos, aber hatte trotzdem großen Einfluss auf die Geistesgeschichte. Positivismus, Materialismus, Behaviorismus waren alle inspiriert durch die Vorstellung, dass alles auf Mechanik reduziert werden kann. Es brauchte die Paradigmenwechsel der Physik im 20. Jahrhundert, um den Irrtum zu erkennen.
Das Paradigma der Internetökonomie ist vergleichbar mit dem der klassischen Physik. Ersetzt man in dem Zitat von Laplace Atome durch Konsumenten und Lage bzw. Kräfte durch Daten, so beschreibt es recht gut das Weltbild und die Vision mancher Digitalkonzerne und KI Start-ups. Was den klassischen Physikern das Perpetuum Mobile war, scheint heute manchen Informatikern die Starke KI zu sein. Wenn man den Turing-Test als nicht wirklich überzeugend akzeptiert, ist nicht ersichtlich, wie eine Theorie der Starken KI verifizierbar oder falsifizierbar sein könnte. Man könnte dies mit der Spekulation über die Existenz von Paralleluniversen vergleichen, die prinzipiell empirisch nicht verifiziert werden kann. In beiden Fällen handelt es sich um spekulatives Denken, mit dem Unterschied, dass führende KI Forscher immer wieder in der Öffentlichkeit Prognosen liefern, bis wann das Ziel der Starken KI erreicht sein wird. In Hinblick auf die Grenzen der Naturwissenschaft hat Hans Küng darauf hingewiesen, dass „in den letzten Fragen Freiheit herrscht“ (Küng, Lesch, Was die Welt im Innersten zusammenhält). Was vor dem Urknall war, ist mit den Mitteln der Physik nicht zu beantworten. Freiheit lässt sich nicht anhand neuronaler Erregungsmuster diagnostizieren. Der Unterschied zwischen Menschen und den künftigen Möglichkeiten Künstlicher Intelligenz ist eine dieser letzten Fragen. Es steht Menschen frei sich selbst als neuronale Maschine zu verstehen und dementsprechend eine Starke KI für lediglich eine Frage der Zeit. Es steht ihnen aber auch frei, zu glauben, dass Geist prinzipiell nicht auf Mathematik reduziert werden kann. Hier scheint sich die Auseinandersetzung zwischen Naturwissenschaft und Religion in der Frage nach der Existenz Gottes zu wiederholen, nur dass es jetzt um den Menschen geht.
Problematisch ist in diesem Zusammenhang, dass die Marketingabteilungen der Digitalkonzerne und die Medien das KI Storytelling forcieren, und damit ein weiteres Beispiel für das Phänomen der Narrative Ecomics (Robert Shiller) liefern. Als Beispiel möge die Lösung des Problems der Proteinfaltung mit Hilfe Künstlicher Intelligenz dienen. Im Rahmen eines von der University of Maryland ausgetragenen Wettbewerbs (Critical Assessment of Protein Structure Prediction Contest – CASP) ging es darum, aus vorgegebenen Aminosäuresequenzen Proteinstrukturen vorherzusagen (Spektrum, 2021). Das Google Tochterunternehmen DeepMind entwickelte dafür eine KI names AlphaFold, welche das äusserst schwierige Problem der Proteinfaltung lösen konnte. In der Spektrum Reportage heisst es „Eine künstliche Intelligenz sticht ihre menschlichen Mitbewerber aus“. Und weiter „Die Maschine ›versteht‹ die Physik auf irgendeine uns fremde Weise, was es ihr ermöglicht zu berechnen, wie sich die Atome des Eiweißmoleküls anordnen“. Der Name AlphaFold erinnernt natürlich an eine andere weltberühmte KI, AlphaGo, welche den Weltmeister im Go schlagen konnte. Das Zitat stammt von einem Wissenschaftler (dem Biologen John Moult) und scheint auf etwas Magisches hinzudeuten. Es ist die Sprache, die hier in die Irre führt. Es ist eben nicht eine KI, die ihre menschlichen Mitbewerber aussticht, sondern andere Menschen, die die Methode und den Alhorithmus entwickelten : John Jumper, Richard Evans, Alexander Pritzel, Tim Green, Michael Figurnov, Olaf Ronneberger, Kathryn Tunyasuvunakool, Russ Bates, Augustin Žídek, Anna Potapenko, Alex Bridgland, Clemens Meyer, Simon A. A. Kohl, Andrew J. Ballard, Andrew Cowie, Bernardino Romera-Paredes, Stanislav Nikolov, Rishub Jain, Jonas Adler, Trevor Back, Stig Petersen, David Reiman, Ellen Clancy, Michal Zielinski, Martin Steinegger, Michalina Pacholska, Tamas Berghammer, Sebastian Bodenstein, David Silver, Oriol Vinyals, Andrew W. Senior, Koray Kavukcuoglu, Pushmeet Kohli & Demis Hassabis. Es ist eben nicht so, dass die Maschine die Physik oder überhaupt irgendetwas versteht. Auch hier geht es nur um mathematische Statistik und das Lernen aus Daten, selbst wenn Menschen die Details des Lösungswegs nicht nachvollziehen können.
Dies weist auf eine der Hauptthesen dieser Analyse hin. Es geht weniger um die Unterlegenheit des Menschen im Vergleich zu Künstlicher Intelligenz, sondern um die Überlegenheit einzelner Menschen mit Hilfe von KI. Diese Tatsache wird durch die Sprache (KI als Subjekt) und Techniken des Storytellings verschleiert.
Angesichts des sich noch immer beschleunigenden Prozesses der Digitalisierung und der offensichtlichen Fortschritte im Bereich des maschinellen Lernens stellt sich die Frage nach dem Unterschied zwischen Menschen und Künstlicher Intelligenz uns allen: dem einzelnen Bürger als auch der Gesellschaft, den Natur- und Geisteswissenschaften, den Herstellern als auch den Anwendern von KI Technologie. Das Finden von Antworten ist aus mehreren Gründen schwierig. Zunächst stellen sich viele Analysen selbst unter den Vorbehalt des „noch nicht“. Was heute noch ein Unterschied sein mag, könnte mit dem nächsten Technologiesprung bereits obsolet sein. Weiterhin sind die jeweiligen Definitionen von Mensch und Künstlicher Intelligenz alles andere als eindeutig und stabil. Damit ist die Fragestellung an sich bereits ein moving target. Die größte Herausforderung ist jedoch der Mangel an einer klaren und verständlichen Sprache, mit der sich alle Diskursteilnehmer über Fachbereichsgrenzen hinweg verständigen könnten. Während viele Laien die Ergebnisse der Anwendung von Künstlicher Intelligenz bestaunen und die Sprache der Technologiebranche unkritisch übernehmen, sind KI Experten nur in Ausnahmenfällen in der Lage ihr Forschungsgebiet für alle auszulegen und etwa die Perspektive der Geisteswissenschaften einzunehmen. Ein Vergleich mit der Geschichte der Physik zeigt, dass dies kein wirklich neues Phänomen ist. Radikal anders ist jedoch die Tatsache, dass es sich nicht um einen vorwiegend wissenschaftlichen Diskurs in informierten Fachkreisen handelt (wie etwa die Debatte um die Quantentheorie), sondern einen breiten öffentlichen Diskurs. Insbesondere nimmt die Öffentlichkeit aktiv an dem Experiment teil (qua Datenlieferanten und User).
Wie in der Komplexitätswissenschaft muss es uns gelingen, das System als Ganzes in den Blick zu nehmen. Hinter jeder KI steht ein Entwickler, hinter jedem Modell ein Analyst, hinter jeder Theorie ein Paradigma, hinter jeder Investition ein Geschäftsmodell, hinter jeder KI Story ein Erzähler, hinter jeder (menschlichen) Entscheidung ein Wertegerüst. Wirklich komplex wird der Sachverhalt dadurch, dass es nicht nur um etwas den Menschen Äußeres geht (etwa die Jupitermonde), sondern um den Menschen selbst. Das Selbstbild der Menschen angesichts des Umgangs mit Künstlicher Intelligenz wird zu einer eigenen Realität, und ist damit mit in den Blick auf das System als Ganzes zu nehmen. Wenn Menschen sich infolge des fortlaufenden Umgangs mit intelligenten Maschinen beginnen sich selbst als Maschinen wahrzunehmen, so wird dies ihre Träume verändern und Handlungsmöglichkeiten einschränken. Aus einem veränderten Selbstbild resultiert ein verändertes Menschenbild. Ein verändertes Menschenbild führt zu anderen Entscheidungen in Hinblick auf die Sinnhaftigkeit und Grenzen der Anwendung von KI, sowohl in Unternehmen als auch im persönlichen Umfeld. Daher ist eine klare Trennung zwischen wissenschaftlichem Diskurs, Produktmarketing und Science Fiction so wichtig. Die Art und Weise wie über Künstliche Intelligenz gesprochen und geschrieben wird erzeugt eine eigene Realität, und befeuert im schlimmsten Fall ein Prozess der Dehumanisierung im Denken und Handeln. Starke KI würde damit zu einer self fulfilling prophecy. Nicht in dem Sinne, dass die KI sich dem Niveau des Menschen nähert, sondern dass Menschen zu Maschinen werden.
Die auf Grundlage der jedem Menschen zugänglicher Introspektion, Mathematik und Computertechnologie herausgearbeiteten Unterschieden zwischen Menschen und Künstlicher Intelligenz können Orientierung geben.
Es soll nicht behauptet werden, dass die Liste der hier diskutierten Unterschiede in irgendeiner Art und Weise vollständig ist oder auch nur sein könnte. Wichtig ist jedoch die Unterschiede zwischen Menschen und Künstlicher Intelligenz zu einer gemeinsamen Sprache zu bringen. „Denn was immer Menschen tun, erkennen, erfahren oder wissen, wird sinnvoll nur in dem Maß, in dem darüber gesprochen werden kann“ (Arendt, Vita Activa).
Referenzen
Brockmann, D. (2021). Im Wald vor lauter Bäumen.
Die Welt. (1996). https://www.welt.de/print-welt/article652666/Computer-schlaegt-Kasparow.html.
Hemel, U. (2020). Kritik der Digitalen Vernunft. Herder.
Hemel, U. (November 2021). Vom Defizitmodell des Menschen zur digitalen Humanität. Was unterscheidet Menschen von Künstlicher Intelligenz? Von Philosophie InDebate: https://philosophie-indebate.de/3964/indepth-longread-vom-defizitmodell-des-menschen-zur-digitalen-humanitaet-was-unterscheidet-menschen-von-kuenstlicher-intelligenz/ abgerufen
Lem, S. (kein Datum). Solaris.
Microsoft. (2016). Von https://blogs.microsoft.com/ai/historic-achievement-microsoft-researchers-reach-human-parity-conversational-speech-recognition/ abgerufen
New York Times. (2011). Von https://www.nytimes.com/2011/02/17/science/17jeopardy-watson.html abgerufen
Shane Legg, M. H. (2007). S. https://dl.acm.org/doi/10.5555/1565455.1565458. Von https://dl.acm.org/doi/10.5555/1565455.1565458 abgerufen
Spektrum. (2020). https://www.spektrum.de/news/deepmind-will-problem-der-proteinfaltung-geloest-haben/1802324.
Statista. (kein Datum). Von https://www.statista.com/statistics/802690/worldwide-connected-devices-by-access-technology/ abgerufen
Statista. (2020). Von https://de.statista.com/statistik/daten/studie/309656/umfrage/prognose-zur-anzahl-der-smartphone-nutzer-weltweit/ abgerufen
TEDBlog. (2013). Von https://blog.ted.com/how-did-supercomputer-watson-beat-jeopardy-champion-ken-jennings-experts-discuss/ abgerufen
Turing, A. (1936). On Computable Numbers, with an Application to the Entscheidungsproblem .
Wikipedia. (2021). Von https://de.wikipedia.org/wiki/Intelligenz abgerufen