Ein Körper, eine Welt, eine Situation: was Regeln nicht sagen

Dreyfus' Kritik an der KI

Hubert Dreyfus 1929 · 2017Menschliche Intelligenz entspringt einem in eine Welt eingebundenen Körper, nicht einem Regelwerk: Deshalb scheitern Programme, die alles formalisieren wollen.

Profil ansehen

Was es behauptet

Also scheitert die symbolische KI daran, die menschliche Intelligenz nachzubilden, wo diese auf diesem Know-how, diesem Hintergrund und dieser Situation beruht. Schon 1965 sieht Dreyfus, dass die Formalisierung intelligenten Verhaltens in der Sprache des Computers diese spezifisch menschlichen Formen der Informationsverarbeitung „systematisch ausschließt“.

Warum

Die menschliche Intelligenz beruht auf einem Können des Körpers und einem Alltagsverstand, die sich nicht auf explizite Regeln zurückführen lassen.

Dieselbe Idee im Lauf der Geschichte

Martin Heidegger1927In Sein und Zeit ist der Mensch zunächst „In-der-Welt-sein“: Er kommt mit den Dingen zurecht, bevor er sie sich vorstellt. Dies ist die Quelle, auf die sich Dreyfus stützt.

Maurice Merleau-Ponty1945Die Phänomenologie der Wahrnehmung beschreibt den eigenen Leib als das, wodurch wir die Welt verstehen. Dreyfus nennt ihn schon 1965 als möglichen Weg.

Ludwig Wittgenstein1953Wittgenstein bemerkt, dass wir die genauen Grenzen unserer Begriffe nicht ziehen können und dass einer Regel zu folgen nicht heißt, eine weitere Regel anzuwenden. Dreyfus beruft sich schon 1965 auf ihn.

Hubert Dreyfus1972Das Buch What Computers Can't Do entfaltet die Kritik: den Körper, die Situation und die menschlichen Bedürfnisse.

Kurz gesagt

„Ein Körper, eine Welt, eine Situation: was Regeln nicht sagen“ ist ein Argument von Hubert Dreyfus (Alchemy and Artificial Intelligence, 1965; What Computers Can't Do, 1972, 1972) zur Frage „Kann eine Maschine denken?“ (Antwort: es braucht einen lebendigen körper). Seine These: Also scheitert die symbolische KI daran, die menschliche Intelligenz nachzubilden, wo diese auf diesem Know-how, diesem Hintergrund und dieser Situation beruht. Schon 1965 sieht Dreyfus, dass die Formalisierung intelligenten Verhaltens in der Sprache des Computers diese spezifisch menschlichen Formen der Informationsverarbeitung „systematisch ausschließt“. Laut der Logikprüfung von AskPhilosophy (Z3-Solver) ist das Argument nur gültig, wenn man eine Prämisse zugesteht, die der Autor nicht ausdrücklich formuliert (P4). AskPhilosophy präsentiert 3 Einwände, davon 3 mit einer dokumentierten Erwiderung, sowie den Originaltext hinter jeder Prämisse, Wort für Wort geprüft.

Alchemy and Artificial Intelligence, 1965; What Computers Can't Do, 1972

Gültig mit impliziter Prämisse

Anfang der 1960er Jahre spielen die ersten Programme Schach und beweisen Theoreme, und ihre Schöpfer kündigen an, dass Maschinen bald wie wir denken werden. Hubert Dreyfus, ein in Phänomenologie geschulter Philosoph, entgegnet, dass dies eine Sackgasse sei. Wenn ein Arzt, ein Fahrer oder ein Sprecher gut handelt, folgt er keiner Liste von Regeln. Er stützt sich auf ein Können, das ein lebendiger Körper erworben hat, auf einen Hintergrund von Alltagsverstand, den nie jemand aufgeschrieben hat, und auf eine Weise, zu erfassen, worauf es in der Situation ankommt. Eine KI, die alles in explizite Regeln verwandeln will, verfehlt daher das Wesentliche. Wichtige Präzisierung: Dreyfus sagt nicht, dass keine Maschine jemals denken wird. Er zielt auf eine bestimmte Art von KI, nämlich die, die Symbole nach Regeln manipuliert.

klicke auf eine Prämisse, um sie zurückzuweisen

Wenn du alle Prämissen akzeptierst, zwingt dich die Logik dazu, auch die Konklusion zu akzeptieren. Die Debatte dreht sich also um die Prämissen.

Von einem Logik-Solver geprüft: Es ist unmöglich, dass alle Prämissen wahr und die Konklusion falsch sind.
Ohne die implizite Prämisse: Ohne P4 findet der Computer eine Welt vor, in der ein auf Regeln nicht zurückführbares Vermögen dennoch von einem Programm nachgebildet werden könnte, das nur Regeln hat.

Gültig mit P4. Diese verborgene Prämisse ist beinahe eine Definition: Ein Programm der symbolischen KI besteht aus expliziten Regeln. Der Angriffspunkt liegt woanders, in P2: Zu zeigen, dass sich ein Know-how nicht auf Regeln zurückführen lässt, ist sehr schwierig, und genau dort setzen die Einwände an. Dreyfus selbst schränkt die Reichweite ein: In seiner Zusammenfassung von 1965 lassen sich von vier Arten intelligenter Tätigkeit nur zwei ohne diese menschlichen Formen der Informationsverarbeitung programmieren.

Analogie. Radfahren mit Hilfe einer Anleitung lernen: „Wenn du dich nach links neigst, drehe den Lenker um einen proportionalen Winkel nach links …“. Niemand fährt, indem er diese Regeln anwendet. Der Könner hat ein Know-how im Körper, und die Anleitung, selbst eine perfekte, gibt davon nur den Schatten wieder. Das Bild stammt von Kommentatoren von Dreyfus, nicht von ihm selbst.

Einwände

Jeder Einwand ist ein Gespräch: Klicke, um zu sehen, wer erwidert und wo die Debatte steht.

John McCarthy, Marvin Minsky, Nathaniel Rochester, Claude Shannon 1955 · greift Prämisse 2 an

Das Gründungsprojekt der KI geht von der entgegengesetzten Vermutung aus: Jeder Aspekt des Lernens oder jedes andere Merkmal der Intelligenz kann im Prinzip so genau beschrieben werden, dass eine Maschine es simulieren kann. Ein Know-how, das wir noch nicht aufschreiben können, ist ein zu lösendes Problem, keine Grenze.

ein Verteidiger erwidert

Hubert Dreyfus Verteidiger des Arguments · 1965

Dreyfus antwortet, indem er die bestehenden Programme untersucht (Spiele, maschinelle Übersetzung, Mustererkennung). Die auftretenden Schwierigkeiten liegen nicht an der Leistungsfähigkeit der Maschinen: Die Analyse intelligenten Verhaltens in der Sprache des Computers lässt systematisch drei menschliche Formen der Informationsverarbeitung außer Acht (das Randbewusstsein, die Unterscheidung des Wesentlichen vom Unwesentlichen, die Toleranz gegenüber Mehrdeutigkeit).

Marvin Minsky 1974

Zusammenfassung: Minsky schlägt „Frames“ (Rahmen) vor, Wissensstrukturen, die eine typische Situation (ein Zimmer, eine Geburtstagsfeier) mit ihren üblichen Erwartungen beschreiben. Das ist eine Möglichkeit, den gesunden Menschenverstand und den Kontext aufzuschreiben, von denen Dreyfus sagte, sie ließen sich nicht formalisieren.

Den Rest der Debatte ansehen (1)

Hubert Dreyfus 1992

Zusammenfassung: In der Einleitung zu What Computers Still Can't Do urteilt Dreyfus, dass Frames das Problem verschieben, ohne es zu lösen: Man muss immer noch entscheiden, welcher Frame zur gegenwärtigen Situation passt, und diese Wahl hängt davon ab, was für jemanden in einer Welt zählt, was kein Frame enthält.

Wo die Debatte steht (unsere Zusammenfassung)Der grundlegende Dissens betrifft die Frage, ob sich der gesunde Menschenverstand aufschreiben lässt. KI-Forscher haben es jahrzehntelang versucht (Frames, große Wissensbasen) und nur begrenzte Ergebnisse erzielt, was Dreyfus als Bestätigung liest. Ihre Verteidiger entgegnen, die Aufgabe sei gewaltig, aber nicht unmöglich.

David Rumelhart, James McClelland und die PDP-Gruppe 1986 · greift Prämisse 4 an

Neuronale Netze (Konnektionismus) haben keine geschriebenen Regeln: Sie lernen aus Beispielen und passen Tausende von Verbindungen an. Was sie wissen, ist keine Liste expliziter Regeln, und doch ist es eine Maschine. Die Kritik an der symbolischen KI trifft also nicht die Maschine im Allgemeinen.

ein Verteidiger erwidert

Hubert Dreyfus Verteidiger des Arguments · 1992

Zusammenfassung: Dreyfus räumt diesen Punkt teilweise ein. Netze entgehen der Kritik an den Regeln, sind also ein vielversprechenderer Weg als die symbolische KI. Er bezweifelt jedoch, dass sie ein menschliches Know-how erreichen, solange sie weder Körper noch Bedürfnisse noch eine Welt haben, in der die Dinge für sie zählen: Ohne dies verallgemeinern sie, ohne zu wissen, was relevant ist.

Wo die Debatte steht (unsere Zusammenfassung)Beide Lager sind sich in einem Punkt einig: Ein neuronales Netz wendet keine expliziten Regeln an. Der Streit betrifft das, was daraus folgt: Kann großangelegtes Lernen ohne Körper und ohne Leben die Sensibilität für die Situation wiedergewinnen, die Dreyfus für den Lebewesen eigentümlich hält? Die jüngsten Erfolge des Deep Learning haben diese Frage neu eröffnet, ohne sie zu entscheiden.

Rodney Brooks 1991 · greift die Schlussfolgerung an

Brooks stimmt zu, dass symbolische Repräsentationen hinderlich sind: Für einfache Intelligenz ist es besser, die Welt als ihr eigenes Modell zu verwenden. Er zieht jedoch einen anderen Schluss: Man kann Roboter mit einem Körper bauen, die in realen Büros ohne Aufsicht handeln. Der Körper ist für Maschinen also kein Hindernis, sondern eine Lösung.

ein Verteidiger erwidert

Hubert Dreyfus Verteidiger des Arguments · 2007

Zusammenfassung: In „Why Heideggerian AI Failed“ räumt Dreyfus ein, dass Brooks in die richtige Richtung geht (ein Körper, kein zentrales Modell), stellt aber fest, dass diese Roboter nicht über das Niveau von Insekten hinausgekommen sind. Ihnen fehlt seiner Ansicht nach noch das, was für ein Lebewesen Relevanz ausmacht: eigene Bedürfnisse und ein Körper, der sich an das anpasst, was ihm wichtig ist.

Wo die Debatte steht (unsere Zusammenfassung)Dreyfus und Brooks sind sich darin einig, das zentrale Modell der Repräsentationen abzulehnen. Sie unterscheiden sich darin, was hinzukommen muss: Für Brooks genügt ein Roboterkörper in einer realen Welt, um Schritt für Schritt voranzukommen; für Dreyfus braucht es einen Körper mit Bedürfnissen und eine Welt, in der Dinge von Bedeutung sind. Offene Frage.