FragenKann eine Maschine denken?Eine Maschine könnte Wörter äußern, ohne aber zu wissen, was sie sagt
Kann eine Maschine denken?Es fehlt das Verstehen

Eine Maschine könnte Wörter äußern, ohne aber zu wissen, was sie sagt

Die zwei Mittel, eine Maschine von einem Menschen zu unterscheiden

René Descartes 1596 · 1650An allem zweifeln, um zu finden, was dem Zweifel standhält.
Profil ansehen
Was es behauptet

Eine Maschine mit der Gestalt eines Menschen, die dessen Handlungen nachahmte, wäre also kein wirklicher Mensch: Sie würde ohne Erkenntnis handeln und nicht verstehen, was sie sagt.

Warum

Eine Maschine kann Wörter äußern, aber die Vernunft dient in allen Lagen, während die Organe für jeden Fall eine besondere Anordnung brauchen.

Kurz gesagt

„Eine Maschine könnte Wörter äußern, ohne aber zu wissen, was sie sagt“ ist ein Argument von René Descartes (Abhandlung über die Methode, V, 1637) zur Frage „Kann eine Maschine denken?“ (Antwort: es fehlt das verstehen). Seine These: Eine Maschine mit der Gestalt eines Menschen, die dessen Handlungen nachahmte, wäre also kein wirklicher Mensch: Sie würde ohne Erkenntnis handeln und nicht verstehen, was sie sagt. Laut der Logikprüfung von AskPhilosophy (Z3-Solver) ist das Argument nur gültig, wenn man eine Prämisse zugesteht, die der Autor nicht ausdrücklich formuliert (P3). AskPhilosophy präsentiert 3 Einwände, davon 3 mit einer dokumentierten Erwiderung, sowie den Originaltext hinter jeder Prämisse, Wort für Wort geprüft.

Abhandlung über die Methode, V, 1637
Gültig mit impliziter Prämisse

Descartes meint, dass der Körper der Tiere, ja sogar der menschliche Körper wie eine Maschine funktioniert. Dann stellt er eine Frage, die wir heute mit Robotern und Software wieder aufgreifen: Wenn ein Automat die Gestalt eines Menschen hätte und dessen Handlungen nachahmte, woran könnte man erkennen, dass er kein wirklicher Mensch ist? Er antwortet mit zwei Prüfungen. Die erste betrifft die Sprache: Eine Maschine könnte Wörter äußern, aber sie nicht auf unendlich vielfältige Weise anordnen, um auf das zu antworten, was man zu ihr sagt. Die zweite betrifft die Vernunft: Sie dient in jeder Lage, während ein Mechanismus nur für das bereit ist, wofür er eingerichtet wurde. In beiden Fällen würde die Maschine durch die Anordnung ihrer Organe handeln, nicht aus Erkenntnis.

P1Man kann sich eine Maschine vorstellen, die Wörter äußert, sogar über das, was man mit ihren Organen tut (berührt, schreit sie, man tue ihr weh). Aber man kann sich nicht vorstellen, dass sie diese Wörter auf verschiedene Weise anordnet, um auf den Sinn alles dessen zu antworten, was in ihrer Gegenwart gesagt wird, wie es selbst die geistig trägsten Menschen tun.
P2Die Vernunft ist ein universelles Werkzeug, das bei allen Gelegenheiten dient. Die Organe einer Maschine hingegen brauchen für jede einzelne Handlung eine besondere Anordnung. Es ist also moralisch unmöglich, dass eine Maschine genügend verschiedene Organe hat, um in allen Lebenslagen so zu handeln, wie unsere Vernunft uns handeln lässt.
P3 · implizite PrämisseWenn eine Maschine eine dieser beiden Prüfungen nicht besteht, dann handelt sie nicht aus Erkenntnis, sondern aufgrund der Anordnung ihrer Organe: Sie versteht weder, was sie sagt, noch, was sie tut.
Eine Maschine mit der Gestalt eines Menschen, die dessen Handlungen nachahmte, wäre also kein wirklicher Mensch: Sie würde ohne Erkenntnis handeln und nicht verstehen, was sie sagt.

klicke auf eine Prämisse, um sie zurückzuweisen

Wenn du alle Prämissen akzeptierst, zwingt dich die Logik dazu, auch die Konklusion zu akzeptieren. Die Debatte dreht sich also um die Prämissen.
Von einem Logik-Solver geprüft: Es ist unmöglich, dass alle Prämissen wahr und die Konklusion falsch sind.
Ohne die implizite Prämisse: Ohne P3 findet der Computer einen Fall, in dem die Maschine beide Prüfungen nicht besteht und dennoch nichts darauf hindeutet, dass es ihr an Erkenntnis fehlt: Ein in einem Raum eingeschlossener Mensch, der nicht auf alles antworten kann (er spricht die Sprache nicht, er ist erschöpft), ist deshalb noch kein Automat. Das Scheitern allein beweist nicht, dass im Inneren etwas fehlt.
Das Argument ist gültig, sobald man die verborgene Prämisse P3 hinzufügt. P1 und P2 beschreiben, was eine Maschine nicht tun könnte. P3 macht den entscheidenden Schritt: Aus diesem Scheitern schließt sie, dass die Maschine nicht aus Erkenntnis handelt. Descartes schreibt sie beinahe aus („sie handelten nicht aus Erkenntnis, sondern allein aufgrund der Anordnung ihrer Organe“), ohne sie gesondert zu beweisen. Wer die Schlussfolgerung ablehnt, kann P1 oder P2 bestreiten (die Maschine würde bestehen) oder P3 (Gelingen wäre kein Zeichen von Erkenntnis, oder Scheitern wäre kein Beweis ihres Fehlens).
Analogie. Ein Anrufbeantworter sagt „Drücken Sie 1, drücken Sie 2“: Er hat fertige Sätze für vorhergesehene Fälle. Stellt man ihm eine unvorhergesehene Frage, kann er nur sein Menü wiederholen. Descartes sagt dasselbe von jeder Maschine: Sie ist für bestimmte Fälle eingerichtet, während die Vernunft sich jedem Fall anpasst, auch dem unerwartetsten.

Einwände

3

Jeder Einwand ist ein Gespräch: Klicke, um zu sehen, wer erwidert und wo die Debatte steht.

La Mettrie 1747 · greift Prämisse 1 an

Der Unterschied zwischen Mensch und Tier ist nur einer des Grades. Er fordert jeden heraus, ein Experiment zu nennen, das es unmöglich macht, einem gut abgerichteten Affen das Sprechen beizubringen, so wie man es Taubgeborenen beibringt: Angesichts der Ähnlichkeit seines Körperbaus mit dem unseren zweifelt er kaum daran, dass es gelingen würde.

Descartes erwidert
Argument ansehen
Descartes 1637 · Descartes (Text von 1637, vor dem Einwand verfasst)
Es braucht sehr wenig Vernunft, um sprechen zu können. Selbst wenn manche Tiere leichter abzurichten sind als andere, ist es nicht glaubhaft, dass der vollkommenste Affe oder Papagei seiner Art darin nicht einem der dümmsten Kinder oder zumindest einem Kind mit gestörtem Gehirn gleichkäme, es sei denn, ihre Seele wäre von einer ganz anderen Natur als die unsere.
Wo die Debatte steht (unsere Zusammenfassung)Offener Punkt zu den Tieren. La Mettrie wettet, dass ein gut erzogener Affe sprechen würde; Descartes hält dagegen, dass selbst der begabteste nicht einem Kind gleichkomme, was einen Unterschied der Natur zeigen würde. Die Versuche des 20. Jahrhunderts, Affen eine Sprache beizubringen, haben die Frage nicht entschieden: Man streitet noch immer darüber, ob die erlernten Zeichen echte Sätze sind (unsere Zusammenfassung).
Alan Turing 1950 · greift Prämisse 1 an

Er ersetzt die Frage „Kann eine Maschine denken?“ durch ein Frage-und-Antwort-Spiel im Blindverfahren. Dieses Spiel gleicht der mündlichen Prüfung, mit der man feststellt, ob jemand wirklich versteht oder nur „wie ein Papagei“ auswendig gelernt hat. Würde eine Maschine ebenso gut antworten wie ein Prüfling, wäre Descartes' erste Probe bestanden, und man müsste sie nach ihren Antworten beurteilen.

ein Verteidiger erwidert
Argument ansehen
Keine Antwort möglich: Der Einwand wurde 1950 erhoben, nach dem Tod des Autors (1650).
E
Emily Bender und Alexander Koller Verteidiger des Arguments · 2020
Aus anderen Gründen als Descartes argumentieren sie, dass ein System, das nur auf Formen (Wortfolgen) trainiert wurde, a priori keine Möglichkeit hat, Bedeutung zu lernen. Gut zu antworten beweist also nicht, dass man versteht: Das ist derselbe Gedanke wie in Prämisse P3.
Cameron Jones und Benjamin Bergen 2025
Mit Sprachmodellen wurden vorab registrierte Turing-Tests mit drei Beteiligten durchgeführt. Ein Modell, das aufgefordert worden war, eine menschliche Persona anzunehmen, wurde in 73 % der Fälle für den Menschen gehalten, häufiger als der echte Mensch. Descartes' erste Probe (angemessen auf das zu antworten, was gesagt wird) ist somit in kurzen Gesprächen bestanden.
Wo die Debatte steht (unsere Zusammenfassung)Offener Punkt. Heutige Sprachmodelle antworten auf das, was man ihnen sagt, manchmal besser als gehetzte Menschen: Die Sprachprobe, wie Descartes sie beschreibt, scheint in kurzen Gesprächen bestanden zu sein. Der grundlegende Dissens betrifft, was das beweist: Für die einen genügt es, wie ein Mensch zu antworten; für die anderen ist gutes Antworten noch kein Verstehen. Es gibt keine weithin akzeptierte Antwort (unsere Zusammenfassung).
Alan Turing 1950 · greift Prämisse 2 an

Es ist nicht nötig, für jede Aufgabe eine andere Maschine zu bauen. Ein einziger digitaler Computer, der für jeden Fall anders programmiert wird, kann sie alle ausführen. Descartes nahm an, dass für jede Handlung ein besonderes Organ nötig wäre; ein Computer braucht diese Vielzahl von Organen nicht.

ein Verteidiger erwidert
Argument ansehen
Keine Antwort möglich: Der Einwand wurde 1950 erhoben, nach dem Tod des Autors (1650).
Hubert Dreyfus Verteidiger des Arguments · 1972
Aus anderen Gründen als Descartes argumentiert er, dass sich menschliche Intelligenz in einer Situation nicht auf explizite Regeln zurückführen lässt, denen ein Programm folgen könnte: Zu wissen, worauf es in einer Situation ankommt, setzt einen Hintergrund voraus, der sich nicht vollständig niederschreiben lässt. Ein universeller Computer kann alles berechnen, braucht aber dennoch für jeden Fall das passende Programm.
Wo die Debatte steht (unsere Zusammenfassung)Umstritten. Turing zeigt, dass eine einzige Maschine jede Maschine mit diskreten Zuständen nachahmen kann: Das Argument der „nicht ausreichenden Zahl von Organen“ fällt. Es bleibt Descartes' tiefere Frage, nur verschoben: Lässt sich ein Programm schreiben (oder erlernen lassen) für alle Umstände des Lebens? Die Ansichten gehen auseinander (unsere Zusammenfassung).