Fragen Kann eine Maschine denken?Das Chinesische Zimmer

Kann eine Maschine denken?Es fehlt das Verstehen

Das Chinesische Zimmer

Das Argument des Chinesischen Zimmers (Searle)

John Searle 1932 · 2025Bewusstsein ist eine reale und nicht reduzierbare Tatsache des Innenlebens; es zu leugnen heißt, zu übersehen, was vor uns liegt.

Profil ansehen

Was es behauptet

Also genügt es nicht, ein Programm auszuführen, um zu verstehen. Kein Programm macht für sich allein einen Geist aus: Es bräuchte etwas anderes, etwa die kausalen Kräfte eines Gehirns.

Warum

Ein Programm manipuliert Symbole allein nach ihrer Form, und das genügt nicht, um zu verstehen, was sie bedeuten.

Dieselbe Idee im Lauf der Geschichte

Gottfried Wilhelm Leibniz1714Leibniz stellt sich eine Mühle vor: Beträte man eine Maschine, die denkt, sähe man nur Teile, die einander stoßen, niemals eine Wahrnehmung. Der Gedanke ist verwandt: Der Blick auf den Mechanismus zeigt kein Verstehen.

John Searle1980In dem Aufsatz in der Zeitschrift Behavioral and Brain Sciences stellt sich Searle einen Mann vor, der in einem Raum eingeschlossen ist, chinesische Schriftzeichen und ein Regelbuch auf Englisch erhält und Antworten zurücksendet, ohne Chinesisch zu verstehen.

John Searle1990Zehn Jahre später fasst Searle in Scientific American den Gedankengang in einigen Axiomen zusammen: Programme sind formal, Geist hat Inhalt, Syntax genügt nicht, um Bedeutung hervorzubringen. Diese Form stellen wir vor.

Kurz gesagt

„Das Chinesische Zimmer“ ist ein Argument von John Searle („Minds, Brains, and Programs“, 1980; „Is the Brain's Mind a Computer Program?“, 1990, 1980) zur Frage „Kann eine Maschine denken?“ (Antwort: es fehlt das verstehen). Seine These: Also genügt es nicht, ein Programm auszuführen, um zu verstehen. Kein Programm macht für sich allein einen Geist aus: Es bräuchte etwas anderes, etwa die kausalen Kräfte eines Gehirns. Laut der Logikprüfung von AskPhilosophy (Z3-Solver) folgt die Schlussfolgerung tatsächlich aus ihren 3 Prämissen. AskPhilosophy präsentiert 6 Einwände, davon 5 mit einer dokumentierten Erwiderung, sowie den Originaltext hinter jeder Prämisse, Wort für Wort geprüft.

„Minds, Brains, and Programs“, 1980; „Is the Brain's Mind a Computer Program?“, 1990

Gültig

Stell dir vor, du bist in einem Raum eingeschlossen. Durch einen Schlitz reicht man dir chinesische Texte, die du nicht lesen kannst: Für dich sind es bloße Zeichnungen. Du hast ein dickes Regelbuch auf Englisch, das besagt: „Wenn du diese Zeichenfolge erhältst, sende jene Zeichenfolge zurück.“ Du befolgst die Regeln und sendest Zeichen zurück. Von außen betrachtet sind deine Antworten die eines echten Chinesischsprechers. Aber du hast kein Wort verstanden. John Searle (1980) folgert daraus, dass selbst ein Computer, der den Turing-Test bestünde, nichts verstehen würde: Er täte, was du tust, und folgte Regeln über Formen. Bedeutung entsteht nicht allein aus den Regeln. Das Argument richtet sich gegen die These der „starken KI“ (Denken heißt, das richtige Programm auszuführen), nicht gegen den Gedanken, dass eine Maschine eines Tages denken könnte. Searle selbst sagt, das Gehirn sei eine Maschine, die denkt.

klicke auf eine Prämisse, um sie zurückzuweisen

Wenn du alle Prämissen akzeptierst, zwingt dich die Logik dazu, auch die Konklusion zu akzeptieren. Die Debatte dreht sich also um die Prämissen.

Von einem Logik-Solver geprüft: Es ist unmöglich, dass alle Prämissen wahr und die Konklusion falsch sind.

Das Argument ist gültig: Wenn ein Programm allein formal ist (P1), wenn das Formale keine Bedeutung verleiht (P3) und wenn ein Geist, der versteht, Bedeutung hat (P2), dann ist ein Programm allein kein Geist. Die Debatte dreht sich um P3. Searle beweist sie durch das Gedankenexperiment; seine Gegner sagen, das Experiment beweise nichts oder es ziele nicht auf das richtige System.

Analogie. Wer eine Partitur perfekt abschreibt, ohne Noten lesen zu können, spielt keine Musik. Formen abzuschreiben heißt nicht, zu verstehen. Es bleibt die Frage, ob diese Analogie auf ein riesiges, schnelles System passt.

Einwände

Jeder Einwand ist ein Gespräch: Klicke, um zu sehen, wer erwidert und wo die Debatte steht.

Die Systemantwort (Berkeley) 1980 · greift Prämisse 3 an

Der Mann allein versteht kein Chinesisch, das stimmt. Aber er ist nur ein Teil eines Ganzen: der Mann, das Handbuch, das Papier, die Listen von Zeichen. Dieses Ganze versteht, so wie ein Neuron nichts versteht und ein Gehirn dennoch schon.

Searle erwidert

John Searle 1980

Searle antwortet: Der Mann soll das Handbuch und die Listen auswendig lernen und alle Berechnungen im Kopf ausführen. Dann enthält er das ganze System. Er versteht immer noch nichts von Chinesisch, also versteht auch das System nichts, da es im System nichts gibt, was nicht in ihm ist.

Daniel Dennett und Douglas Hofstadter 1981

Dennett und Hofstadter entgegnen, das Experiment täusche unsere Intuition. Wir identifizieren uns mit dem Mann, der nur ein kleines Teil ist, wie der Prozessor eines Computers, und stellen uns ein kleines Handbuch vor. Ein Programm, das wie ein Chinese sprechen könnte, wäre jedoch unermesslich komplex. Dass der Mann nicht versteht, sagt nichts darüber, was das System leistet, das er ausführt.

Den Rest der Debatte ansehen (1)

John Searle 1980

Searle hatte die Idee eines Teilsystems vorhergesehen, das Chinesisch verstehen würde, ohne dass der Mann es weiß. Er entgegnet, der einzige Grund, daran zu glauben, sei, dass das System den Turing-Test besteht, und genau das sei der strittige Punkt: Die Systemantwort setzt voraus, was zu beweisen war.

Wo die Debatte steht (unsere Zusammenfassung)Der grundlegende Streitpunkt: Kann Verstehen eine Eigenschaft eines Systems sein, von dessen Teilen keines versteht? Für die Vertreter der Systemantwort ja, wie bei einem Gehirn. Für Searle muss man zeigen, dass ein solches System versteht, und es nicht bloß voraussetzen. Keine Seite hat die Debatte für sich entschieden.

Die Roboterantwort (Yale) 1980 · greift Prämisse 2 an

Setzen wir den Computer in einen Roboter, mit Kamera, Armen und Beinen. Der Roboter sieht, handelt, lebt in der Welt. Bedeutung entsteht aus der Verbindung zu den Dingen, nicht aus Zeichen allein: Der Roboter würde verstehen.

Searle erwidert

John Searle 1980

Searle bemerkt zunächst, dass diese Antwort bereits zugibt, dass Denken nicht nur im Manipulieren von Zeichen besteht. Dann setzt er den Mann wieder in den Raum: Manche Zeichen kommen von der Kamera, andere steuern die Motoren, aber er weiß es nicht. Diese Fähigkeiten fügen Zeichen hinzu, kein Verstehen.

Wo die Debatte steht (unsere Zusammenfassung)Der grundlegende Streitpunkt: Stiftet die Verbindung zur Welt Bedeutung? Searle meint, dass auch diese Verbindung in Form von Zeichen ankommt. Andere, etwa die Vertreter der verkörperten Kognition, halten einen Körper und ein Leben für einen echten Unterschied. Offener Punkt: keine weithin akzeptierte Antwort.

Die Gehirnsimulator-Antwort (Berkeley und MIT) 1980 · greift Prämisse 3 an

Schreiben wir ein Programm, das das Gehirn eines Chinesischsprechenden Neuron für Neuron simuliert. Es nimmt Chinesisch als Eingabe, ahmt die Struktur seiner Synapsen nach und gibt Chinesisch aus. Sich zu weigern, zu sagen, es verstehe, hieße, sich zu weigern, es vom Gehirn selbst zu sagen.

Searle erwidert

John Searle 1980

Searle antwortet mit Wasserleitungen: Der Mann bedient Ventile, die Synapsen nachahmen. Die richtigen Antworten kommen heraus, aber weder der Mann noch die Rohre verstehen. Die Simulation kopiert das Falsche am Gehirn: seine Form, nicht seine kausalen Eigenschaften, die Intentionalität hervorbringen.

Paul und Patricia Churchland 1990

Die Churchlands entgegnen, Searles Raum sei ein Rechner, der Zeichen eines nach dem anderen verarbeitet. Ein Gehirn arbeitet mit Millionen parallel geschalteter Verbindungen, und neuronale Netze ebenso. Das ist nicht die Maschine, die das Experiment auf die Probe stellt: Es beweist nichts gegen ein paralleles System.

Den Rest der Debatte ansehen (1)

John Searle 1990

Searle antwortet mit einer „chinesischen Turnhalle“: Eine große Zahl von Männern, die jeweils die Rolle eines Neurons spielen, arbeitet parallel. Keiner versteht Chinesisch, und die Halle ebenso wenig. Parallelität ändert nichts, denn die Halle führt weiterhin nur formale Operationen aus.

Wo die Debatte steht (unsere Zusammenfassung)Der grundlegende Streitpunkt: Bildet eine perfekte Simulation eines Gehirns das nach, worauf es ankommt, oder nur seine Form? Searle sagt, die Simulation bilde die kausalen Kräfte des Gehirns nicht nach, so wie ein simuliertes Gewitter niemanden nass macht. Seine Gegner sagen, nur die Organisation zähle. Offener Punkt.

Die Antwort der anderen Geister (Yale) 1980 · greift die Schlussfolgerung an

Woher wissen Sie, dass andere Menschen Chinesisch verstehen – oder überhaupt irgendetwas? Nur durch ihr Verhalten. Der Computer kann dieselben Tests bestehen. Wenn wir anderen auf dieser Grundlage Denken zuschreiben, müssen wir es auch dem Computer zuschreiben. Das ist Turings Position: Der Verhaltenstest ist unser einziges Kriterium.

Searle erwidert

Argument ansehen

John Searle 1980

Searle antwortet, das Problem sei nicht, woher wir wissen, dass andere denken, sondern was wir ihnen zuschreiben, wenn wir sagen, dass sie denken. Eine Berechnung und ihr Ergebnis können ohne einen Gedanken existieren: Das Verhalten kann also nicht das sein, was wir zuschreiben.

Wo die Debatte steht (unsere Zusammenfassung)Der grundlegende Streitpunkt: Ist das Verhalten alles, was wir über das Denken eines anderen wissen können, oder nur dessen Zeichen? Searle sagt, die Frage sei nicht, wie wir Denken zuschreiben, sondern was wir zuschreiben. Offener Punkt.

Paul und Patricia Churchland (der leuchtende Raum) 1990 · greift Prämisse 3 an

Stellen wir uns jemanden vor, der in einem dunklen Raum einen Magneten schwenkt: Es erscheint kein Licht. Müssen wir daraus schließen, dass Licht nicht aus elektromagnetischen Wellen besteht? Nein: Der Raum ist zu langsam. Ebenso zeigt Searles zu langsames Experiment nicht, dass Syntax niemals Bedeutung hervorbringen kann.

Searle erwidert

John Searle 1990

Searle antwortet, die Analogie greife nicht: Elektromagnetische Wellen haben physikalische Kräfte, während Symbole keine physikalische Eigenschaft besitzen, die Bedeutung hervorbringt. Für ihn gibt es Syntax in der Natur nicht: Es ist der Beobachter, der einen Computer als rechnend ansieht.

Wo die Debatte steht (unsere Zusammenfassung)Der grundlegende Streitpunkt: Ist P3 eine gesicherte Tatsache oder eine Intuition? Searle hält sie für eine logische Wahrheit, die Churchlands für eine empirische Frage. Offener Punkt: keine weithin akzeptierte Antwort.

Daniel Dennett 1980 · greift die Schlussfolgerung an

Die Idee einer besonderen Kraft des Gehirns, die „Intentionalität“ wie Milch hervorbringen würde, wird nicht erklärt: Searle sagt nicht, was diese Kraft wäre. Für Dennett ist auch das Gehirn eine Maschine, und nichts verbietet, dass eine andere Maschine dasselbe leistet.

ohne Erwiderung

Searle hat auf diesen Einwand nie geantwortet.

Wo die Debatte steht (unsere Zusammenfassung)Der grundlegende Streitpunkt: Muss Searle sagen, woraus die „kausalen Kräfte“ des Gehirns bestehen? Er antwortet, das sei eine Frage der Biologie, nicht der Philosophie. Seine Gegner meinen, ohne eine Antwort bleibe seine Schlussfolgerung unvollständig. Offener Punkt.

Was die Stimmen von heute dazu sagen

Verteidigen es

John LennoxEr nutzt das chinesische Zimmer, um zu zeigen, dass das Bestehen des Turing-Tests kein Bewusstsein beweist.

Kritisieren es

Daniel DennettEr sagt, Searle stelle die Art von Programm, das ein Computer ausführen würde, falsch dar: Ein Programm, das den Turing-Test besteht, würde Billionen von Blättern Papier erfordern, um es von Hand zu simulieren, daher führt die Vorstellung eines trivialen Programms in die Irre.