Wir sagen „es denkt“ nur von einem Lebewesen oder von dem, was ihm ähnlich ist

Wittgenstein: Kann eine Maschine denken?

Ludwig Wittgenstein 1889 · 1951Die Grenzen meiner Sprache bedeuten die Grenzen meiner Welt.

Was es behauptet

Also hat für eine solche Maschine die Aussage, sie denke, keinen Platz in unserem Gebrauch des Wortes. Die Frage ist nicht, in der Maschine nach einem verborgenen Gedanken zu suchen: Es geht darum, wie weit sie in ihrem Leben und Verhalten dem ähnelt, wovon wir sagen, dass es denkt.

Warum

Wir sagen „es denkt“ nur von einem Lebewesen oder von dem, was ihm ähnlich ist; eine Maschine fällt aus dieser Verwendung des Wortes heraus.

Dieselbe Idee im Lauf der Geschichte

Ludwig Wittgenstein1953Das Ausgangsprinzip: Die Bedeutung eines Wortes ist sein Gebrauch in der Sprache. Wir müssen also betrachten, wie „denken“ gebraucht wird.Ludwig Wittgenstein1953Die §§ 281–284 stehen im Zentrum des Arguments über die Privatsprache: „Schmerz“ lernt man in Bezug auf das, was sich wie ein Mensch verhält, nicht in Bezug auf einen verborgenen Gegenstand.

Kurz gesagt

„Wir sagen „es denkt“ nur von einem Lebewesen oder von dem, was ihm ähnlich ist“ ist ein Argument von Ludwig Wittgenstein (Philosophische Untersuchungen, §§ 281 und 359–360, 1953) zur Frage „Kann eine Maschine denken?“ (Antwort: es braucht einen lebendigen körper). Seine These: Also hat für eine solche Maschine die Aussage, sie denke, keinen Platz in unserem Gebrauch des Wortes. Die Frage ist nicht, in der Maschine nach einem verborgenen Gedanken zu suchen: Es geht darum, wie weit sie in ihrem Leben und Verhalten dem ähnelt, wovon wir sagen, dass es denkt. Laut der Logikprüfung von AskPhilosophy (Z3-Solver) ist das Argument nur gültig, wenn man eine Prämisse zugesteht, die der Autor nicht ausdrücklich formuliert (P3). AskPhilosophy präsentiert 2 Einwände, davon 2 mit einer dokumentierten Erwiderung, sowie den Originaltext hinter jeder Prämisse, Wort für Wort geprüft.

Philosophische Untersuchungen, §§ 281 und 359–360

Gültig mit impliziter Prämisse

Wenn wir fragen, ob eine Maschine denken kann, stellen wir uns eine zu entdeckende Tatsache vor: Gibt es im Inneren der Maschine Denken, ja oder nein? Wittgenstein schlägt vor, anders hinzusehen. In seinen Untersuchungen (um 1945–1949 geschrieben, nach seinem Tod veröffentlicht) bemerkt er, dass wir „er leidet“, „er sieht“, „er denkt“ vom lebenden Menschen sagen und von dem, was ihm ähnlich ist und sich wie er verhält. Zu sagen, dass eine Maschine nicht denken kann, heißt also nicht, eine Erfahrungstatsache festzustellen: Es heißt festzuhalten, wie das Wort „denken“ funktioniert. Eine Präzisierung: Wittgenstein folgert nirgends „also wird keine Maschine jemals denken“. Dieses Argument ist eine Lesart seiner Bemerkungen, die insbesondere von wittgensteinianischen Kommentatoren vertreten wird, keine These, die er in einem Satz formuliert.

klicke auf eine Prämisse, um sie zurückzuweisen

Wenn du alle Prämissen akzeptierst, zwingt dich die Logik dazu, auch die Konklusion zu akzeptieren. Die Debatte dreht sich also um die Prämissen.

Von einem Logik-Solver geprüft: Es ist unmöglich, dass alle Prämissen wahr und die Konklusion falsch sind.
Ohne die implizite Prämisse: Ohne P3 findet der Computer eine Maschine, die einem Lebewesen genug ähnelt, damit „sie denkt“ einen Sinn hat: Die Schlussfolgerung fällt.

Gültig mit P3. Diese Prämisse ist die fragilste: Was zählt als „ähneln“? Wenn sich eine Maschine eines Tages in ihrem ganzen Leben wie ein Mensch verhielte, fiele P3 und mit ihr die Schlussfolgerung. Wittgenstein schließt die Tür nicht: In § 359 bemerkt er über den menschlichen Körper: „Er kommt doch am nächsten dazu, so eine Maschine zu sein“.

Analogie. Das Wort „gewinnen“ wird für Spiele, Prozesse und Wahlen gebraucht. Zu fragen, ob ein Kieselstein „gewinnen“ kann, ist keine physikalische Frage über den Kieselstein: Wir sehen, dass es kein Spiel gibt, in dem der Kieselstein mitspielt. Dieses Bild stammt von uns, nicht von Wittgenstein.

Einwände

Jeder Einwand ist ein Gespräch: Klicke, um zu sehen, wer erwidert und wo die Debatte steht.

Alan Turing 1950 · greift die Schlussfolgerung an

Turing hält die Frage „Können Maschinen denken?“ für zu vage, um erörtert zu werden, und ersetzt sie durch einen Test: Kann eine Maschine sich in einem Gespräch als Mensch ausgeben? Er sagt auch voraus, dass sich der Wortgebrauch bis zum Ende des Jahrhunderts so sehr gewandelt haben wird, dass man von denkenden Maschinen sprechen kann, ohne auf Widerspruch zu stoßen. Der Sprachgebrauch ist nicht starr: Er wird dem folgen, was Maschinen tun.

ein Verteidiger erwidert

Argument ansehen

Wir haben in den Texten von Wittgenstein noch keine direkte Antwort gefunden.

Stuart Shanker Verteidiger des Arguments · 1998

Zusammenfassung: Shanker liest Wittgensteins späte Bemerkungen zur Psychologie als Kritik an der Vorstellung, dass Denken sich aufs Rechnen zurückführen lasse. Eine Änderung des Sprachgebrauchs wäre nicht die Entdeckung, dass Maschinen denken: Sie wäre eine Änderung des Begriffs, und es bliebe zu sagen, was man gewinnt oder verliert, wenn man so spricht.

Wo die Debatte steht (unsere Zusammenfassung)Turing und Wittgenstein sind sich in einem Punkt einig: Die Frage betrifft den Gebrauch des Wortes „denken“. Sie unterscheiden sich darin, was daraus folgt: Für Turing wird sich der Sprachgebrauch auf Maschinen ausweiten, die den Test bestehen; für Wittgensteins Erben wäre diese Ausweitung eine Sprachwahl, die der Rechtfertigung bedarf, nicht die Entdeckung einer Tatsache. Offener Punkt.

Hilary Putnam 1967 · greift Prämisse 3 an

Putnam vertritt den Funktionalismus: Ein mentaler Zustand (etwa Schmerz) wird durch seine Rolle in der Organisation des Systems bestimmt, nicht durch den Stoff, aus dem er besteht. Derselbe Schmerz könnte in einem menschlichen Gehirn, in einem Oktopus oder in einem elektronischen System realisiert sein. Lebendig zu sein ist also keine Voraussetzung des Denkens: Allein die richtige Organisation zählt.

ein Verteidiger erwidert

Argument ansehen

Wir haben in den Texten von Wittgenstein noch keine direkte Antwort gefunden.

Hilary Putnam Verteidiger des Arguments · 1988

Zusammenfassung: Putnam gibt den Funktionalismus in Representation and Reality selbst auf. Sein Argument: Jedes beliebige physikalische System lässt sich so beschreiben, als realisiere es jede beliebige abstrakte Organisation. Der Ausdruck „dieselbe Organisation“ genügt daher nicht, um festzulegen, was denkt und was nicht.

David Chalmers 1996

Zusammenfassung: Chalmers entgegnet, Putnam beschreibe eine zu leichte Realisierung. Damit ein System eine Organisation realisiert, müssen seine Zustände durch kausale Beziehungen verbunden sein, die auch kontrafaktisch gelten (was bei anderen Eingaben geschehen würde). Mit dieser Einschränkung realisiert ein Felsen nicht beliebige Automaten.

Wo die Debatte steht (unsere Zusammenfassung)Der grundlegende Dissens betrifft die Frage, was ein System zum Denken befähigt: seine Organisation (Funktionalismus) oder auch sein Leben und seine Geschichte (die Position des Lebendigen). Die Funktionalisten haben das Argument der zu leichten Realisierung abgewehrt; ob die Organisation genügt, bleibt offen.