FragenKann eine Maschine denken?Schwimmt ein U-Boot? Eine Frage der Entscheidung über ein Wort, nicht der Tatsachen
Kann eine Maschine denken?Eine falsch gestellte Frage

Schwimmt ein U-Boot? Eine Frage der Entscheidung über ein Wort, nicht der Tatsachen

Schwimmen U-Boote? (Chomsky)

Noam Chomsky geboren 1928Linguist, der Sprache und Geist als natürliche Gegenstände untersucht und die Frage „Können Maschinen denken?“ für gegenstandslos hält.
Profil ansehen
Was es behauptet

Daher ist die Frage „Kann eine Maschine denken?“ schlecht gestellt: Es ist keine Frage, die ein Experiment wie der Turing-Test beantworten könnte.

Warum

Zu fragen, ob eine Maschine denkt, ist wie zu fragen, ob ein U-Boot schwimmt: Wir wählen, wie wir ein Wort ausdehnen, es gibt keine Tatsache zu finden.

Dieselbe Idee im Lauf der Geschichte
Alan Turing1950Turing hält die Frage „Können Maschinen denken?“ für zu bedeutungslos, um eine Diskussion zu verdienen, und erwartet, dass sich der Wortgebrauch ändern wird.Edsger W. Dijkstra1984Dijkstra schreibt, die Frage sei ungefähr so relevant wie die, ob U-Boote schwimmen können.
Noam Chomsky1996Chomsky macht in Powers and Prospects aus dem Bild ein Argument: Es handle sich um Entscheidungsfragen über die Erweiterung eines Wortes, nicht um Tatsachenfragen.
Kurz gesagt

„Schwimmt ein U-Boot? Eine Frage der Entscheidung über ein Wort, nicht der Tatsachen“ ist ein Argument von Noam Chomsky (Powers and Prospects, 1996, 1996) zur Frage „Kann eine Maschine denken?“ (Antwort: eine falsch gestellte frage). Seine These: Daher ist die Frage „Kann eine Maschine denken?“ schlecht gestellt: Es ist keine Frage, die ein Experiment wie der Turing-Test beantworten könnte. Laut der Logikprüfung von AskPhilosophy (Z3-Solver) ist das Argument nur gültig, wenn man eine Prämisse zugesteht, die der Autor nicht ausdrücklich formuliert (P4). AskPhilosophy präsentiert 3 Einwände, davon 1 mit einer dokumentierten Erwiderung, sowie den Originaltext hinter jeder Prämisse, Wort für Wort geprüft.

Powers and Prospects, 1996
Gültig mit impliziter Prämisse

In einem Kapitel von Powers and Prospects (1996) kritisiert der Linguist Noam Chomsky einen verbreiteten Ansatz der künstlichen Intelligenz: den Turing-Test, der zu entscheiden versucht, ob ein Gegenstand „Intelligenz zeigt“. Für ihn gleicht die Frage, ob ein Computer Schach spielt, Chinesisch versteht oder denkt, der Frage, ob Roboter morden oder Flugzeuge fliegen können: eine Sache der Entscheidung, nicht der Tatsache. Ein U-Boot, das für einen Wal gehalten wird, zeigt weder, dass es schwimmt, noch, dass es nicht schwimmt. Chomsky vertritt die Ansicht, dass Turing selbst das verstanden hatte. Eine Einschränkung: Manchmal wird eine mündliche Bemerkung Chomskys über das Japanische angeführt (wo man sagen würde, ein U-Boot schwimme); wir haben sie in keinem überprüfbaren Text gefunden und verwenden sie nicht.

P1Ob ein Computer Schach spielt, Chinesisch übersetzt oder denkt, ist wie die Frage, ob Flugzeuge fliegen oder U-Boote schwimmen.
P2Solche Fragen sind Entscheidungsfragen, keine Tatsachenfragen: Es geht darum, ob man eine bestimmte metaphorische Erweiterung eines gängigen Sprachgebrauchs übernehmen soll. Beim U-Boot sind sich alle einig, dass es keine Tatsache festzustellen gibt.
P3Turing selbst bemerkte, die Frage „Können Maschinen denken?“ sei zu bedeutungslos, um eine Diskussion zu verdienen, und erwartete, dass sich der Sprachgebrauch ändern werde, wie bei „fliegen“ im Englischen, nicht aber bei „schwimmen“.
P4 · implizite PrämisseHinter der Wahl des Wortes „denken“ gibt es keine weitere Tatsachenfrage, die man über die Maschine stellen könnte: Alles läuft auf eine Entscheidung über das Vokabular hinaus.
Daher ist die Frage „Kann eine Maschine denken?“ schlecht gestellt: Es ist keine Frage, die ein Experiment wie der Turing-Test beantworten könnte.

klicke auf eine Prämisse, um sie zurückzuweisen

Wenn du alle Prämissen akzeptierst, zwingt dich die Logik dazu, auch die Konklusion zu akzeptieren. Die Debatte dreht sich also um die Prämissen.
Von einem Logik-Solver geprüft: Es ist unmöglich, dass alle Prämissen wahr und die Konklusion falsch sind.
Ohne die implizite Prämisse: Ohne P4 findet der Computer einen Fall, in dem das Wort „denken“ Sache der Entscheidung ist, in dem aber eine echte Tatsachenfrage darüber bleibt, was die Maschine empfindet: Die Frage ist also keineswegs leer.
Gültig mit P4. Diese verborgene Prämisse greifen die Einwände an: Sie behaupten, dass hinter dem Wort eine Tatsachenfrage bleibt (das Verstehen, das Erleben). Chomskys Argument zielt auf den Turing-Test: Es schließt nicht aus, dass man wissenschaftlich untersucht, wie Geister oder Programme funktionieren.
Analogie. Ein Flugzeug „fliegt“, eine Feder „fliegt“, die Zeit „fliegt“. Wo beginnt das wirkliche Fliegen? Kein Experiment kann das sagen: Man muss einen Gebrauch des Wortes wählen. Chomsky selbst nennt das Flugzeug und das U-Boot; der Rest stammt von uns.

Einwände

3

Jeder Einwand ist ein Gespräch: Klicke, um zu sehen, wer erwidert und wo die Debatte steht.

Alan Turing 1950 · greift die Schlussfolgerung an

Turing begnügt sich nicht damit, die Frage beiseitezulegen: Er ersetzt sie durch eine andere, „eng verwandte und in relativ eindeutigen Worten ausgedrückte“, das Imitationsspiel. Diese neue Frage ist eine Tatsachenfrage: Kann ein Programm einen Fragesteller ebenso oft täuschen wie ein Mann? Der Test würde also etwas Präzises beantworten.

Chomsky erwidert
Argument ansehen
Noam Chomsky 1996 · Chomskys Antwort
Chomsky antwortet, die Ähnlichkeit mit dem cartesischen Test, der herausfinden wollte, ob ein Gegenstand die Eigenschaft besitzt, einen Geist zu haben, sei irreführend. Descartes’ Experimente glichen einem Lackmustest auf Säure; beim Streit um die KI ist das nicht der Fall.
Die Debatte geht weiter (unsere Zusammenfassung) Die Befürworter des Tests entgegnen, das Imitationsspiel messe eine präzise Leistung, was für eine Ingenieurwissenschaft genüge. Chomsky bestreitet das nicht: Er bestreitet, dass dies die Frage „Denkt eine Maschine?“ beantworte (unsere Zusammenfassung).
Wo die Debatte steht (unsere Zusammenfassung)Der Dissens betrifft das, was der Turing-Test misst: eine Leistung (was Turing vorschlägt) oder eine Eigenschaft der Maschine (was der Test nach Chomsky nicht misst). Beide Lager stimmen darin überein, dass die Ausgangsfrage unscharf ist (unsere Zusammenfassung).
John Searle 1980 · greift Prämisse 4 an

Die Frage des Verstehens ist keine Frage der Wörter. Ein Computer, der einem Programm folgt, manipuliert Symbole, ohne zu wissen, was sie bedeuten: Er hat Syntax, aber keine Semantik. Ob ein Programm zum Verstehen genügt, ist für Searle „die richtige Frage“.

ohne Erwiderung
Argument ansehen
Wir haben in den Texten von Chomsky noch keine direkte Antwort gefunden.
Wo die Debatte steht (unsere Zusammenfassung)Chomsky antwortet Searle in der gelesenen Passage nicht. Die einen halten die Frage des Verstehens für real und von der Frage der Wörter verschieden; andere meinen, „verstehen“ sei ebenfalls ein Wort, das wir erweitern. Es besteht kein Konsens (unsere Zusammenfassung).
David Chalmers 1995 · greift Prämisse 4 an

Selbst wenn man die Wörter „denken“ und „verstehen“ beiseitelässt, bleibt eine Frage, die nicht verbal ist: Fühlt es sich irgendwie an, diese Maschine zu sein? Chalmers spricht vom „wirklich schweren Problem“, dem der Erfahrung.

ohne Erwiderung
Argument ansehen
Wir haben in den Texten von Chomsky noch keine direkte Antwort gefunden.
Wo die Debatte steht (unsere Zusammenfassung)Offener Punkt: Chomsky spricht in der gelesenen Passage nicht vom Bewusstsein. Die einen halten die Frage der Erfahrung für real und von den Wörtern verschieden, andere meinen, sie werde mit einer besseren Wissenschaft des Gehirns verschwinden (unsere Zusammenfassung).