FragenKann eine Maschine denken?Können Maschinen denken? So relevant wie die Frage, ob U-Boote schwimmen
Kann eine Maschine denken?Eine falsch gestellte Frage

Können Maschinen denken? So relevant wie die Frage, ob U-Boote schwimmen

U-Boote schwimmen nicht (Dijkstra)

Edsger W. Dijkstra 1930 · 2002Zu fragen, ob eine Maschine denken kann, ist ungefähr so nützlich wie zu fragen, ob ein U-Boot schwimmen kann: Besser ist es zu untersuchen, was Programme tatsächlich tun.
Profil ansehen
Was es behauptet

Daher ist die Frage „Kann eine Maschine denken?“ schlecht gestellt: Sie ist etwa so einschlägig wie „Kann ein U-Boot schwimmen?“. Besser untersucht man, was Programme tun und wie sie gebaut werden.

Warum

Wenn wir wissen, wie eine Maschine funktioniert, ändert die Frage, ob sie „denkt“, keine Tatsache: Es ist bloß eine Frage des Vokabulars.

Dieselbe Idee im Lauf der Geschichte
Ludwig Wittgenstein1953In den Philosophischen Untersuchungen (§ 360) lädt Wittgenstein dazu ein, das Wort „denken“ als Werkzeug zu sehen, und bemerkt, dass die Frage „Kann eine Maschine denken?“ den Gebrauch dieses Wortes betrifft.
Alan Turing1950Turing hält die Frage „Können Maschinen denken?“ für zu sinnlos, um erörtert zu werden, und schlägt vor, sie durch das Imitationsspiel zu ersetzen.
Edsger W. Dijkstra1984Dijkstra greift die Bemerkung in einem Satz auf, in einem Vortrag in Austin: Die Frage sei ungefähr so relevant wie die, ob U-Boote schwimmen können.
Kurz gesagt

„Können Maschinen denken? So relevant wie die Frage, ob U-Boote schwimmen“ ist ein Argument von Edsger W. Dijkstra (The threats to computing science (EWD898), 1984, 1984) zur Frage „Kann eine Maschine denken?“ (Antwort: eine falsch gestellte frage). Seine These: Daher ist die Frage „Kann eine Maschine denken?“ schlecht gestellt: Sie ist etwa so einschlägig wie „Kann ein U-Boot schwimmen?“. Besser untersucht man, was Programme tun und wie sie gebaut werden. Laut der Logikprüfung von AskPhilosophy (Z3-Solver) ist das Argument nur gültig, wenn man eine Prämisse zugesteht, die der Autor nicht ausdrücklich formuliert (P3). AskPhilosophy präsentiert 2 Einwände, davon 0 mit einer dokumentierten Erwiderung, sowie den Originaltext hinter jeder Prämisse, Wort für Wort geprüft.

The threats to computing science (EWD898), 1984
Gültig mit impliziter Prämisse

Im Jahr 1984 kritisiert der niederländische Informatiker Edsger Dijkstra in einem Vortrag in Austin den Geist seines Fachs in dessen Anfangszeit. Ihm zufolge waren die Väter des Fachs ziemlich verwirrt: Von Neumann verglich Computer und Gehirne, und Turing suchte nach Kriterien, um zu entscheiden, ob Maschinen denken können, eine Frage, von der „wir jetzt wissen“, dass sie ungefähr so relevant ist wie die, ob U-Boote schwimmen können. Er entwickelt den Gedanken nicht weiter. Das folgende Argument ist seine stärkste Rekonstruktion: Das Bild eines U-Boots, das sich unter Wasser fortbewegt, zeigt, dass die Antwort auf eine Frage über ein Wort keine Tatsache ändert. Eine Einschränkung: Dijkstra ist kein Philosoph, und er sagt nicht, dass Maschinen denken oder nicht denken. Er sagt, die Frage lenke von nützlicher Arbeit ab.

P1Ob ein U-Boot „schwimmt“, ist eine uninteressante Frage. Wir wissen, wie es sich fortbewegt, wie schnell, wie tief und wozu es dient. Wie auch immer die Antwort lautet, keine dieser Tatsachen ändert sich: Wir würden nur ein Wort wählen.
P2Dasselbe gilt für eine Maschine und das Verb „denken“: Was ein Programm tut (seine Berechnungen, Ergebnisse, Fehler), lässt sich beschreiben und überprüfen, ohne die Wortfrage zu entscheiden. Turing selbst hält sie für „zu sinnlos, um erörtert zu werden“.
P3 · implizite PrämisseEine Frage, deren Antwort keine Tatsache ändert, ist eine Frage des Vokabulars und für wissenschaftliche oder technische Arbeit nicht relevant.
Daher ist die Frage „Kann eine Maschine denken?“ schlecht gestellt: Sie ist etwa so einschlägig wie „Kann ein U-Boot schwimmen?“. Besser untersucht man, was Programme tun und wie sie gebaut werden.

klicke auf eine Prämisse, um sie zurückzuweisen

Wenn du alle Prämissen akzeptierst, zwingt dich die Logik dazu, auch die Konklusion zu akzeptieren. Die Debatte dreht sich also um die Prämissen.
Von einem Logik-Solver geprüft: Es ist unmöglich, dass alle Prämissen wahr und die Konklusion falsch sind.
Ohne die implizite Prämisse: Ohne P3 findet der Computer eine Frage, die nichts an den beobachtbaren Tatsachen ändert, aber dennoch relevant bleibt: zum Beispiel, ob die Maschine überhaupt etwas erlebt.
Gültig mit P3. Diese Prämisse ist anfechtbar: Eine Frage kann nichts daran ändern, was die Maschine tut, und dennoch etwas anderes betreffen, zum Beispiel, was die Maschine empfindet oder versteht. Die Einwände von Searle und Chalmers gehen in diese Richtung. Man beachte auch, dass die U-Boot-Analogie von Dijkstra stammt: Sie setzt voraus, dass „denken“ wie „schwimmen“ ein Wort ist, dessen Gebrauch eine Frage der Konvention ist.
Analogie. Ein Fisch schwimmt, ein Mensch schwimmt, ein Boot „pflügt“ durch die Wellen, ein U-Boot gleitet. Wo hört das Verb „schwimmen“ auf? Niemand gewinnt etwas dadurch, dies zu entscheiden. Das Bild vom U-Boot stammt von Dijkstra; diese Ausführung ist unsere.

Einwände

2

Jeder Einwand ist ein Gespräch: Klicke, um zu sehen, wer erwidert und wo die Debatte steht.

John Searle 1980 · greift die Schlussfolgerung an

Die Frage des Verstehens ist keine Frage der Wörter. Ein Computer, der einem Programm folgt, manipuliert Symbole, ohne zu wissen, was sie bedeuten: Er hat Syntax, aber keine Semantik. Ob ein Programm zum Verstehen genügt, ist für Searle „die richtige Frage“, und seine Antwort lautet Nein. Hier verändert die Antwort, was eine Maschine ist.

ohne Erwiderung
Argument ansehen
Wir haben in den Texten von Dijkstra noch keine direkte Antwort gefunden.
Wo die Debatte steht (unsere Zusammenfassung)Dijkstra stellt die Frage nach dem Wort beiseite; Searle vertritt, dass die Frage des Verstehens real ist und sich auch dann stellt, wenn man über das Wort „denken“ nicht streitet. Die Funktionalisten ihrerseits weisen Searles Argument zurück. Es gibt keinen Konsens: Alles hängt davon ab, was man unter „verstehen“ versteht.
David Chalmers 1995 · greift Prämisse 3 an

Selbst wenn wir die Wörter „denken“ und „verstehen“ beiseitelassen, bleibt eine Frage, die nicht sprachlicher Natur ist: Gibt es etwas, das es für diese Maschine bedeutet, diese Maschine zu sein? Chalmers spricht vom „wirklich schweren Problem“, dem der Erfahrung. Dass eine Antwort nichts am beobachtbaren Verhalten ändert, zeigt nicht, dass die Frage gegenstandslos ist.

ohne Erwiderung
Argument ansehen
Wir haben in den Texten von Dijkstra noch keine direkte Antwort gefunden.
Wo die Debatte steht (unsere Zusammenfassung)Offener Punkt. Dijkstra sprach nicht vom Bewusstsein, und wir haben von ihm keine Antwort auf diese Art von Einwand gefunden. Die einen halten die Frage der Erfahrung für real und von der Frage der Wörter verschieden, andere meinen, sie werde mit einem besseren Verständnis des Gehirns verschwinden.