Preguntas¿Puede pensar una máquina?El argumento de Gödel contra el mecanicismo
¿Puede pensar una máquina?Falta la comprensión

El argumento de Gödel contra el mecanicismo

El argumento de Lucas-Penrose

John Randolph Lucas 1929 · 2020Filósofo de Oxford: según él, el teorema de Gödel muestra que una mente no es una máquina.
Ver su ficha
Lo que sostiene

Por tanto, la mente no es una máquina: ninguna máquina puede ser un modelo completo de la mente.

Por qué

Vemos que una fórmula es verdadera, mientras que ninguna máquina coherente puede producirla.

La misma idea a lo largo de la historia
Kurt Gödel1951En su conferencia Gibbs, Gödel no llega a una conclusión. Enuncia una disyunción: o bien la mente humana supera infinitamente a cualquier máquina finita, o bien existen problemas matemáticos absolutamente insolubles. No dice cuál de las dos es cierta.
John Randolph Lucas1961Lucas, filósofo de Oxford, extrae de ello una prueba: para toda máquina, se puede producir una fórmula que ella no demuestra y que la mente ve que es verdadera. Esta es la forma que presentamos.
Roger Penrose1989Roger Penrose retoma la idea en La nueva mente del emperador (1989) y después en Shadows of the Mind (1994), con una versión más precisa. Concluye que comprender no es un cálculo y busca una física que no sea computable.
En resumen

«El argumento de Gödel contra el mecanicismo» es un argumento de John Randolph Lucas (Lucas, «Minds, Machines and Gödel», 1961; Penrose, La nueva mente del emperador, 1989, 1961) sobre la pregunta «¿Puede pensar una máquina?» (respuesta: falta la comprensión). Su tesis: Por tanto, la mente no es una máquina: ninguna máquina puede ser un modelo completo de la mente. Según la verificación lógica de AskPhilosophy (solucionador Z3), el argumento es válido solo si se admite una premisa que el autor no formula (P3, P4). AskPhilosophy presenta 3 objeciones, 3 de ellas con una réplica documentada, y el texto original de cada premisa, verificado palabra por palabra.

Lucas, «Minds, Machines and Gödel», 1961; Penrose, La nueva mente del emperador, 1989
Válido con una premisa implícita

En 1931, Kurt Gödel demostró un célebre resultado: en todo sistema formal coherente lo bastante rico como para hacer aritmética, existe una fórmula verdadera que el sistema no puede demostrar. Ahora bien, un ordenador, dice John Lucas (1961), es una realización concreta de un sistema formal. Por tanto, para todo ordenador que se quiera presentar como modelo de la mente, existe una fórmula que no puede afirmar como verdadera, mientras que nosotros vemos que lo es. La mente haría entonces algo que la máquina no hace. Roger Penrose (1989, 1994) retoma el argumento y lo refuerza. Casi todos los especialistas en lógica ven en él un fallo, pero no se ponen de acuerdo sobre cuál es.

P1Si la mente es una máquina, es la realización concreta de un sistema formal. Según Gödel, si este sistema es coherente y capaz de aritmética, existe una fórmula que la máquina no puede producir como verdadera.
P2Nosotros, que estamos fuera del sistema, podemos ver que esta fórmula es verdadera, siempre que el sistema sea coherente.
P3 · premisa implícitaLa mente humana es coherente, y puede verlo: sabe que la máquina que supuestamente la representa es coherente.
P4 · premisa implícitaSi la mente ve que una fórmula es verdadera, entonces puede producirla como verdadera: hay algo que la mente hace y que la máquina no hace.
Por tanto, la mente no es una máquina: ninguna máquina puede ser un modelo completo de la mente.

haz clic en una premisa para rechazarla

Si aceptas todas las premisas, la lógica te obliga a aceptar la conclusión. Por tanto, el debate gira en torno a las premisas.
Verificado por un solucionador lógico: es imposible que todas las premisas sean verdaderas y la conclusión falsa.
Sin la premisa implícita: Sin P3, el ordenador encuentra un mundo en el que la mente es una máquina, en el que la fórmula de Gödel solo es demostrable si la máquina es incoherente, y en el que la mente no puede saber si es así: por tanto, no ve que la fórmula sea verdadera.
Válido con P3 y P4, que Lucas admite o debe admitir. Sin P3, no se puede pasar de «si el sistema es coherente, la fórmula es verdadera» a «la fórmula es verdadera». Casi todas las críticas se dirigen contra P3: ¿se puede saber que uno es coherente, y que la máquina que nos representa lo es?
Analogía. Un jugador dice: «Le gano a cualquier programa de ajedrez que me muestres, porque encuentro la posición en la que falla». Esto funciona siempre que el jugador esté seguro de no fallar él mismo, que es precisamente lo que se discute.

Objeciones

3

Cada objeción es una conversación: haz clic para ver quién responde y en qué punto está el debate.

Hilary Putnam 1960 · ataca la premisa 3

Un sistema no puede demostrar su propia coherencia desde dentro (segundo teorema de Gödel). Una mente humana tampoco puede hacerlo respecto de sí misma. Nada prueba, pues, que un humano vea la verdad de la fórmula de Gödel: puede ser una máquina, quizá incoherente.

un defensor responde
ver el argumento
John Lucas defensor del argumento · 1961
Lucas responde que los humanos, aunque a veces se equivoquen, no son incoherentes: son falibles, y rechazan una idea que lleva a una contradicción. Un sistema verdaderamente incoherente aceptaría cualquier cosa. Concluye que se puede suponer que la mente es coherente.
P
Paul Benacerraf 1967
Benacerraf responde que el razonamiento de Lucas prueba, como mucho, una disyunción: o bien la mente no es una máquina, o bien no podemos conocer la máquina que la describe, ni probar que es coherente. Si la mente es una máquina, nada obliga a que podamos ver la fórmula que se le escapa.
Ver el resto del debate (1)
Roger Penrose 1994
Penrose responde en Shadows of the Mind que un matemático que cree que sus razonamientos son correctos no puede creer al mismo tiempo que un programa determinado los describe: tendría que creerlo tan correcto como él mismo, lo que lo conduce a una contradicción.
En qué punto está el debate (nuestro resumen)El punto de desacuerdo de fondo: ¿sabemos que somos coherentes? Lucas dice que sí, al menos en lo esencial. Sus críticos dicen que el conocimiento humano es falible, y que eso basta para bloquear el argumento. La mayoría de los lógicos consideran que esta objeción es decisiva.
Alan Turing 1950 · ataca la conclusión

Cada máquina es incapaz de responder a ciertas preguntas, pero cada humano también se equivoca. Nuestra superioridad solo se siente frente a la máquina concreta que hemos vencido, nunca frente a todas las máquinas a la vez.

un defensor responde
ver el argumento
John Lucas defensor del argumento · 1961
Lucas responde que la cuestión no es quién es superior, sino si la mente y la máquina son lo mismo. El mecanicista debe proponer una única máquina capaz de todo lo que hace la mente. Para cualquier máquina dada, la mente sabe algo que ella no puede saber.
En qué punto está el debate (nuestro resumen)El punto de desacuerdo: ¿basta con que un ser humano venza a cada máquina, una tras otra, para que no sea una máquina? Lucas dice que sí, porque el mecanicista debe proponer una única máquina. Sus críticos responden que el ser humano podría ser una máquina que no puede identificar. Punto abierto.
S
Solomon Feferman 1995 · ataca la premisa 2

Penrose supone que un matemático puede ver que las reglas que utiliza son correctas y deducir luego la fórmula de Gödel de esas reglas. Feferman examina de cerca este paso: saber que un sistema es correcto no es algo que se haga con ese sistema, y la forma precisa del argumento de Penrose no lo justifica.

un defensor responde
Roger Penrose defensor del argumento · 1996
Penrose respondió a sus críticos en un artículo de la revista Psyche. Allí mantiene que la comprensión matemática no puede ser reemplazada por un algoritmo que sepamos correcto, y detalla los pasos de su razonamiento.
En qué punto está el debate (nuestro resumen)El punto de desacuerdo: ¿comprender las matemáticas requiere saber que nuestras reglas son correctas, más allá de cualquier demostración formal? Penrose dice que sí; sus críticos dicen que ese es el paso que habría que justificar. Punto abierto: no hay una respuesta ampliamente aceptada.