La habitación china
El argumento de la habitación china (Searle)
Por lo tanto, ejecutar un programa no basta para comprender. Ningún programa, por sí solo, constituye una mente: haría falta algo más, como los poderes causales de un cerebro.
Un programa manipula símbolos únicamente por su forma, lo cual no basta para comprender lo que significan.
«La habitación china» es un argumento de John Searle («Minds, Brains, and Programs», 1980; «Is the Brain's Mind a Computer Program?», 1990, 1980) sobre la pregunta «¿Puede pensar una máquina?» (respuesta: falta la comprensión). Su tesis: Por lo tanto, ejecutar un programa no basta para comprender. Ningún programa, por sí solo, constituye una mente: haría falta algo más, como los poderes causales de un cerebro. Según la verificación lógica de AskPhilosophy (solucionador Z3), la conclusión se sigue efectivamente de sus 3 premisas. AskPhilosophy presenta 6 objeciones, 5 de ellas con una réplica documentada, y el texto original de cada premisa, verificado palabra por palabra.
Imagina que estás encerrado en una habitación. Por una ranura te pasan textos en chino, que no sabes leer: para ti son solo dibujos. Tienes un gran manual de reglas, escrito en inglés, que dice: «cuando recibas esta serie de signos, devuelve esta otra serie». Sigues las reglas y devuelves signos. Desde fuera, tus respuestas son las de un verdadero hablante de chino. Pero tú no has entendido ni una palabra. John Searle (1980) concluye que incluso un computador que superara la prueba de Turing no entendería nada: haría como tú, seguiría reglas sobre formas. El significado no proviene solo de las reglas. El argumento apunta a la tesis de la IA «fuerte» (pensar es ejecutar el programa adecuado), no a la idea de que una máquina pueda pensar algún día. El propio Searle dice que el cerebro es una máquina que piensa.
haz clic en una premisa para rechazarla
Objeciones
6Cada objeción es una conversación: haz clic para ver quién responde y en qué punto está el debate.
La respuesta del sistema (Berkeley) 1980 · ataca la premisa 3El hombre solo no comprende chino, es cierto. Pero es solo una parte de un conjunto: el hombre, el manual, el papel, las listas de signos. Es este conjunto el que comprende, igual que una neurona no comprende nada y, sin embargo, un cerebro sí.
Searle responde
El hombre solo no comprende chino, es cierto. Pero es solo una parte de un conjunto: el hombre, el manual, el papel, las listas de signos. Es este conjunto el que comprende, igual que una neurona no comprende nada y, sin embargo, un cerebro sí.
Ver el resto del debate (1)
LLa respuesta del robot (Yale) 1980 · ataca la premisa 2Pongamos el ordenador dentro de un robot, con una cámara, brazos y piernas. El robot ve, actúa, vive en el mundo. El significado proviene del vínculo con las cosas, no de los meros signos: el robot sí comprendería.
Searle responde
Pongamos el ordenador dentro de un robot, con una cámara, brazos y piernas. El robot ve, actúa, vive en el mundo. El significado proviene del vínculo con las cosas, no de los meros signos: el robot sí comprendería.
La respuesta del simulador de cerebro (Berkeley y MIT) 1980 · ataca la premisa 3Escribamos un programa que simule, neurona por neurona, el cerebro de un hablante de chino. Recibe chino como entrada, imita la estructura de sus sinapsis y devuelve chino como salida. Negarse a decir que comprende sería negarse a decirlo del propio cerebro.
Searle responde
Escribamos un programa que simule, neurona por neurona, el cerebro de un hablante de chino. Recibe chino como entrada, imita la estructura de sus sinapsis y devuelve chino como salida. Negarse a decir que comprende sería negarse a decirlo del propio cerebro.
Ver el resto del debate (1)
LLa respuesta de las otras mentes (Yale) 1980 · ataca la conclusión¿Cómo sabe usted que otras personas entienden chino, o cualquier otra cosa? Solo por su comportamiento. El ordenador puede superar las mismas pruebas. Si atribuimos pensamiento a los demás sobre esa base, debemos atribuírselo también al ordenador. Esta es la posición de Turing: la prueba de comportamiento es nuestro único criterio.
Searle responde
¿Cómo sabe usted que otras personas entienden chino, o cualquier otra cosa? Solo por su comportamiento. El ordenador puede superar las mismas pruebas. Si atribuimos pensamiento a los demás sobre esa base, debemos atribuírselo también al ordenador. Esta es la posición de Turing: la prueba de comportamiento es nuestro único criterio.
Paul y Patricia Churchland (la habitación luminosa) 1990 · ataca la premisa 3Imaginemos a alguien que agita un imán en una habitación oscura: no aparece ninguna luz. ¿Debemos concluir que la luz no está hecha de ondas electromagnéticas? No: la habitación es demasiado lenta. Del mismo modo, el experimento de Searle, demasiado lento, no demuestra que la sintaxis nunca pueda producir significado.
Searle responde
Imaginemos a alguien que agita un imán en una habitación oscura: no aparece ninguna luz. ¿Debemos concluir que la luz no está hecha de ondas electromagnéticas? No: la habitación es demasiado lenta. Del mismo modo, el experimento de Searle, demasiado lento, no demuestra que la sintaxis nunca pueda producir significado.
Daniel Dennett 1980 · ataca la conclusiónLa idea de un poder especial del cerebro, que produciría «intencionalidad» como se produce la leche, no está explicada: Searle no dice qué sería ese poder. Para Dennett, el cerebro también es una máquina, y nada impide que otra máquina haga lo mismo.
sin respuesta
La idea de un poder especial del cerebro, que produciría «intencionalidad» como se produce la leche, no está explicada: Searle no dice qué sería ese poder. Para Dennett, el cerebro también es una máquina, y nada impide que otra máquina haga lo mismo.