DomandePuò una macchina pensare?Un corpo, un mondo, una situazione: ciò che le regole non dicono
Può una macchina pensare?Serve un corpo vivente

Un corpo, un mondo, una situazione: ciò che le regole non dicono

La critica dell'IA di Dreyfus

Hubert Dreyfus 1929 · 2017L'intelligenza umana nasce da un corpo impegnato in un mondo, non da un insieme di regole: per questo i programmi che vogliono formalizzare tutto falliscono.
Vedi la scheda
Che cosa sostiene

Dunque l'IA simbolica non riesce a riprodurre l'intelligenza umana là dove questa poggia su questo saper fare, su questo sfondo e su questa situazione. Già nel 1965 Dreyfus vede che formalizzare il comportamento intelligente «esclude sistematicamente» queste forme di elaborazione dell'informazione proprie dell'essere umano.

Perché

L'intelligenza umana poggia su un saper fare del corpo e su un senso comune che non si riducono a regole esplicite.

La stessa idea attraverso la storia
Martin Heidegger1927In Essere e tempo, l'essere umano è anzitutto «essere-nel-mondo»: si destreggia con le cose prima di rappresentarsele. È la fonte a cui Dreyfus attinge.
Maurice Merleau-Ponty1945La Fenomenologia della percezione descrive il corpo proprio come ciò attraverso cui comprendiamo il mondo. Dreyfus lo cita già nel 1965 come una via possibile.
Ludwig Wittgenstein1953Wittgenstein osserva che non possiamo tracciare i confini esatti dei nostri concetti, e che seguire una regola non è applicare un'altra regola. Dreyfus lo cita già nel 1965.
Hubert Dreyfus1972Il libro What Computers Can't Do sviluppa la critica: il corpo, la situazione e i bisogni umani.
In breve

«Un corpo, un mondo, una situazione: ciò che le regole non dicono» è un argomento di Hubert Dreyfus (Alchemy and Artificial Intelligence, 1965; What Computers Can't Do, 1972, 1972) sulla domanda «Può una macchina pensare?» (risposta: serve un corpo vivente). La sua tesi: Dunque l'IA simbolica non riesce a riprodurre l'intelligenza umana là dove questa poggia su questo saper fare, su questo sfondo e su questa situazione. Già nel 1965 Dreyfus vede che formalizzare il comportamento intelligente «esclude sistematicamente» queste forme di elaborazione dell'informazione proprie dell'essere umano. Secondo la verifica logica di AskPhilosophy (solutore Z3), l'argomento è valido solo se si ammette una premessa che l'autore non formula (P4). AskPhilosophy presenta 3 obiezioni, 3 delle quali con una risposta documentata, e il testo originale di ciascuna premessa, verificato parola per parola.

Alchemy and Artificial Intelligence, 1965; What Computers Can't Do, 1972
Valido con una premessa implicita

All'inizio degli anni Sessanta i primi programmi giocano a scacchi e dimostrano teoremi, e i loro creatori annunciano che le macchine penseranno presto come noi. Hubert Dreyfus, filosofo formatosi alla fenomenologia, risponde che è un vicolo cieco. Quando un medico, un conducente o un parlante agisce bene, non segue un elenco di regole. Si appoggia su un saper fare acquisito da un corpo vivente, su uno sfondo di senso comune che nessuno ha mai scritto, e su un modo di cogliere ciò che conta nella situazione. Un'IA che vuole trasformare tutto in regole esplicite manca dunque l'essenziale. Precisazione importante: Dreyfus non dice che nessuna macchina penserà mai. Prende di mira un tipo preciso di IA, quella che manipola simboli secondo regole.

P1L'intelligenza umana poggia su un saper fare acquisito dal corpo, su uno sfondo di senso comune e su un modo di cogliere ciò che conta in una situazione.
P2Questo saper fare, questo sfondo e questa sensibilità alla situazione non si lasciano ridurre a regole esplicite. Dreyfus lo dice del linguaggio: il nostro uso delle parole, «pur essendo preciso, non è strettamente governato da regole».
P3L'IA simbolica (quella degli anni Cinquanta-Ottanta) scommette che l'intelligenza possa essere messa interamente in regole: l'elaborazione dell'informazione che sta alla base di qualsiasi prestazione intellettuale potrebbe essere scritta sotto forma di programma.
P4 · premessa implicitaSe una capacità non si riduce a regole esplicite e se per riprodurla si hanno solo regole esplicite, non è possibile riprodurla.
Dunque l'IA simbolica non riesce a riprodurre l'intelligenza umana là dove questa poggia su questo saper fare, su questo sfondo e su questa situazione. Già nel 1965 Dreyfus vede che formalizzare il comportamento intelligente «esclude sistematicamente» queste forme di elaborazione dell'informazione proprie dell'essere umano.

clicca su una premessa per rifiutarla

Se accetti tutte le premesse, la logica ti obbliga ad accettare la conclusione. Il dibattito riguarda dunque le premesse.
Verificato da un solutore logico: è impossibile che tutte le premesse siano vere e la conclusione falsa.
Senza la premessa implicita: Senza P4, il computer trova un mondo in cui una capacità irriducibile a regole potrebbe comunque essere riprodotta da un programma che ha solo regole.
Valida con P4. Questa premessa nascosta è quasi una definizione: un programma di IA simbolica è fatto di regole esplicite. Il punto d'attacco è altrove, in P2: mostrare che un saper fare è irriducibile a regole è molto difficile, ed è lì che incidono le obiezioni. Lo stesso Dreyfus ne limita la portata: nel suo riassunto del 1965, su quattro tipi di attività intelligente, solo due si possono programmare senza queste forme umane di elaborazione dell'informazione.
Analogia. Imparare ad andare in bicicletta da un manuale: «se ti pieghi a sinistra, gira il manubrio a sinistra di un angolo proporzionale…». Nessuno va in bicicletta applicando queste regole. L'esperto possiede un saper fare nel corpo, e il manuale, anche perfetto, ne dà solo l'ombra. L'immagine viene dai commentatori di Dreyfus, non da lui.

Obiezioni

3

Ogni obiezione è una conversazione: clicca per vedere chi risponde e a che punto è il dibattito.

J
John McCarthy, Marvin Minsky, Nathaniel Rochester, Claude Shannon 1955 · attacca la premessa 2

Il progetto fondativo dell'IA parte dalla congettura opposta: ogni aspetto dell'apprendimento o qualsiasi altra caratteristica dell'intelligenza può in linea di principio essere descritto in modo così preciso che una macchina possa simularlo. Un saper fare che non sappiamo ancora scrivere è un problema da risolvere, non un limite.

un difensore risponde
Hubert Dreyfus difensore dell'argomento · 1965
Dreyfus risponde esaminando i programmi esistenti (giochi, traduzione automatica, riconoscimento di forme). Le difficoltà incontrate non sono dovute alla potenza delle macchine: l'analisi del comportamento intelligente in linguaggio informatico lascia sistematicamente da parte tre forme umane di elaborazione dell'informazione (la coscienza marginale, la distinzione tra essenziale e accidentale, la tolleranza dell'ambiguità).
M
Marvin Minsky 1974
Riassunto: Minsky propone i «frame» (strutture di conoscenza) che descrivono una situazione tipo (una stanza, una festa di compleanno) con le sue aspettative abituali. È un modo di scrivere il senso comune e il contesto, che secondo Dreyfus non potevano essere formalizzati.
Vedi il seguito del dibattito (1)
Hubert Dreyfus 1992
Riassunto: nell'introduzione a What Computers Still Can't Do, Dreyfus ritiene che i frame spostino il problema senza risolverlo: bisogna ancora decidere quale frame si adatti alla situazione presente, e questa scelta dipende da ciò che conta per qualcuno in un mondo, cosa che nessun frame contiene.
A che punto è il dibattito (nostra sintesi)Il disaccordo di fondo riguarda la possibilità di scrivere il senso comune. I ricercatori di IA hanno provato a farlo per decenni (frame, grandi basi di conoscenza) con risultati limitati, che Dreyfus legge come una conferma. I loro difensori rispondono che l'impresa è immensa ma non impossibile.
David Rumelhart, James McClelland e il gruppo PDP 1986 · attacca la premessa 4

Le reti neurali (connessionismo) non hanno regole scritte: apprendono a partire da esempi e regolano migliaia di connessioni. Ciò che sanno non è un elenco di regole esplicite, eppure è una macchina. La critica all'IA simbolica non tocca dunque la macchina in generale.

un difensore risponde
Hubert Dreyfus difensore dell'argomento · 1992
Riassunto: Dreyfus concede in parte questo punto. Le reti sfuggono alla critica delle regole, quindi sono una via più promettente dell'IA simbolica. Ma dubita che possano raggiungere un saper fare umano finché non hanno né corpo, né bisogni, né un mondo in cui le cose contino per loro: senza questo, generalizzano senza sapere che cosa sia rilevante.
A che punto è il dibattito (nostra sintesi)Entrambi gli schieramenti concordano su un punto: una rete neurale non applica regole esplicite. Il disaccordo riguarda ciò che ne consegue: può l'apprendimento su larga scala ritrovare, senza corpo né vita, la sensibilità alla situazione che Dreyfus ritiene propria degli esseri viventi? I recenti successi dell'apprendimento profondo hanno riaperto questa questione senza risolverla.
R
Rodney Brooks 1991 · attacca la conclusione

Brooks concorda sul fatto che le rappresentazioni simboliche siano d'intralcio: per un'intelligenza semplice è meglio usare il mondo come proprio modello. Ma ne trae una conclusione diversa: si possono costruire robot dotati di un corpo che agiscono in uffici reali senza supervisione. Il corpo, dunque, non è un ostacolo per le macchine, è una soluzione.

un difensore risponde
Hubert Dreyfus difensore dell'argomento · 2007
Riassunto: in «Why Heideggerian AI Failed», Dreyfus riconosce che Brooks va nella direzione giusta (un corpo, nessun modello centrale), ma osserva che questi robot non sono andati oltre il livello degli insetti. A suo avviso manca loro ancora ciò che rende le cose rilevanti per un essere vivente: bisogni propri e un corpo che si adatta a ciò che per lui conta.
A che punto è il dibattito (nostra sintesi)Dreyfus e Brooks concordano nel rifiutare il modello centrale di rappresentazioni. Divergono su ciò che bisogna aggiungere: per Brooks, un corpo di robot in un mondo reale basta per progredire passo dopo passo; per Dreyfus, servono un corpo con dei bisogni e un mondo in cui le cose contano. Questione aperta.