Un problema apparentemente semplice, ma in realtà complesso, è il cosiddetto problema della cornice. Per capire di cosa si tratti, usiamo una piccola storiella ideata da John Haugeland

"C'erano una volta tre Scatole: Papà Scatola, Mamma Scatola e il piccolo Baby Scatola. Papà Scatola stava sul pavimento al centro dello loro modesta casetta, con Baby Scatola appollaiato sulla spalla; Mamma scatola sedeva tranquillamente accanto alla porta. All'improvviso, sferragliando sulle sue rotelline, entrò il robot Velocino, tutto desideroso di risolvere qualche problema. Si guardò intorno e poi con somma cura spinse Papà scatola fino alla parete opposta."
Immaginiamo ora di porre queste tre domande al robot 'intelligente' Velocino:
• Dov'è ora Papà scatola?
• Dov'è ora Mamma scatola?
• Dov'è ora Baby Scatola?
Velocino sa perfettamente dov'è Papà Scatola perché è lui che lo ha spinto fino alla parete. Per quanto riguarda Mamma Scatola e Baby, non avendoli toccati, il robot presumerebbe che siano rimasti dov'erano. Il fatto è che la sua azione di spostare Papà Scatola ha avuto un effetto collaterale: lo spostamento di Baby, poggiato sopra il papà. Dunque per rispondere alla terza domanda il robot dovrebbe tenere conto di questo effetto collaterale. Il problema è che i possibili effetti collaterali di una azione sono tantissimi. Ad esempio:
• Quando si è aperta la porta Baby è caduto per lo spostamento d'aria;
• Quando si è aperta la porta il gatto si è spaventato e ha fatto un salto su Papà Scatola che ha fatto cadere Baby;
• Quando si è aperta la porta la finestra si rotta;
Evidentemente, anche se il robot fosse dotato delle regole necessarie per farlo, calcolare tutti i possibili effetti collaterali di una azione sarebbe improponibile.

Naturalmente, in una situazione semplice come quella della famiglia di scatole non sarebbe difficile dare ad un programma informatico la capacità di tenere conto degli effetti collaterali rilevanti. Ma nella vita reale l'impresa è molto più complicata. Ad esempio, se entriamo in una casa e diamo una spinta al padrone di casa, egli potrebbe reagire, oppure la moglie potrebbe chiamare la polizia, o potrebbe arrivare un vicino e fermarci. Ogni nostra azione insomma ha una serie di conseguenze che ci costringono ad aggiornare continuamente la nostra conoscenza. E talvolta questi aggiornamenti sono radicali. Noi esseri umani siamo capaci di fare queste cose senza troppa difficoltà e in pochi secondi sin dalla tenera età.
In altri termini, in un sistema complesso, non possiamo conoscere le conseguenze delle nostre azioni, anche quelle che possono sembrare buone. Henry Ford credeva, con l’automobile, nell’idea di creare uno strumento di trasporto di massa, ma ha regalato al mondo anche il mezzo principale dell’inquinamento dell’ambiente.

Ma allora, la domanda di fondo che dobbiamo farci è: in che modo selezionare tra questo sterminato numero di conseguenze quelle rilevanti?