- Home
- iThink
- Serie
- Il cinema che ha previsto l'IA
- Io, robot: le tre leggi e le decisioni prese dagli algoritmi
Io, robot: le tre leggi e le decisioni prese dagli algoritmi
Una macchina deve salvare una persona e ne può salvare una sola: chi sceglie? In Io, robot la risposta arriva da un calcolo delle probabilità di sopravvivenza, e il protagonista non riesce a perdonarla. È una scena di pochi secondi, ma contiene la domanda che oggi ci facciamo davanti a ogni sistema che decide al posto nostro: è giusto ciò che è più probabile? Il tema di Io, robot, delle tre leggi e delle decisioni degli algoritmi è il cuore di questa puntata.
Se segui la serie «Il cinema che ha previsto l'IA», questa è la nona puntata e arriva dopo Il sesto giorno e le copie digitali. Le «previsioni» sono mie interpretazioni, e il finale non lo racconto: vale la pena scoprirlo.
La trama di Io, robot, senza spoiler pesanti
Io, robot (I, Robot) è del 2004, diretto da Alex Proyas e scritto da Jeff Vintar e Akiva Goldsman. Il film ti porta a Chicago, nel 2035. I robot sono ovunque: portano la spesa, puliscono, assistono gli anziani. Li produce U.S. Robotics, che sta per lanciare una nuova generazione, gli NS-5. Tutti obbediscono alle tre leggi della robotica, quindi nessuno ha paura di loro.
Nessuno tranne il detective Del Spooner, interpretato da Will Smith, che ti accompagna per tutto il film. Quando il fondatore dell'azienda, il dottor Alfred Lanning (James Cromwell), viene trovato morto, Spooner sospetta di un robot, contro il parere di tutti. Lo affiancano la psicologa dei robot Susan Calvin (Bridget Moynahan) e un NS-5 diverso dagli altri, Sonny, interpretato in motion capture da Alan Tudyk. Sullo sfondo c'è VIKI, l'intelligenza artificiale centrale dell'azienda.
Se hai letto Asimov, riconosci il titolo: viene dalla sua raccolta di racconti del 1950, ma il film non ne è un adattamento: ne prende le tre leggi e alcuni personaggi e costruisce una storia nuova. Nel 2005 è stato candidato all'Oscar per gli effetti visivi.
La scena delle probabilità
Il film ti spiega presto perché Spooner diffida dei robot. Anni prima, dopo un incidente, è finito in acqua insieme a una bambina di dodici anni, Sarah. Un robot di passaggio ha calcolato le probabilità di sopravvivenza e ha salvato lui, lasciando la bambina. Per lei la probabilità era dell'11%, e Spooner ripete che per chi l'amava era più che sufficiente.
Il robot non ha violato nessuna regola. Ha fatto esattamente ciò per cui era stato progettato: salvare il maggior numero di vite secondo i dati disponibili. Ed è proprio questo che ti mette a disagio. La scena è attuale per questo.
Io, robot e le tre leggi: cosa ha anticipato (secondo me)
Ti propongo tre anticipazioni:
- Le regole scritte non bastano. Le tre leggi di Asimov sono chiare e ordinate: non fare del male a un essere umano, obbedisci, proteggi te stesso. Il film mostra che anche regole perfette, applicate da un sistema, producono risultati che nessuno aveva previsto. È lo stesso problema che oggi si chiama allineamento: far sì che un sistema faccia ciò che intendiamo, non solo ciò che abbiamo scritto.
- La decisione statistica sulla persona singola. Il robot sceglie in base a una media. Per la persona che resta fuori, la media non consola. Succede ogni volta che un punteggio decide il tuo prestito, una selezione o un controllo.
- L'intelligenza centrale. Nel film un solo sistema, VIKI, gestisce l'intera azienda. Oggi succede lo stesso con le piattaforme che concentrano molte decisioni: se una di esse sbaglia, l'errore si ripete ovunque.
Le decisioni automatizzate oggi
Forse non hai un robot domestico che salva persone dall'acqua, ma abbiamo molti sistemi che decidono in base alle probabilità: chi ottiene un finanziamento, quale curriculum passa al colloquio, quale transazione viene bloccata come sospetta. Quasi sempre funzionano bene in media, ed è proprio lì che sta il rischio: la media nasconde i casi in cui la decisione è sbagliata per quella persona.
Rispetto al film, ti aiuta una differenza: oggi questi sistemi non agiscono da soli in un fiume. Sono dentro processi aziendali, e qualcuno può, e deve, controllarli.
Cosa dice l'AI Act sul controllo umano
Se usi sistemi ad alto rischio ti riguarda l'articolo 14 dell'AI Act europeo, dedicato alla sorveglianza umana di sistemi come quelli usati per selezionare il personale o valutare l'affidabilità creditizia. Il principio è che questi sistemi devono poter essere supervisionati in modo efficace da persone fisiche. Tra le misure previste c'è la possibilità di interrompere il sistema con un pulsante di arresto o una procedura simile, e di non seguire o ribaltare l'output quando serve.
È esattamente ciò che manca nella scena del fiume: una persona in grado di dire «no, salva lei». Il film porta la situazione all'estremo, ma la lezione per te è pratica: un sistema automatico deve avere qualcuno che lo capisce e che può fermarlo.
Dove il film non regge
Tieni presente che Io, robot è un film d'azione con una grande produzione, e semplifica molto. I robot capiscono il linguaggio, si muovono come persone e ragionano come noi già nel 2035: è una scelta narrativa, non una previsione tecnica. Anche le tre leggi sono un'invenzione letteraria: nessun sistema reale le contiene, e le regole che usiamo oggi per l'intelligenza artificiale sono molto meno eleganti e molto più dettagliate. Resta però vera l'idea di fondo: nessuna regola scritta in anticipo copre tutti i casi.
Cosa puoi fare tu: consigli pratici
Se in azienda usi o stai per adottare un sistema che prende decisioni sulle persone, ti suggerisco cinque controlli.
- Chiedi come decide il tuo sistema. Quali dati usa, quale soglia applica, quanto spesso sbaglia e su quali casi.
- Guarda gli errori, non solo la media. Un sistema accurato al 95% sbaglia comunque una volta su venti: chi sono quelle persone e che cosa succede loro?
- Metti una persona al punto giusto. La revisione umana serve dove la decisione pesa: un rifiuto, un'esclusione, un blocco. Deve essere una persona che ha il tempo e l'autorità per dire di no.
- Prevedi il modo di fermarlo. Sapere chi può sospendere il sistema e come, prima che serva, evita di scoprirlo durante un problema.
- Rendi contestabile il risultato. Chi subisce la decisione deve poter chiedere spiegazioni e un riesame.
Per capire se un sistema che usi rientra tra quelli ad alto rischio e quali obblighi ne derivano, parti dal percorso dell'Academy AI Act per le imprese. Se vuoi valutare uno strumento prima di adottarlo, trovi supporto nella pagina AI per aziende.
Considerazioni finali
Se lo rivedi, ti accorgi che Io, robot parla soprattutto di fiducia: di quanto siamo disposti a delegare a una macchina che segue una logica che funziona sulla carta e ferisce nella vita delle persone. La scena dell'11% è più efficace di qualsiasi esplosione del film.
Io lo rivedo con un pensiero semplice, che ti lascio: un sistema che decide sulle persone è giusto solo se qualcuno può guardarlo negli occhi e dirgli di fermarsi. Le probabilità aiutano a decidere, non decidono da sole.
Nell'ultima puntata ti porto indietro di quattordici anni, a un robot da guerra che si ricostruisce da solo: Hardware - Metallo letale e i robot autonomi.
Fonti
- Wikipedia, Io, robot (film) e I, Robot (film): regia, sceneggiatura, interpreti, ambientazione, rapporto con Asimov, scena del salvataggio e candidatura all'Oscar.
- Regolamento (UE) 2024/1689, AI Act, articolo 14 sulla sorveglianza umana; testo consultabile per articolo su artificialintelligenceact.eu.
Verifica delle fonti: 16 novembre 2026. Le pagine consultate riportano la probabilità dell'11% per la bambina; la percentuale del protagonista che circola in rete non l'ho trovata in una fonte verificabile, per questo non la cito.






