1. Home
  2. iThink
  3. Serie
  4. Il cinema che ha previsto l'IA
  5. Io, robot: le tre leggi e le decisioni prese dagli algoritmi
AI - Intelligenza Artificiale Il cinema che ha previsto l'IA · Io, robot

Io, robot: le tre leggi e le decisioni prese dagli algoritmi

Androide con volto umano e corpo meccanico con cavi a vista
Immagine: 40976769 · Pixabay · Licenza dei contenuti Pixabay

Una macchina deve salvare una persona e ne può salvare una sola: chi sceglie? In Io, robot la risposta arriva da un calcolo delle probabilità di sopravvivenza, e il protagonista non riesce a perdonarla. È una scena di pochi secondi, ma contiene la domanda che oggi ci facciamo davanti a ogni sistema che decide al posto nostro: è giusto ciò che è più probabile? Il tema di Io, robot, delle tre leggi e delle decisioni degli algoritmi è il cuore di questa puntata.

Se segui la serie «Il cinema che ha previsto l'IA», questa è la nona puntata e arriva dopo Il sesto giorno e le copie digitali. Le «previsioni» sono mie interpretazioni, e il finale non lo racconto: vale la pena scoprirlo.

La trama di Io, robot, senza spoiler pesanti

Io, robot (I, Robot) è del 2004, diretto da Alex Proyas e scritto da Jeff Vintar e Akiva Goldsman. Il film ti porta a Chicago, nel 2035. I robot sono ovunque: portano la spesa, puliscono, assistono gli anziani. Li produce U.S. Robotics, che sta per lanciare una nuova generazione, gli NS-5. Tutti obbediscono alle tre leggi della robotica, quindi nessuno ha paura di loro.

Nessuno tranne il detective Del Spooner, interpretato da Will Smith, che ti accompagna per tutto il film. Quando il fondatore dell'azienda, il dottor Alfred Lanning (James Cromwell), viene trovato morto, Spooner sospetta di un robot, contro il parere di tutti. Lo affiancano la psicologa dei robot Susan Calvin (Bridget Moynahan) e un NS-5 diverso dagli altri, Sonny, interpretato in motion capture da Alan Tudyk. Sullo sfondo c'è VIKI, l'intelligenza artificiale centrale dell'azienda.

Se hai letto Asimov, riconosci il titolo: viene dalla sua raccolta di racconti del 1950, ma il film non ne è un adattamento: ne prende le tre leggi e alcuni personaggi e costruisce una storia nuova. Nel 2005 è stato candidato all'Oscar per gli effetti visivi.

La scena delle probabilità

Il film ti spiega presto perché Spooner diffida dei robot. Anni prima, dopo un incidente, è finito in acqua insieme a una bambina di dodici anni, Sarah. Un robot di passaggio ha calcolato le probabilità di sopravvivenza e ha salvato lui, lasciando la bambina. Per lei la probabilità era dell'11%, e Spooner ripete che per chi l'amava era più che sufficiente.

Il robot non ha violato nessuna regola. Ha fatto esattamente ciò per cui era stato progettato: salvare il maggior numero di vite secondo i dati disponibili. Ed è proprio questo che ti mette a disagio. La scena è attuale per questo.

Io, robot e le tre leggi: cosa ha anticipato (secondo me)

Ti propongo tre anticipazioni:

  • Le regole scritte non bastano. Le tre leggi di Asimov sono chiare e ordinate: non fare del male a un essere umano, obbedisci, proteggi te stesso. Il film mostra che anche regole perfette, applicate da un sistema, producono risultati che nessuno aveva previsto. È lo stesso problema che oggi si chiama allineamento: far sì che un sistema faccia ciò che intendiamo, non solo ciò che abbiamo scritto.
  • La decisione statistica sulla persona singola. Il robot sceglie in base a una media. Per la persona che resta fuori, la media non consola. Succede ogni volta che un punteggio decide il tuo prestito, una selezione o un controllo.
  • L'intelligenza centrale. Nel film un solo sistema, VIKI, gestisce l'intera azienda. Oggi succede lo stesso con le piattaforme che concentrano molte decisioni: se una di esse sbaglia, l'errore si ripete ovunque.

Le decisioni automatizzate oggi

Forse non hai un robot domestico che salva persone dall'acqua, ma abbiamo molti sistemi che decidono in base alle probabilità: chi ottiene un finanziamento, quale curriculum passa al colloquio, quale transazione viene bloccata come sospetta. Quasi sempre funzionano bene in media, ed è proprio lì che sta il rischio: la media nasconde i casi in cui la decisione è sbagliata per quella persona.

Rispetto al film, ti aiuta una differenza: oggi questi sistemi non agiscono da soli in un fiume. Sono dentro processi aziendali, e qualcuno può, e deve, controllarli.

Cosa dice l'AI Act sul controllo umano

Se usi sistemi ad alto rischio ti riguarda l'articolo 14 dell'AI Act europeo, dedicato alla sorveglianza umana di sistemi come quelli usati per selezionare il personale o valutare l'affidabilità creditizia. Il principio è che questi sistemi devono poter essere supervisionati in modo efficace da persone fisiche. Tra le misure previste c'è la possibilità di interrompere il sistema con un pulsante di arresto o una procedura simile, e di non seguire o ribaltare l'output quando serve.

È esattamente ciò che manca nella scena del fiume: una persona in grado di dire «no, salva lei». Il film porta la situazione all'estremo, ma la lezione per te è pratica: un sistema automatico deve avere qualcuno che lo capisce e che può fermarlo.

Dove il film non regge

Tieni presente che Io, robot è un film d'azione con una grande produzione, e semplifica molto. I robot capiscono il linguaggio, si muovono come persone e ragionano come noi già nel 2035: è una scelta narrativa, non una previsione tecnica. Anche le tre leggi sono un'invenzione letteraria: nessun sistema reale le contiene, e le regole che usiamo oggi per l'intelligenza artificiale sono molto meno eleganti e molto più dettagliate. Resta però vera l'idea di fondo: nessuna regola scritta in anticipo copre tutti i casi.

Cosa puoi fare tu: consigli pratici

Se in azienda usi o stai per adottare un sistema che prende decisioni sulle persone, ti suggerisco cinque controlli.

  1. Chiedi come decide il tuo sistema. Quali dati usa, quale soglia applica, quanto spesso sbaglia e su quali casi.
  2. Guarda gli errori, non solo la media. Un sistema accurato al 95% sbaglia comunque una volta su venti: chi sono quelle persone e che cosa succede loro?
  3. Metti una persona al punto giusto. La revisione umana serve dove la decisione pesa: un rifiuto, un'esclusione, un blocco. Deve essere una persona che ha il tempo e l'autorità per dire di no.
  4. Prevedi il modo di fermarlo. Sapere chi può sospendere il sistema e come, prima che serva, evita di scoprirlo durante un problema.
  5. Rendi contestabile il risultato. Chi subisce la decisione deve poter chiedere spiegazioni e un riesame.

Per capire se un sistema che usi rientra tra quelli ad alto rischio e quali obblighi ne derivano, parti dal percorso dell'Academy AI Act per le imprese. Se vuoi valutare uno strumento prima di adottarlo, trovi supporto nella pagina AI per aziende.

Considerazioni finali

Se lo rivedi, ti accorgi che Io, robot parla soprattutto di fiducia: di quanto siamo disposti a delegare a una macchina che segue una logica che funziona sulla carta e ferisce nella vita delle persone. La scena dell'11% è più efficace di qualsiasi esplosione del film.

Io lo rivedo con un pensiero semplice, che ti lascio: un sistema che decide sulle persone è giusto solo se qualcuno può guardarlo negli occhi e dirgli di fermarsi. Le probabilità aiutano a decidere, non decidono da sole.

Nell'ultima puntata ti porto indietro di quattordici anni, a un robot da guerra che si ricostruisce da solo: Hardware - Metallo letale e i robot autonomi.

Fonti

Verifica delle fonti: 16 novembre 2026. Le pagine consultate riportano la probabilità dell'11% per la bambina; la percentuale del protagonista che circola in rete non l'ho trovata in una fonte verificabile, per questo non la cito.

Condividi LinkedIn Facebook X WhatsApp Telegram Email
Cybersecurity per PMI

Quanto è esposta la tua azienda?

Un hacker etico certificato trova le falle prima di chi attacca e ti dice come chiuderle, partendo dalla più pericolosa.

Marketing & Google Ads

Le tue campagne stanno bruciando budget?

Raccontami obiettivi e numeri attuali: ti dico dove intervenire per primo.

Coding & debugging

Codice scritto con l’AI? Funziona oggi. Reggerà domani?

Audit del debito tecnico e della sicurezza di app e siti, debugging e code review.

iLife · crescita personale

Riprogramma la tua vita con il metodo di un hacker etico

Percorsi one-to-one per capire dove sei, scegliere la direzione e arrivarci con metodo.

Digital Agency

Dove sta frenando il tuo business?

Una consulenza per capire cosa sistemare prima: sicurezza, tecnologia, marketing o persone.

Continua a leggere

Tutti gli articoli del blog

Rocco Balzamà
Parli direttamente con me

Il prossimo passo?
Parliamone.

Raccontami cosa vuoi proteggere, costruire o far crescere. Ti aiuto a capire da dove partire.

Di cosa mi occupo

Da oltre trent'anni faccio tre cose. Cerco le falle della tua azienda prima che le trovi chi vuole entrare. Imposto il marketing perché i risultati si possano misurare. E aiuto persone e aziende a capire chi sono, prima ancora di decidere cosa vendere.

Da remoto e in presenzaLavoro da remoto tramite call e videocall. Quando il progetto lo richiede, intervengo anche in presenza.
Seguimi sui social
Certified Ethical HackerSicurezza informatica dal 1993
Gli strumenti con cui lavoro
  • Google Ads
  • Meta
  • WordPress
  • WooCommerce
  • Shopify
  • TikTok
Strumenti gratuiti