- Home
- iThink
- Serie
- Il cinema che ha previsto l'IA
- Ex Machina e l'IA che impara dai nostri dati
Ex Machina e l'IA che impara dai nostri dati
Se ti dicessi che una macchina può imparare a convincerti non perché abbia emozioni, ma perché ha letto abbastanza di ciò che hai scritto e cercato negli anni, probabilmente penseresti a una trovata da romanzo. È invece il nucleo di Ex Machina, e il motivo per cui, da quando lavoro con i modelli di linguaggio, lo considero il film più vicino al mio mestiere. Il tema di Ex Machina e l'intelligenza artificiale non è la ribellione dei robot: è che cosa succede quando una macchina allena la propria capacità di leggerti.
Questa è la quarta puntata della serie «Il cinema che ha previsto l'IA», dopo Her e gli assistenti vocali. Le «previsioni» sono mie interpretazioni. Qui ti racconto la trama senza rivelare il finale: se non hai visto il film, puoi leggere senza paura, tutto ciò che segue riguarda l'impianto della storia.
La trama di Ex Machina, senza spoiler pesanti
Il film è del 2014 e segna l'esordio alla regia di Alex Garland. Un giovane programmatore, Caleb, vince un concorso interno nella grande azienda in cui lavora, un colosso dei motori di ricerca, e viene invitato a trascorrere una settimana nella residenza isolata del fondatore, Nathan. Lì scopre il motivo dell'invito: deve sottoporre al test di Turing Ava, un'androide con un'intelligenza artificiale molto sofisticata.
C'è una variante che rende il film interessante. Caleb sa già che Ava è una macchina: il test non serve a capire se sta parlando con un umano, ma se, sapendolo, continua a trattarla come una persona. Non ti dico come si evolve il rapporto tra i tre, perché il finale è il punto del film.
Ex Machina e il test di Turing: perché oggi non basta
Il test, come forse ti è capitato di leggere, viene da un articolo del 1950 di Alan Turing, in cui si chiede se una macchina possa imitare un umano al punto da non essere distinguibile in una conversazione scritta (voce su Wikipedia). Per decenni è stato il traguardo simbolico dell'IA. Oggi i modelli di linguaggio producono testi che molti lettori non distinguono da quelli di una persona, ma nessuno di noi direbbe che il problema sia risolto, perché imitare una conversazione non dice nulla su cosa avvenga «dentro».
Il film lo sa. Il test di Ex Machina sposta la domanda: non «sa imitare un umano?», ma «che effetto fa a chi la guarda?». È la stessa domanda che ti fai oggi quando un assistente ti risponde con un tono gentile e ti viene voglia di ringraziarlo.
Dati comportamentali: il vero carburante
La parte che mi colpisce di più, da hacker etico, è la fonte dell'intelligenza di Ava. Nel film il suo creatore dice di averla costruita usando i dati raccolti dal motore di ricerca della sua azienda, cioè miliardi di ricerche, di clic e di tracce di come pensano e desiderano le persone. L'idea è che chi possiede quei dati possiede anche un modello di come ragiona l'essere umano.
Lo scenario non è fantascienza, e ti riguarda direttamente. Nel 2013 uno studio di Michal Kosinski e colleghi, pubblicato sulla rivista PNAS, mostrò che i «Mi piace» su Facebook bastavano a stimare con buona accuratezza caratteristiche personali come l'orientamento sessuale, le opinioni politiche e alcuni tratti della personalità (Kosinski, Stillwell, Graepel, 2013). Nel 2018 lo scandalo Cambridge Analytica portò alla luce che i dati di decine di milioni di utenti Facebook erano stati raccolti tramite un'app di test della personalità e usati per la profilazione politica (scheda su Wikipedia). La cifra più citata, 87 milioni di profili, viene dalla stessa Facebook.
Quei casi, voglio dirtelo con onestà, non riguardavano l'intelligenza artificiale generativa di oggi, ma mostrano la stessa logica del film: con abbastanza tracce, chi le possiede può prevedere ciò che farai e dire ciò che vorrai sentirti dire. Sull'efficacia reale della persuasione basata sui dati i ricercatori discutono ancora, e io eviterei le conclusioni tonde: la profilazione funziona meglio in alcuni casi e peggio in altri.
Manipolare le emozioni: cosa vieta l'AI Act
Un sistema che legge le tue emozioni e le sfrutta fa paura anche a chi scrive le leggi, e ti conviene sapere cosa è vietato. Il Regolamento (UE) 2024/1689, l'AI Act, all'articolo 5 vieta:
- le tecniche subliminali o manipolative che distorcono il comportamento e causano un danno significativo;
- lo sfruttamento delle vulnerabilità di una persona dovute a età, disabilità o situazione sociale ed economica;
- i sistemi che deducono le emozioni di una persona sul posto di lavoro e nelle scuole, salvo motivi medici o di sicurezza.
Il testo ti aspetta su EUR-Lex. Se vuoi la versione per le imprese la trovi in AI Act: pratiche vietate e sistemi ad alto rischio. Il terzo punto riguarda anche chi pensa di usare l'IA per «misurare il clima» nei call center o durante i colloqui: sono usi su cui conviene fermarsi e chiedere consiglio prima di comprare.
Dove il film non regge
- Il genio solitario. Nel film un solo uomo costruisce tutto in una casa nel bosco. Nella realtà i modelli più capaci richiedono grandi infrastrutture, molti team e investimenti enormi, e questo rende la questione politica oltre che tecnica.
- L'intelligenza con un corpo. Ava ha un corpo che inganna. I sistemi reali sono voci e testi, e il loro potere di persuasione nasce dalla scala, non dall'aspetto.
- Il segreto. Nathan custodisce tutto. Oggi gran parte della discussione è pubblica, tra pubblicazioni, regole e inchieste.
- La coscienza. Se Ava sia davvero cosciente è la domanda del film, e nessuno oggi ha una risposta verificabile per i sistemi reali. Chi ti dice il contrario in un senso o nell'altro sta vendendo una convinzione.
Cosa puoi fare tu: consigli pratici
Per ridurre la quantità di tracce comportamentali che lasci in giro, e che potrebbero allenare un sistema a leggerti, puoi partire da poco.
- Controlla le impostazioni di privacy di Google, Meta e degli altri servizi che usi: attività web, cronologia posizioni, annunci personalizzati.
- Disattiva l'uso delle chat per l'addestramento negli strumenti di IA che frequenti, quando l'opzione esiste.
- Non rispondere ai quiz di personalità di app sconosciute: erano proprio il meccanismo del caso Cambridge Analytica.
- Usa il consenso con intenzione. Quando un sito ti chiede i cookie, la scelta «solo necessari» è sempre disponibile.
- Se hai un'azienda, mappa quali dati comportamentali raccogli dei tuoi clienti e perché. Se la risposta è «non lo so», è il primo lavoro da fare.
Per capire come usare l'IA in azienda senza regalare dati a chi non serve, passa dalla pagina AI per aziende; per il lato della sicurezza trovi i servizi in cybersecurity.
Considerazioni finali
Ex Machina non parla di robot, parla di chi ha i dati e di che cosa ci fa. Il test di Turing del film, rovesciato, è la domanda che dovremmo farci davanti a ogni sistema che ci ascolta: non se somiglia a una persona, ma che cosa sa di noi e per conto di chi lavora.
Io l'ho riguardato con il pensiero di chi fa penetration test: il punto debole del film non sta nel laboratorio, sta nelle persone, nelle loro fiducie e nei loro desideri. Un sistema che ti legge bene può usare le tue fragilità come una porta lasciata aperta. Per questo la parte più utile del tuo lavoro sulla sicurezza non è tecnica, è consapevole: sapere cosa dai, a chi e per quale ritorno.
La prossima puntata sposta il discorso da chi ci legge a ciò che crediamo reale: Il tredicesimo piano e le simulazioni, dove una città del 1937 è abitata da personaggi che non sanno di essere programmi.






