1. Home
  2. iThink
  3. Serie
  4. Il cinema che ha previsto l'IA
  5. Gattaca e la profilazione: il DNA come algoritmo
AI - Intelligenza Artificiale Il cinema che ha previsto l'IA · Gattaca

Gattaca e la profilazione: il DNA come algoritmo

Elica del DNA, simbolo dell'analisi genetica e della profilazione
Immagine: PublicDomainPictures · Pixabay · Licenza dei contenuti Pixabay

Ti è mai capitato di compilare un modulo, fare un test o ricevere un punteggio e di sentire che il risultato contasse più di tutto ciò che sai fare? In Gattaca quel punteggio è scritto nel DNA, e viene letto alla nascita. Il tema di Gattaca e la profilazione è, secondo me, tra i più attuali della serie, perché non parla di macchine che si ribellano ma di sistemi che classificano le persone e di società che si fidano di quelle classificazioni.

Questa è la sesta puntata della serie «Il cinema che ha previsto l'IA», dopo Il tredicesimo piano e le simulazioni. Come sempre le «previsioni» sono mie interpretazioni. Ti racconto la trama senza svelarne il finale, che è il punto più bello del film.

La trama di Gattaca, senza spoiler pesanti

Gattaca, la porta dell'universo è del 1997, scritto e diretto da Andrew Niccol. In una società governata dall'eugenetica il destino professionale e sociale di ognuno è deciso dall'analisi del DNA. Chi nasce da embrioni selezionati, i «validi», ha le porte aperte. Chi nasce in modo naturale, gli «invalidi», fa i lavori di fatica, qualunque cosa sappia fare.

Il protagonista, Vincent, è un invalido con il sogno di diventare astronauta. Per provarci prende una strada che non ti racconto, perché è l'intreccio del film. Mi basta dirti che la storia mette a confronto il valore calcolato e il valore dimostrato, e lo fa senza pedagogia.

Cosa ha anticipato (secondo me)

Nel film non ci sono algoritmi nel senso di oggi, come ti aspetteresti: c'è un prelievo, un test, un esito. Il punto è l'idea, che per me contiene tre anticipazioni.

  1. La profilazione predittiva: classificare una persona in base a ciò che i dati dicono che potrebbe fare o diventare.
  2. Il determinismo statistico: trattare una probabilità come un destino.
  3. La discriminazione basata su un calcolo: negare un'opportunità a qualcuno non per ciò che ha fatto, ma per ciò che un sistema stima di lui.

È lo stesso filo di Minority Report e il predictive policing, con una differenza: lì il verdetto arriva da un oracolo, qui da una provetta. Il meccanismo è identico.

Gattaca e la profilazione nel lavoro di oggi

Nessuna azienda legge il tuo DNA all'ingresso, ma molte leggono altri dati. I software di selezione del personale ordinano i curriculum, i sistemi di scoring decidono chi ottiene un prestito, le piattaforme assegnano punteggi di affidabilità. Il rischio è che il modello riproduca ciò che ha visto: se i dati storici riflettono scelte discriminatorie, il sistema le impara.

Un caso molto citato, che forse conosci, è quello di Amazon: nel 2018 la Reuters riportò che l'azienda aveva abbandonato uno strumento sperimentale di selezione dei curriculum perché penalizzava le candidate donne, avendo imparato dai dati di assunzioni passate dominate da uomini (Reuters, 2018). Era un esperimento interno, e secondo l'azienda non fu mai usato da solo per decidere. Ma mostra il meccanismo con chiarezza: nessuno aveva scritto «scarta le donne», era bastato addestrare il sistema sui dati sbagliati.

Se usi o stai valutando software di questo tipo, la domanda da farti è la stessa del film: il punteggio misura ciò che la persona sa fare o ciò che gli somiglia statisticamente?

I dati genetici e la legge

Sul fronte dei dati genetici, e qui ti serve un po' di attenzione, la legge ha preso la direzione del film al contrario. Negli Stati Uniti il Genetic Information Nondiscrimination Act del 2008 vieta ai datori di lavoro e alle assicurazioni sanitarie di discriminare in base alle informazioni genetiche, con limiti: non copre, per esempio, le assicurazioni sulla vita (sintesi su Wikipedia).

In Europa il GDPR, il Regolamento (UE) 2016/679, classifica i dati genetici tra le categorie particolari di dati, il cui trattamento è vietato salvo condizioni precise (articolo 9), e riconosce a ogni persona il diritto di non essere sottoposta a una decisione basata unicamente su un trattamento automatizzato che produca effetti significativi su di lei (articolo 22). Il testo è su EUR-Lex.

L'AI Act aggiunge un livello, e ti riguarda se assumi o concedi credito. Il Regolamento (UE) 2024/1689 vieta, tra l'altro, il punteggio sociale che porta a trattamenti sfavorevoli sproporzionati e le categorizzazioni biometriche che deducono caratteristiche sensibili come razza, opinioni politiche, religione o orientamento sessuale (articolo 5 su EUR-Lex). Considera poi sistemi ad alto rischio, soggetti a obblighi più stringenti, quelli usati per selezionare il personale, per l'accesso all'istruzione e per valutare l'affidabilità creditizia delle persone. Per le imprese lo spiego in AI Act: pratiche vietate e sistemi ad alto rischio.

Probabilità non è destino

Se c'è una frase del film che ti consiglio di ricordare, è che nel genoma umano non c'è un gene per lo spirito. Il film lo dice con le immagini: il valore di una persona non si legge in una tabella. Da hacker etico ci aggiungo una nota tecnica. Un punteggio probabilistico dice qualcosa sulla media di un gruppo, non su un singolo individuo. Su un gruppo di mille persone con un certo profilo, forse cento faranno qualcosa; ma quale di loro, il modello non lo sa.

Vale per i test genetici, dove la comunità scientifica discute da anni quanto siano affidabili i punteggi poligenici di rischio per i singoli. Vale per i punteggi di credito e per gli algoritmi di selezione. E vale per ogni dashboard aziendale che etichetta un cliente come «a rischio» o «poco redditizio»: l'etichetta è una stima, e ha un margine di errore che a volte nessuno ti mostra.

Dove il film non regge

  • La genetica non è così deterministica. Per la maggior parte dei tratti, ambiente e caso contano quanto i geni. Il film semplifica per raccontare.
  • Il sistema è troppo perfetto. Nella realtà i sistemi di classificazione sbagliano, hanno falle e si possono aggirare, come racconta la stessa trama.
  • La discriminazione di oggi è meno visibile. Nel film il test è alla porta. Nella pratica la discriminazione algoritmica passa da filtri automatici di cui il candidato non sa nulla.

Cosa puoi fare tu: consigli pratici

Per usare in modo corretto i sistemi che classificano persone, ti suggerisco cinque controlli.

  1. Chiedi quali dati entrano nel punteggio, e se includono variabili che possono fare da scorciatoia per caratteristiche protette (come il CAP, che può riflettere l'origine).
  2. Fai testare il sistema sui gruppi. Se un'etichetta colpisce di più un gruppo, è un campanello d'allarme.
  3. Mantieni una revisione umana per ogni decisione che riguardi lavoro, credito o servizi essenziali.
  4. Rendi contestabile il risultato. La persona deve poter sapere che cosa è stato valutato e chiedere un riesame.
  5. Tratta i dati genetici e sanitari come dati sensibili: se non ti servono, non raccoglierli.

Per valutare i rischi di un software di selezione o di punteggio prima di adottarlo, trovi supporto nella pagina AI per aziende e nei percorsi di formazione su AI Act e sicurezza della sezione cybersecurity.

Considerazioni finali

Gattaca non racconta il futuro dell'ingegneria genetica, racconta quello della fiducia nei numeri. L'idea che un dato misurato alla nascita o in una form online dica chi sei e cosa meriti è una tentazione sempre presente, in azienda come nei servizi pubblici.

Io rivedo il film con un pensiero pratico: ogni volta che un sistema ti classifica, o classifica un tuo cliente, vale la pena chiedersi che cosa non sa. Il margine di errore, il contesto, la storia personale, la possibilità che la persona sia diversa dal profilo: ciò che non entra nel calcolo è spesso ciò che conta di più.

L'ultima puntata chiude il cerchio con un film che non ha un computer in scena: The Truman Show, sorveglianza e bolle degli algoritmi.

Condividi LinkedIn Facebook X WhatsApp Telegram Email
Cybersecurity per PMI

Quanto è esposta la tua azienda?

Un hacker etico certificato trova le falle prima di chi attacca e ti dice come chiuderle, partendo dalla più pericolosa.

Marketing & Google Ads

Le tue campagne stanno bruciando budget?

Raccontami obiettivi e numeri attuali: ti dico dove intervenire per primo.

Coding & debugging

Codice scritto con l’AI? Funziona oggi. Reggerà domani?

Audit del debito tecnico e della sicurezza di app e siti, debugging e code review.

iLife · crescita personale

Riprogramma la tua vita con il metodo di un hacker etico

Percorsi one-to-one per capire dove sei, scegliere la direzione e arrivarci con metodo.

Digital Agency

Dove sta frenando il tuo business?

Una consulenza per capire cosa sistemare prima: sicurezza, tecnologia, marketing o persone.

Continua a leggere

Tutti gli articoli del blog

Rocco Balzamà
Parli direttamente con me

Il prossimo passo?
Parliamone.

Raccontami cosa vuoi proteggere, costruire o far crescere. Ti aiuto a capire da dove partire.

Di cosa mi occupo

Da oltre trent'anni faccio tre cose. Cerco le falle della tua azienda prima che le trovi chi vuole entrare. Imposto il marketing perché i risultati si possano misurare. E aiuto persone e aziende a capire chi sono, prima ancora di decidere cosa vendere.

Da remoto e in presenzaLavoro da remoto tramite call e videocall. Quando il progetto lo richiede, intervengo anche in presenza.
Seguimi sui social
Certified Ethical HackerSicurezza informatica dal 1993
Gli strumenti con cui lavoro
  • Google Ads
  • Meta
  • WordPress
  • WooCommerce
  • Shopify
  • TikTok
Strumenti gratuiti