1. Home
  2. iThink
  3. Serie
  4. Il cinema che ha previsto l'IA
  5. The Truman Show: sorveglianza e bolle degli algoritmi
AI - Intelligenza Artificiale Il cinema che ha previsto l'IA · The Truman Show

The Truman Show: sorveglianza e bolle degli algoritmi

Telecamera di videosorveglianza, simbolo di un controllo costante
Immagine: WebTechExperts · Pixabay · Licenza dei contenuti Pixabay

Ti è mai capitato di aprire un social e avere la sensazione che tutti la pensino come te? Che le notizie, i video e gli annunci siano sempre quelli giusti, quelli che confermano ciò che già credi? È una sensazione piacevole, e il settimo film della serie la porta all'estremo. In The Truman Show il protagonista vive in una cittadina perfetta in cui tutto è organizzato attorno a lui, e The Truman Show e gli algoritmi hanno più in comune di quanto sembri.

Questa è la settima puntata della serie «Il cinema che ha previsto l'IA», dopo Gattaca e la profilazione. Anche qui le «previsioni» sono mie interpretazioni. Ti racconto la trama senza svelare come finisce, perché il finale è una delle scene più riuscite del cinema di quegli anni.

La trama di The Truman Show, senza spoiler pesanti

Il film è del 1998, per la regia di Peter Weir. Truman Burbank vive a Seahaven, una cittadina dall'aspetto idilliaco, con una moglie, un lavoro e un amico di sempre. Ciò che non sa è che la sua intera esistenza è un reality show trasmesso in diretta a un pubblico mondiale: la città è un set, le persone intorno a lui sono attori e ogni evento è orchestrato da un regista-demiurgo, Christof.

Non ti racconto come Truman comincia a sospettare, né che cosa decide di fare. Ti basta sapere che nel film non compare nessun computer che comanda: il sistema chiuso è fatto di persone, telecamere e una regia. Proprio per questo, secondo me, regge meglio di tanta fantascienza.

Cosa ha anticipato (secondo me)

Condivide con Matrix l'idea di un ambiente artificiale che controlla la percezione di chi lo abita, ne ho parlato nella prima puntata. La differenza è che qui il controllo è mediatico, non computazionale. Io ci leggo tre anticipazioni.

  1. La sorveglianza continua, con un pubblico che guarda e dati che si accumulano.
  2. La manipolazione dell'ambiente informativo: chi gestisce la scena decide che cosa Truman vede, quando e con quale effetto.
  3. La bolla: un mondo costruito su misura che conferma ciò che la persona è portata a credere.

La terza è, per me, la più vicina alla vita di oggi.

The Truman Show e le bolle algoritmiche

Nel 2011 l'attivista e scrittore Eli Pariser pubblicò The Filter Bubble, in cui descriveva il rischio che la personalizzazione dei risultati online ci chiuda in un ambiente fatto solo di ciò che già ci piace o che già pensiamo (voce su Wikipedia).

Vale la pena essere precisi: l'effetto reale delle bolle è un tema su cui gli studi non concordano. Alcune ricerche trovano che le persone, online, siano esposte a una varietà di fonti maggiore di quanto si pensi, altre che le piattaforme amplifichino i contenuti più polarizzanti. Io non ti dico che il tuo feed sia una cella: ti dico che qualcuno ha scelto per te l'ordine in cui vedi le cose, e che quel «qualcuno» è un sistema ottimizzato per tenerti sulla piattaforma.

Un esperimento ti fa capire Christof meglio di qualsiasi teoria. Nel 2014 ricercatori di Facebook e della Cornell University pubblicarono sulla rivista PNAS uno studio in cui, nel 2012, per una settimana avevano modificato la quota di post positivi o negativi mostrata a 689.003 utenti, per osservare se le loro emozioni cambiassero (Kramer, Guillory, Hancock, 2014). L'effetto misurato fu molto piccolo, ma lo studio provocò critiche perché gli utenti non erano stati informati in modo specifico. È il caso reale più vicino a una regia che regola ciò che le persone vedono per osservarne la reazione.

Sorveglianza: Truman sapeva di essere guardato?

Truman non lo sapeva, noi in parte sì. Accettiamo cookie, condividiamo la posizione, parliamo con assistenti vocali, usiamo app che registrano ciò che facciamo. Spesso lo facciamo per convenienza, e va bene, purché sia una scelta. Il problema nasce quando la raccolta è così diffusa che non si vede più. Se hai letto la puntata su Ex Machina e l'IA che impara dai nostri dati, sai già come le tracce di ogni giorno diventino un profilo.

Da hacker etico aggiungo un dettaglio che il film non può mostrare: la sorveglianza non richiede un regista. Ogni app, ogni sito e ogni dispositivo raccoglie per conto proprio, e il quadro complessivo lo ricostruisce chi mette insieme i frammenti. È lo stesso lavoro che fa chi conduce un'indagine OSINT, solo che qui i frammenti li hai regalati tu.

Che cosa dice la legge in Europa

Il Regolamento (UE) 2022/2065, il Digital Services Act, riguarda proprio i sistemi che ordinano ciò che vedi. L'articolo 27 impone alle piattaforme online di spiegare nei termini di servizio, in modo chiaro, i principali parametri dei sistemi di raccomandazione. L'articolo 38 chiede alle piattaforme di dimensioni molto grandi di offrire almeno un'opzione del sistema di raccomandazione che non si basi sulla profilazione (testo su EUR-Lex).

Significa che, sulle piattaforme più grandi, puoi scegliere un feed non personalizzato, e vale la pena cercare dove si trova questa impostazione. Per il lato dell'IA, l'AI Act, che ti ho richiamato nelle puntate precedenti, vieta le tecniche manipolative che distorcono il comportamento causando un danno significativo (articolo 5). Una lettura pensata per le imprese è in AI Act: pratiche vietate e sistemi ad alto rischio.

Dove il film non regge

  • Il regista onnipotente. Christof controlla tutto. Nessuna piattaforma ha questo controllo: i sistemi di raccomandazione ottimizzano numeri, non scrivono la vita di nessuno.
  • L'inganno è totale. Truman non ha alcuno strumento. Tu, oggi, puoi cambiare impostazioni, cercare fonti diverse, uscire da un'app.
  • Un solo spettatore al centro. Nel film tutto ruota attorno a una persona. I sistemi reali ti trattano come una riga in una tabella con milioni di altre.
  • La città è finta. Le bolle di oggi sono fatte di contenuti veri, scelti e ordinati, ed è per questo che si notano meno.

Cosa puoi fare tu: consigli pratici

Se vuoi uscire dalla scenografia, senza diventare paranoico, ti propongo cinque abitudini.

  1. Cerca il feed non personalizzato sulle piattaforme che lo offrono, e prova a usarlo per una settimana.
  2. Segui fonti diverse dalle tue: almeno una che di solito non leggeresti.
  3. Controlla le autorizzazioni delle app: microfono, posizione e fotocamera solo se servono davvero.
  4. Cancella ogni tanto la cronologia e gli identificativi pubblicitari, o usa un browser con protezioni contro il tracciamento.
  5. Se hai un'azienda, spiega ai tuoi clienti quali dati raccogli e per cosa. La trasparenza è anche un vantaggio commerciale.

Se vuoi un controllo sui dati e sul tracciamento del tuo sito, o capire come progettare bot e automazioni rispettosi della privacy, trovi i servizi nella pagina cybersecurity e in quella di AI per aziende.

Considerazioni finali

Facciamo il punto sui primi sette film. Parlano della stessa cosa da angoli diversi: che cosa succede quando un sistema sa più di noi di quanto ne sappiamo noi, e decide che cosa vediamo, che cosa crediamo e che cosa ci è permesso. Matrix e Il tredicesimo piano con la simulazione, Minority Report e Gattaca con la previsione, Her e Ex Machina con la relazione, The Truman Show con lo sguardo.

Il film di Peter Weir ha una qualità che gli altri non hanno, e che ti consiglio di imitare: Truman comincia a cambiare quando smette di fidarsi di ciò che gli è stato mostrato e va a controllare di persona. È una buona regola anche oggi. Non serve rifiutare la tecnologia, serve sapere che cosa c'è dietro la scena, chi la dirige e a che scopo.

La serie continua con un uomo che torna a casa e trova un altro se stesso: Il sesto giorno e le copie digitali. E se hai un film da proporre, scrivimi: so già che ne verrà fuori una discussione.

Condividi LinkedIn Facebook X WhatsApp Telegram Email
Cybersecurity per PMI

Quanto è esposta la tua azienda?

Un hacker etico certificato trova le falle prima di chi attacca e ti dice come chiuderle, partendo dalla più pericolosa.

Marketing & Google Ads

Le tue campagne stanno bruciando budget?

Raccontami obiettivi e numeri attuali: ti dico dove intervenire per primo.

Coding & debugging

Codice scritto con l’AI? Funziona oggi. Reggerà domani?

Audit del debito tecnico e della sicurezza di app e siti, debugging e code review.

iLife · crescita personale

Riprogramma la tua vita con il metodo di un hacker etico

Percorsi one-to-one per capire dove sei, scegliere la direzione e arrivarci con metodo.

Digital Agency

Dove sta frenando il tuo business?

Una consulenza per capire cosa sistemare prima: sicurezza, tecnologia, marketing o persone.

Continua a leggere

Tutti gli articoli del blog

Rocco Balzamà
Parli direttamente con me

Il prossimo passo?
Parliamone.

Raccontami cosa vuoi proteggere, costruire o far crescere. Ti aiuto a capire da dove partire.

Di cosa mi occupo

Da oltre trent'anni faccio tre cose. Cerco le falle della tua azienda prima che le trovi chi vuole entrare. Imposto il marketing perché i risultati si possano misurare. E aiuto persone e aziende a capire chi sono, prima ancora di decidere cosa vendere.

Da remoto e in presenzaLavoro da remoto tramite call e videocall. Quando il progetto lo richiede, intervengo anche in presenza.
Seguimi sui social
Certified Ethical HackerSicurezza informatica dal 1993
Gli strumenti con cui lavoro
  • Google Ads
  • Meta
  • WordPress
  • WooCommerce
  • Shopify
  • TikTok
Strumenti gratuiti