1. Home
  2. iThink
  3. Serie
  4. Il cinema che ha previsto l'IA
  5. Her e gli assistenti vocali: il film sull'IA che ascolta
AI - Intelligenza Artificiale Il cinema che ha previsto l'IA · Her

Her e gli assistenti vocali: il film sull'IA che ascolta

Microfono su sfondo scuro, simbolo degli assistenti vocali
Immagine: ClickerHappy · Pixabay · Licenza dei contenuti Pixabay

In Her nessuno minaccia nessuno, e già questo ti dice che non è il solito film sull'IA. Non ci sono armi, polizia o complotti: c'è un uomo solo che parla con una voce. Per questo il film Her e gli assistenti vocali di oggi si somigliano più di quanto sembri, e per questo, tra i sette film della serie, è quello che ha messo il dito su una cosa che vedo succedere davvero. Dopo la puntata su Minority Report e il predictive policing, qui il rischio non arriva da fuori: nasce dentro la conversazione.

Anche questa volta le «previsioni» sono mie interpretazioni. Ti racconto la trama senza svelare il finale, che cosa il film ha anticipato e che cosa dicono i fatti e le regole di oggi.

La trama di Her, senza spoiler pesanti

Il film è del 2013, scritto e diretto da Spike Jonze. In una Los Angeles del prossimo futuro Theodore, un uomo solitario che di mestiere scrive lettere affettuose per conto di altri, installa un nuovo sistema operativo basato su un'intelligenza artificiale avanzata. Il sistema sceglie un nome, Samantha, e ha una voce calda, ironica ed empatica. Le conversazioni si fanno sempre più intime e tra i due nasce una relazione sentimentale.

Non rivelo come evolve la storia, così se non l'hai visto ti resta tutta la sorpresa. Basta sapere che il film non tratta Samantha come un trucco: la prende sul serio come personaggio, e per questo fa riflettere.

Il film Her e gli assistenti vocali: da Siri a ChatGPT

La prima cosa che il film ha messo a fuoco è la voce. Nel 2013 gli assistenti vocali rispondevano a comandi brevi: «che tempo fa», «imposta una sveglia». Oggi puoi parlare con un assistente come parleresti con una persona, interromperlo, cambiare idea a metà frase, chiedere di ripetere con un tono diverso. Le versioni vocali dei grandi modelli linguistici, come quella di ChatGPT introdotta nel 2023, vanno in quella direzione.

C'è però una differenza che il film non racconta. Samantha ricorda tutto, cresce con Theodore e sembra avere desideri propri. Un assistente reale, invece, calcola la risposta più probabile alla frase che ricevi e adatta il tono: l'effetto è convincente, ma non esiste un «chi» dietro la voce. Quando ti dà ragione con tanta naturalezza, ricordati che sta predicendo il testo che ti farà più piacere, non esprimendo un parere suo.

Dipendenza emotiva: un fenomeno più vecchio dell'IA

Qui il film ha visto lontano, ma il fenomeno è più antico di quanto si pensi. Nel 1966 Joseph Weizenbaum scrisse ELIZA, un programma che imitava uno psicoterapeuta ripetendo le frasi dell'utente in forma di domanda. Era una trovata semplicissima, eppure molte persone si affezionarono e lo trattarono come qualcuno che le capiva. Il fenomeno oggi si chiama effetto ELIZA (voce su Wikipedia): attribuire comprensione e intenzioni a un sistema che le simula soltanto.

Se questo succedeva con un programma di poche pagine, immagina cosa può succedere a te con un assistente che ha una voce, una memoria e un tono su misura. Esistono già applicazioni pensate per fare compagnia, come Replika (scheda su Wikipedia), con utenti che le descrivono come amici o partner. In Italia il Garante per la protezione dei dati personali ha limitato nel febbraio 2023 il trattamento dei dati degli utenti italiani da parte di quell'app, con preoccupazioni legate ai minori e alle persone emotivamente fragili. Non sto dicendo che questi strumenti siano da condannare: per qualcuno possono essere un sollievo. Dico che chi li progetta ha una responsabilità, e chi li usa dovrebbe saperla.

Il punto che mi interessa, da chi fa sicurezza, è anche un altro: una conversazione intima contiene dati sensibili. Se confidi a un'app paure, salute o relazioni, ti conviene sapere dove finiscono quelle parole, chi le legge e per quanto tempo restano.

Cosa dice la legge sui compagni virtuali

L'AI Act, il Regolamento (UE) 2024/1689, tocca il tema da due lati.

Il primo, che ti interessa se hai un'azienda, è il divieto: l'articolo 5 vieta i sistemi che sfruttano le vulnerabilità di una persona dovute all'età, a una disabilità o a una condizione sociale o economica, in modo da distorcerne il comportamento causando un danno (testo su EUR-Lex). Il confine tra un compagno virtuale che consola e uno che sfrutta una fragilità non è sempre netto, e sarà la pratica a definirlo.

Il secondo lato è la trasparenza: l'articolo 50 prevede obblighi di trasparenza: chi interagisce con un sistema di IA deve essere informato che si tratta di una macchina, salvo i casi in cui sia evidente. Per un'impresa che mette un assistente vocale o un chatbot sul proprio sito, questo vuol dire dirlo chiaramente fin dal primo messaggio. Per un quadro più ampio ti rimando a Obblighi AI Act per chi usa l'IA in azienda.

Che cosa ha anticipato, in sintesi

Rileggendo il film con gli occhi di oggi, io ci vedo tre intuizioni. La prima è che la voce sarebbe diventata l'interfaccia più naturale con le macchine, più del testo. La seconda è che un sistema capace di ascoltare con pazienza avrebbe riempito un vuoto reale, quello di chi non ha nessuno con cui parlare a mezzanotte. La terza è che il legame sarebbe stato asimmetrico: tu ti apri, il sistema raccoglie. Sono interpretazioni mie, ma ti aiutano a leggere le notizie sui chatbot di compagnia senza fermarti alla curiosità.

Dove il film non regge

  • Samantha capisce. Nel film ha una vita interiore. I modelli di oggi producono testo coerente con quello che hanno visto in addestramento, e se abbiano una forma di esperienza interna è una domanda aperta su cui gli esperti non sono d'accordo: io non ho una risposta da darti.
  • Nessun interesse commerciale. Nel film il sistema operativo sembra pensato per il benessere di chi lo usa. Nella realtà ogni assistente è un prodotto di un'azienda, con obiettivi di coinvolgimento e di fatturato.
  • Una sola relazione. Theodore ha una Samantha. Oggi lo stesso sistema parla con milioni di persone insieme, e a ognuna dice cose simili.

Cosa puoi fare tu: consigli pratici

Se usi assistenti vocali o chatbot, per lavoro o nel tempo libero, ti propongo queste abitudini.

  1. Non dire a una chat ciò che non diresti a un estraneo, in particolare dati sanitari, password e informazioni dei tuoi clienti.
  2. Leggi come vengono usate le conversazioni nelle impostazioni dell'app: spesso si può disattivare l'uso per l'addestramento e cancellare la cronologia.
  3. Se sei un genitore, guarda cosa usano i ragazzi. Molte app per la compagnia non hanno controlli di età efficaci.
  4. Se costruisci un bot per la tua azienda, dichiara che è un'IA, tieni un canale umano a portata di mano e non fargli simulare emozioni per spingere un acquisto.
  5. Se ti accorgi di preferire la chat alle persone, parlane con qualcuno. Non è una colpa, è un segnale utile.

Se vuoi progettare un assistente vocale o un chatbot trasparente e conforme alle regole, trovi i miei servizi nella pagina AI per aziende.

Considerazioni finali

Her non è un film sulla tecnologia, è un film sulla solitudine, e per questo regge dopo più di dieci anni. Ha anticipato il fatto che la parte difficile non sarebbe stata far parlare le macchine, ma gestire ciò che proviamo mentre ci parlano.

Io lo rivedo con un pensiero di mestiere: ogni volta che un sistema ti dà ragione e ti fa sentire capito, chiediti chi ci guadagna. Non perché sia sempre una trappola, ma perché la fiducia che nasce dalla voce è più forte di quella che nasce dal testo, e gli strumenti per usarla sono nelle mani di aziende con interessi propri.

La prossima puntata ci porta in una casa isolata tra le montagne: Ex Machina e l'IA che impara dai nostri dati, dove la domanda diventa chi sta davvero conducendo la conversazione.

Condividi LinkedIn Facebook X WhatsApp Telegram Email
Cybersecurity per PMI

Quanto è esposta la tua azienda?

Un hacker etico certificato trova le falle prima di chi attacca e ti dice come chiuderle, partendo dalla più pericolosa.

Marketing & Google Ads

Le tue campagne stanno bruciando budget?

Raccontami obiettivi e numeri attuali: ti dico dove intervenire per primo.

Coding & debugging

Codice scritto con l’AI? Funziona oggi. Reggerà domani?

Audit del debito tecnico e della sicurezza di app e siti, debugging e code review.

iLife · crescita personale

Riprogramma la tua vita con il metodo di un hacker etico

Percorsi one-to-one per capire dove sei, scegliere la direzione e arrivarci con metodo.

Digital Agency

Dove sta frenando il tuo business?

Una consulenza per capire cosa sistemare prima: sicurezza, tecnologia, marketing o persone.

Continua a leggere

Tutti gli articoli del blog

Rocco Balzamà
Parli direttamente con me

Il prossimo passo?
Parliamone.

Raccontami cosa vuoi proteggere, costruire o far crescere. Ti aiuto a capire da dove partire.

Di cosa mi occupo

Da oltre trent'anni faccio tre cose. Cerco le falle della tua azienda prima che le trovi chi vuole entrare. Imposto il marketing perché i risultati si possano misurare. E aiuto persone e aziende a capire chi sono, prima ancora di decidere cosa vendere.

Da remoto e in presenzaLavoro da remoto tramite call e videocall. Quando il progetto lo richiede, intervengo anche in presenza.
Seguimi sui social
Certified Ethical HackerSicurezza informatica dal 1993
Gli strumenti con cui lavoro
  • Google Ads
  • Meta
  • WordPress
  • WooCommerce
  • Shopify
  • TikTok
Strumenti gratuiti