1. Home
  2. iThink
  3. Cyber Security
  4. Verifica formale AI: dopo Signal, tocca al firmware critico
Cyber Security

Verifica formale AI: dopo Signal, tocca al firmware critico

Primo piano di un occhio dietro una lente su cui si riflettono righe di codice, tra luci sfocate blu e arancioni
Immagine: TyliJura · Pixabay · Licenza dei contenuti Pixabay

In trent'anni di sicurezza informatica ho visto passare scanner, antivirus, sandbox e intelligenza artificiale. Tutti strumenti utili, tutti con lo stesso limite: ti dicono che hanno trovato un problema, mai che i problemi non ci sono. Un penetration test ben fatto trova le porte aperte che incontra. Non può garantire che non ce ne sia un'altra.

La verifica formale con l'AI cambia questo punto. A novembre 2026 Google DeepMind ha pubblicato le prove matematiche che il codice macchina di Signal, il programma già compilato che gira sui telefoni, rispetta una serie di proprietà di sicurezza. Le prove le hanno scritte agenti AI e le ha controllate Lean, un assistente di dimostrazione che non accetta passaggi saltati. In questo articolo ti spiego cosa hanno fatto, perché mi interessa e come voglio usarlo dove un difetto non costa dati ma danni fisici: il firmware dei dispositivi medici e il software delle reti elettriche.

Cosa ha fatto DeepMind su Signal

La verifica formale esiste da decenni, ma è sempre stata un lavoro da specialisti, lento e costoso. Si usava per pochi sistemi, come i controlli di volo o alcuni chip. Il lavoro di DeepMind è diverso per due ragioni.

La prima: hanno verificato il codice macchina AArch64, cioè le istruzioni che il processore esegue davvero, e non il sorgente in Rust. Per farlo hanno scritto in Lean una descrizione matematica del processore: circa 7.600 righe, 467 istruzioni. Così un errore del compilatore non può far passare per sicuro un programma che non lo è.

La seconda: le prove le hanno scritte agenti AI. Secondo il paper, ogni campagna usava di solito da 40 a 80 agenti, su una sola macchina, per 24-72 ore. Il risultato sono circa 6,5 milioni di righe di prova, tutte controllate da Lean. La parte di cui bisogna fidarsi, specifiche e modello del processore, è di circa 26.000 righe: quella la leggono le persone.

Le proprietà dimostrate riguardano l'handshake PQXDH e il Triple Ratchet di libsignal: segretezza dell'handshake, autenticazione, forward secrecy e sicurezza dopo una compromissione, in dieci teoremi. Il paper dice con chiarezza anche cosa resta fuori: la crittografia è assunta ideale nel modello simbolico, non sono coperti i gruppi né l'uso su più dispositivi, e alcuni attacchi di replay non sono esclusi. Il codice è pubblico, con licenza Apache 2.0, nel repository google-deepmind/code-verification.

Perché mi interessa il firmware critico

Signal protegge conversazioni. Una pompa a infusione decide quanti millilitri di farmaco entrano in un paziente. Un gateway di sottostazione decide se un interruttore si apre. In questi oggetti il codice che conta davvero è poco: il parser che legge i pacchetti, il bootloader che accetta un aggiornamento, la funzione che controlla i limiti di dosaggio, la logica degli interblocchi. Poche migliaia di righe.

Sono anche oggetti che restano in campo a lungo. Un dispositivo medico passa da cicli di certificazione che rendono costosa ogni modifica. Un apparato di rete elettrica può restare installato quindici o trent'anni. Correggere dopo costa caro, quando si riesce.

Per questi produttori qualche migliaio di righe dimostrate corrette valgono più di un altro scanner. È l'idea da cui nasce VeriCritica, il progetto che ho appena aperto: prendere la catena di DeepMind e applicarla ai moduli più piccoli e più critici di firmware medicale e software per l'energia. Trovi la scheda completa nella pagina del progetto.

Come funziona la verifica formale con l'AI, passo per passo

Il metodo che ho in mente è a imbuto: strumenti economici su tutto il codice, verifica formale solo su quella piccola parte che decide la sicurezza.

  1. Si isola il nucleo critico. Con il produttore si individuano i moduli che, se sbagliano, causano danni: di solito tra il 2 e il 5% del codice.
  2. Si cerca e si corregge il resto. Analisi statica, agenti AI di scansione che confermano ogni falla con un exploit in un ambiente isolato, fuzzing dei parser su emulatore. Qui servono strumenti come CodeQL, Semgrep, libFuzzer, QEMU e Renode.
  3. Si scrive la specifica. Gli agenti la propongono in Lean, ma la firma un esperto umano del settore: un ingegnere clinico o un ingegnere elettrico. È il passaggio più delicato, perché una prova perfetta di una specifica sbagliata non serve a niente.
  4. Si producono le prove. Squadre di agenti lavorano sul codice macchina del modulo, con la descrizione formale del processore.
  5. Si controlla tutto. Una prova si accetta solo se il kernel di Lean la verifica e se un controllo automatico conferma che dimostra proprio la specifica firmata, non una versione più comoda.
  6. Si consegna il fascicolo. Specifica, prove, base fidata, limiti e tracciabilità da requisito a prova, nel formato che serve all'auditor o all'ente notificato.
  7. Si riverifica a ogni rilascio. Le prove tornano a girare nella pipeline di build: se una modifica rompe una proprietà, il rilascio si ferma.

Cosa si può dimostrare, in pratica

Ecco alcune proprietà che hanno senso in questi due mondi:

  • il parser di protocollo non legge e non scrive mai fuori dai suoi buffer, per qualunque pacchetto ricevuto;
  • il bootloader esegue solo firmware firmato dal produttore e rifiuta le versioni precedenti;
  • la pompa non supera mai i limiti di dosaggio configurati, qualunque sequenza di comandi arrivi da remoto;
  • un comando di apertura di un interruttore via IEC 61850 parte solo se autenticato e coerente con gli interblocchi;
  • le chiavi crittografiche non escono mai dalla zona protetta del chip.

Nessuna norma oggi impone la verifica formale. L'MDR per i dispositivi medici, le IEC 62304 e 62443, la NIS2 e il Cyber Resilience Act chiedono però di dimostrare che la sicurezza è stata progettata dall'inizio. Il Cyber Resilience Act, per esempio, chiede ai produttori di notificare le vulnerabilità sfruttate dall'11 settembre 2026, e i requisiti essenziali scattano l'11 dicembre 2027: ne ho parlato per le PMI in Cyber Resilience Act e segnalazione delle vulnerabilità. Per la catena di fornitura vale anche quanto ho scritto su NIS2, obblighi e fornitori. Davanti a un auditor, una prova matematica è l'evidenza più forte che si possa portare.

Errori da evitare con la verifica formale

Ho visto abbastanza promesse sbagliate nella sicurezza per sapere dove questo metodo può essere venduto male. Gli errori da evitare sono quattro.

  • Dire «software inattaccabile». Una prova dimostra proprietà precise sotto ipotesi precise. Hardware, canali laterali e crittografia assunta ideale restano fuori, e il fascicolo deve dirlo.
  • Fidarsi di una specifica non rivista. Se la specifica la scrive solo l'AI e nessuno del settore la controlla, si rischia di dimostrare con grande rigore la cosa sbagliata.
  • Partire troppo larghi. Le prove costano calcolo e tempo. Si comincia da un modulo piccolo e si allarga solo dopo aver misurato.
  • Ignorare il processore. DeepMind ha lavorato su AArch64. Gran parte del firmware critico gira su microcontrollori ARM Cortex-M, per cui il modello formale del processore va ancora costruito e validato. Per questo i primi pilota partono da gateway e controller a 64 bit.

Consigli pratici se produci dispositivi o apparati

Se lavori in un'azienda che produce dispositivi medici o apparati per l'energia, ecco da dove partirei, anche senza verifica formale:

  • fai l'inventario dei moduli che, se sbagliano, causano un danno fisico: è il tuo nucleo critico;
  • tieni una SBOM aggiornata e una build riproducibile: senza, nessuna prova e nessun audit sono ripetibili;
  • metti i parser di protocollo sotto fuzzing continuo, prima ancora di pensare alle prove;
  • scrivi in frasi semplici le proprietà che il prodotto non deve mai violare: è la bozza della futura specifica;
  • prepara fin da ora il processo di notifica delle vulnerabilità previsto dal Cyber Resilience Act.

Domande frequenti

La verifica formale sostituisce il penetration test?

No. Il penetration test e la scansione restano su tutto il prodotto. La verifica formale copre solo il nucleo critico e dimostra proprietà precise. Sono strati diversi della stessa difesa.

Se le prove le scrive l'AI, chi garantisce che siano giuste?

Le controlla Lean, che accetta solo passaggi verificabili, e un controllo automatico conferma che dimostrano la specifica firmata. Della specifica e del modello del processore rispondono persone. È lo stesso schema usato da DeepMind.

Serve dare il codice sorgente?

Il metodo lavora sul codice macchina, quindi in molti casi basta il binario con la sua build. Il lavoro si può fare in un ambiente isolato presso il produttore, senza conservare il codice.

VeriCritica è già un servizio attivo?

No, è un progetto in progettazione. Il primo passo è riprodurre in casa la prova di Signal e misurare tempi e costi reali. Poi un componente open source verificato e pubblicato, e solo dopo i pilota con i produttori.

Il prossimo passo

Nei prossimi mesi scaricherò il repository di DeepMind, ricontrollerò le prove sulla mia infrastruttura e sceglierò il primo componente open source da verificare, probabilmente il bootloader MCUboot o un parser Modbus/TCP. Racconterò qui cosa funziona e cosa no, con i numeri veri.

Se produci dispositivi medici o apparati per l'energia, o fai ricerca sui metodi formali, cerco partner per i primi pilota: scrivimi. Ti dico cosa serve, cosa resta a te e cosa una prova copre davvero.

Condividi LinkedIn Facebook X WhatsApp Telegram Email
Cybersecurity per PMI

Quanto è esposta la tua azienda?

Un hacker etico certificato trova le falle prima di chi attacca e ti dice come chiuderle, partendo dalla più pericolosa.

Marketing & Google Ads

Le tue campagne stanno bruciando budget?

Raccontami obiettivi e numeri attuali: ti dico dove intervenire per primo.

Coding & debugging

Codice scritto con l’AI? Funziona oggi. Reggerà domani?

Audit del debito tecnico e della sicurezza di app e siti, debugging e code review.

iLife · crescita personale

Riprogramma la tua vita con il metodo di un hacker etico

Percorsi one-to-one per capire dove sei, scegliere la direzione e arrivarci con metodo.

Digital Agency

Dove sta frenando il tuo business?

Una consulenza per capire cosa sistemare prima: sicurezza, tecnologia, marketing o persone.

Continua a leggere

Tutti gli articoli del blog

Rocco Balzamà
Parli direttamente con me

Il prossimo passo?
Parliamone.

Raccontami cosa vuoi proteggere, costruire o far crescere. Ti aiuto a capire da dove partire.

Di cosa mi occupo

Da oltre trent'anni faccio tre cose. Cerco le falle della tua azienda prima che le trovi chi vuole entrare. Imposto il marketing perché i risultati si possano misurare. E aiuto persone e aziende a capire chi sono, prima ancora di decidere cosa vendere.

Da remoto e in presenzaLavoro da remoto tramite call e videocall. Quando il progetto lo richiede, intervengo anche in presenza.
Seguimi sui social
Certified Ethical HackerSicurezza informatica dal 1993
Gli strumenti con cui lavoro
  • Google Ads
  • Meta
  • WordPress
  • WooCommerce
  • Shopify
  • TikTok
Strumenti gratuiti