- Home
- iThink
- AI - Intelligenza Artificiale
- Debito tecnico AI: controllare le dipendenze del codice generato
Debito tecnico AI: controllare le dipendenze del codice generato
Un assistente di codice può scriverti uno script che importa una libreria mai esistita, con un nome plausibile e una sintassi d'uso perfetta. Se quel nome è libero sul registro pubblico, qualcuno può occuparlo con un pacchetto proprio, e il giorno in cui lanci l'installazione lo scarichi tu. Questo articolo spiega che cosa ha misurato uno studio su 16 modelli, perché i controlli sulle dipendenze fanno parte del debito tecnico del codice generato dall'AI, e quali verifiche mettere tra l'output del modello e la produzione.
La risposta breve: un pacchetto suggerito da un modello va trattato come una dipendenza qualunque scelta da uno sconosciuto. Prima di installarlo controlli che esista, che sia quello che credi, che sia fissato in un lockfile con il suo hash e che passi dalla revisione di una persona. Sono passaggi brevi da inserire in qualunque flusso di lavoro.
Che cosa sono le «allucinazioni di pacchetti»
Un modello linguistico genera testo probabile, non testo verificato. Quando scrive codice, il nome di una libreria è un pezzo di testo come un altro: se somiglia a ciò che ha visto in addestramento, lo propone, anche quando nessun pacchetto con quel nome è mai stato pubblicato. In letteratura si parla di package hallucination, cioè di pacchetto inventato dal modello.
Il rischio nasce dall'incontro con il registro pubblico. Se il nome inventato non è registrato, chi lo registra per primo controlla ciò che verrà installato sulle macchine di chi si fida del suggerimento. È lo scenario che OWASP descrive nella voce LLM09:2025 Misinformation, alla sezione «Unsafe Code Generation»: il modello propone librerie insicure o inesistenti e, se ci si fida senza verificare, si apre un rischio di sicurezza. Per il termine con cui qualcuno ha battezzato questa tecnica non ho una fonte primaria, quindi non lo uso: mi attengo a ciò che dicono lo studio e OWASP.
Quanto è frequente? I numeri dello studio
Lo studio di riferimento è We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs, di Joseph Spracklen e altri cinque autori, pubblicato su arXiv (prima versione del 12 giugno 2024, revisione del 2 marzo 2025) e indicato come in uscita al USENIX Security Symposium 2025. Metodo e risultati, come li riportano gli autori:
- sono stati valutati 16 modelli per la generazione di codice, con due insiemi di richieste e due linguaggi di programmazione;
- in totale sono stati generati 576.000 campioni di codice;
- i nomi di pacchetti inesistenti, contati una volta sola, sono 205.474;
- la percentuale media di pacchetti inventati è di almeno il 5,2% per i modelli commerciali e del 21,7% per i modelli open source.
Il dato non dice che un modello commerciale sbagli una volta su venti in ogni lavoro reale: misura una media su un insieme preciso di richieste. Gli autori lo descrivono però come un fenomeno persistente e sistematico, quindi non come un caso raro. Gli autori descrivono anche interventi di mitigazione che riducono il fenomeno mantenendo la qualità del codice; non li ho valutati uno per uno, per i dettagli rimando allo studio.
Perché il debito tecnico AI riguarda anche le dipendenze
Ogni dipendenza che entra nel progetto è codice altrui che dovrai aggiornare, controllare e, prima o poi, sostituire. Un assistente di codice ne aggiunge in fretta, perché risolvere un compito con una libreria è la via più breve. Se nessuno guarda che cosa è stato aggiunto, il progetto accumula dipendenze che nessuno ha scelto davvero: è debito tecnico a tutti gli effetti, con in più un lato di rischio.
Un esempio ipotetico, per rendere l'idea. Un'agenzia chiede a un assistente uno script per importare gli ordini di un negozio WooCommerce in un gestionale, e il modello propone un pacchetto per parlare con l'API del gestionale. Lo sviluppatore lancia l'installazione, lo script funziona, il lavoro va in consegna. Se quel pacchetto era un nome inventato e nel frattempo qualcuno lo aveva registrato, lo script gira con dati di clienti e credenziali del gestionale in mano a codice che nessuno ha letto. Il caso non è documentato: è lo scenario che i controlli seguenti servono a escludere.
Per la parte di sicurezza dell'agente stesso, cioè che cosa può leggere e dove può scrivere, ho già scritto dell'indirect prompt injection; per i commenti dimenticati che deviano gli agenti c'è l'articolo sui TODO nel codice. Qui resto sul controllo di ciò che arriva dentro il progetto, e per il caso più ampio del fornitore compromesso trovi l'articolo sugli attacchi alla supply chain.
Come fare: controllare una dipendenza, passo per passo
Questa è la sequenza che ti consiglio per ogni nome nuovo che compare in un package.json o in un requirements.txt dopo una sessione con un assistente.
- Elenca che cosa è cambiato. Guarda il diff del file delle dipendenze (
package.json,requirements.txt,composer.json) e il lockfile. Ogni riga nuova è una decisione da prendere, non un dettaglio. - Chiediti se serve. Se il compito si risolve con la libreria standard del linguaggio o con una dipendenza che il progetto ha già, l'assistente ha aggiunto codice altrui senza motivo. Togli la riga.
- Apri la scheda del pacchetto sul registro (npm o PyPI) e controlla che il nome sia scritto esattamente come nel codice, chi lo pubblica, quando è stata rilasciata la prima versione e se il collegamento al repository del sorgente porta a un progetto vero. Un nome appena registrato, senza storia e con un repository vuoto è un segnale da non ignorare.
- Confronta con la documentazione ufficiale. Se l'assistente cita una libreria per parlare con un servizio, cerca nella documentazione del servizio quale pacchetto indicano loro. Se non compare, non installarlo.
- Installa in un ambiente isolato (una macchina virtuale, un container o almeno una cartella di prova), non sul computer che ha le chiavi dei clienti.
- Fissa la versione e salva il lockfile (vedi la sezione seguente) e solo dopo apri la richiesta di revisione.
Lockfile e hash: dove si ferma la fiducia
Il file package-lock.json descrive l'albero esatto delle dipendenze generato da npm; per ogni pacchetto registra la versione e un valore di integrità, una stringa di tipo Subresource Integrity con hash sha512 o sha1. La documentazione npm dice che è pensato per essere salvato nel repository insieme al codice. Con npm ci l'installazione si ferma con un errore se le dipendenze del lockfile non corrispondono a quelle del package.json, e la documentazione del comando richiede che il lockfile esista già: nei processi di build è la scelta che impedisce l'ingresso silenzioso di un pacchetto non rivisto.
Per Python, pip ha la modalità di controllo degli hash. Si attiva indicando --hash su una dipendenza oppure forzandola con --require-hashes; richiede versioni fissate con == e hash per tutte le dipendenze, anche indirette. Serve a proteggere da manomissioni remote: un pacchetto il cui contenuto non corrisponde all'hash registrato non viene installato.
Il limite va detto con chiarezza: l'hash prova che stai installando lo stesso file che avevi approvato, non che quel file sia sicuro. Se hai approvato un pacchetto malevolo, l'hash lo riconferma fedelmente a ogni installazione. Il controllo umano del passo 3 resta il primo filtro.
Quali strumenti automatici aiutano, e cosa non coprono
Gli strumenti di audit rispondono a una domanda precisa, e conviene non chiedere loro altro.
npm auditinvia al registro una descrizione delle dipendenze e restituisce il report delle vulnerabilità note, come spiega la documentazione. Per impostazione predefinita richiede un lockfile.npm audit signaturesverifica le firme del registro dei pacchetti scaricati e, come indica la stessa pagina, anche le attestazioni di provenienza.- pip-audit analizza gli ambienti Python in cerca di pacchetti con vulnerabilità note, interroga il Python Packaging Advisory Database e si lancia su un file di requisiti con
pip-audit -r requirements.txt. Il README precisa che non è un analizzatore statico del codice e che non va considerato una difesa contro i pacchetti malevoli.
La provenienza, a sua volta, ha un perimetro. La documentazione npm sulla provenance la presenta come un modo per stabilire pubblicamente dove un pacchetto è stato costruito e da chi è stato pubblicato, collegandolo al sorgente e alle istruzioni di build, e avverte che non garantisce l'assenza di codice malevolo. Se un pacchetto ha la provenienza, hai un'informazione in più da valutare; se non ce l'ha, non è per forza sospetto, ma non puoi appoggiarti a quel segnale.
In breve, un pacchetto inventato e registrato la settimana scorsa non compare in nessun elenco di vulnerabilità note. Gli audit non sostituiscono i passi 1-4: li completano.
Checklist prima del deploy
- [ ] ogni dipendenza nuova è stata trovata nel diff e ha un motivo scritto nella richiesta di revisione;
- [ ] il nome del pacchetto corrisponde alla documentazione ufficiale del servizio che deve usare;
- [ ] la scheda sul registro mostra autore, storia delle versioni e un repository reale;
- [ ] il lockfile è nel repository e la build usa
npm ci, oppurepip install --require-hashes -r requirements.txtper Python; - [ ]
npm auditopip-auditsono stati eseguiti e le segnalazioni sono state lette, non archiviate; - [ ] il codice è stato provato in un ambiente senza chiavi di produzione;
- [ ] una persona diversa da chi ha chiesto il codice all'assistente ha approvato la modifica.
Errori da evitare
- Installare per far funzionare l'errore. Se un modulo risulta mancante e l'assistente propone un nome, controlla prima che sia quello giusto: un
pip installo unnpm installlanciato a ripetizione per tentativi è un modo per portare dentro un nome sbagliato. - Fidarsi dell'audit come di un lasciapassare. Un audit senza segnalazioni dice che non ci sono vulnerabilità note, non che il pacchetto sia affidabile.
- Rigenerare il lockfile a ogni build. Perde il senso del file: l'albero deve cambiare solo quando decidi tu di aggiornarlo.
- Lasciare agli agenti l'installazione senza approvazione. Un agente che installa pacchetti da solo sposta la decisione dalla persona al modello, che è proprio ciò che il rischio descritto dallo studio sfrutta.
- Dimenticare i pacchetti indiretti. Le dipendenze delle dipendenze finiscono nel lockfile e nei requisiti con hash: vanno guardate anche quelle, almeno nel diff.
Consigli pratici per PMI e agenzie
Se lavori con un piccolo team, la regola più utile da scrivere è una riga: nessuna dipendenza entra nel progetto senza una richiesta di revisione che la nomini. È una regola umana, che non richiede strumenti. Il secondo accorgimento è dare agli assistenti un ambiente da cui si possa sbagliare senza danni: un container senza accesso ai segreti di produzione, e un account del registro senza permessi di pubblicazione.
OWASP, nella stessa voce sul codice non sicuro, indica tra le mitigazioni di stabilire pratiche di codifica sicura, introdurre supervisione umana e verifica dei fatti, e formare i revisori perché non si fidino ciecamente dei contenuti generati dall'AI. Sono tre indicazioni che stanno bene in una procedura di tre righe, da applicare anche ai lavori più piccoli.
Domande frequenti
Un pacchetto inesistente è già un attacco?
No. Un nome inventato che non esiste produce un errore di installazione, e basta. Il rischio compare se quel nome viene registrato da qualcuno con intenzioni ostili e tu lo installi senza accorgertene.
Basta usare un modello commerciale?
Lo studio riporta una percentuale più bassa per i modelli commerciali (almeno il 5,2%) rispetto a quelli open source (21,7%), ma non zero. Il controllo sulle dipendenze serve con qualunque modello.
npm audit e pip-audit bastano?
No. Segnalano vulnerabilità note e, per pip-audit, il README esclude espressamente di considerarlo una protezione contro i pacchetti malevoli. Vanno usati insieme al controllo della scheda del pacchetto e alla revisione.
Considerazioni finali
Il codice generato dall'AI fa risparmiare tempo sulla scrittura e sposta il lavoro sulla verifica. Le dipendenze sono il punto in cui questo spostamento si vede di più, perché una riga in un file di requisiti porta dentro codice che nessuno ha scritto né letto. Dopo aver letto lo studio la mia posizione è semplice: non serve diffidare dell'assistente, serve che ogni nome di pacchetto passi da una persona prima di arrivare in produzione.
Se nel tuo progetto sono già entrate dipendenze suggerite da un assistente e vuoi sapere che cosa c'è davvero, con un controllo sull'albero delle librerie, sui lockfile e sulle parti scritte dall'AI, la pagina da cui partire è l'audit del codice AI e del debito tecnico da vibe coding. Se ti serve invece una revisione del codice e un aiuto a trovare un errore, trovi debugging e code review. Scrivimi da una delle due pagine: ti dico che cosa serve guardare e quanto lavoro richiede, prima di impegnarti in qualsiasi cosa.
Fonti
- Joseph Spracklen, Raveen Wijewickrama, A H M Nazmus Sakib, Anindya Maiti, Bimal Viswanath, Murtuza Jadliwala, We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs, arXiv:2406.10279, v1 del 12 giugno 2024, v3 del 2 marzo 2025; indicato come in uscita al USENIX Security Symposium 2025.
- OWASP Gen AI Security Project, LLM09:2025 Misinformation, sezione «Unsafe Code Generation» e strategie di mitigazione.
- npm Docs, package-lock.json, npm ci, npm audit, Generating provenance statements.
- Python Packaging Authority, pip: Secure installs, hash-checking mode e pip-audit, README.
Verifica delle fonti: 11 novembre 2026, sulle pagine citate (documentazione npm alla versione v10 del CLI). I numeri dello studio sono quelli riportati nella sua pagina su arXiv. L'esempio dell'agenzia e dello script di importazione è ipotetico: non descrive un caso reale.






