AI Act: pratiche vietate e sistemi ad alto rischio

Le pratiche vietate dall'AI Act sono la parte del regolamento che ti conviene controllare per prima. Sono in vigore dal 2 febbraio 2025 e la loro violazione è la più punita in assoluto. In questo secondo capitolo ti porto dal vertice della piramide del rischio fino ai sistemi ad alto rischio: cosa è proibito, cosa è cambiato con l'Omnibus del 2026 e come capire se un tuo software rientra tra quelli "pesanti".

Se ti sei perso il primo capitolo, parti da cos'è l'AI Act e a chi si applica: ruoli e calendario servono anche qui.

La piramide del rischio in trenta secondi

Il regolamento divide i sistemi di IA in quattro livelli. Più sali, più obblighi ti ritrovi.

| Livello | Cosa significa | Cosa devi fare | | --- | --- | --- | | Rischio inaccettabile | Usi vietati dall'articolo 5 | Smettere. Punto. | | Alto rischio | Allegato III e prodotti dell'Allegato I | Requisiti stringenti, documentazione, sorveglianza umana | | Rischio limitato | Chatbot, contenuti generati, deepfake | Obblighi di trasparenza (art. 50) | | Rischio minimo | Filtri antispam, correttori, raccomandazioni banali | Nessun obbligo specifico, codici volontari |

La buona notizia è che la grande maggioranza dei sistemi che usi in azienda sta in basso. La cattiva è che ti basta un solo strumento nel posto sbagliato per cambiare tutto. E di solito è quello che nessuno ha messo in inventario.

A fianco della piramide c'è un regime a parte per i modelli per finalità generali (GPAI), quelli alla base di ChatGPT, Gemini, Claude e simili. Gli obblighi lì ricadono soprattutto su chi i modelli li sviluppa. Ne parliamo nel prossimo capitolo, per la parte che tocca te.

Pratiche vietate dall'AI Act: l'elenco dell'articolo 5

Sono gli usi che l'Unione considera incompatibili con i propri valori. Vietati e basta: nessuno ti chiederà una valutazione caso per caso.

Tecniche manipolative o subliminali che distorcono il comportamento di una persona causandole un danno significativo.
Sfruttamento delle vulnerabilità dovute a età, disabilità o situazione socio-economica.
Punteggio sociale: classificare le persone in base al comportamento o alla personalità, con trattamenti pregiudizievoli.
Polizia predittiva individuale basata solo sulla profilazione o sui tratti della personalità.
Banche dati di riconoscimento facciale costruite con lo scraping non mirato di immagini da internet o dalle telecamere.
Riconoscimento delle emozioni sul luogo di lavoro e nelle scuole, salvo motivi medici o di sicurezza.
Categorizzazione biometrica per dedurre razza, opinioni politiche, religione, orientamento sessuale.
Identificazione biometrica remota "in tempo reale" negli spazi pubblici a fini di contrasto, con eccezioni strettissime.

Per la tua impresa i punti caldi sono il 5, il 6 e il 7. Pensa a quel software che promette di misurare lo "stress" dei dipendenti dalla webcam durante le call. O al sistema di videosorveglianza del negozio che "riconosce il profilo" dei clienti. Vietati.

I nuovi divieti dell'Omnibus 2026

Il Regolamento (UE) 2026/1744 ha aggiunto due divieti espliciti, applicabili dal 2 dicembre 2026:

sistemi che generano o manipolano immagini, video o audio intimi e realistici di persone identificabili senza il loro consenso (le cosiddette app di "nudificazione");
sistemi che generano materiale di abuso sessuale su minori, anche interamente sintetico.

Ti sembrano lontani dalla tua realtà? Per la maggior parte delle aziende lo sono. Ma se sviluppi o rivendi strumenti di generazione di immagini, ti tocca dimostrare di avere misure per impedirlo. Non basta dire "non era previsto".

Autodiagnosi passo per passo: cinque domande da farti subito

Prendi un foglio. Rispondi con un sì o con un no, pensando a tutti gli strumenti che la tua azienda usa, compresi quelli dei fornitori.

Usiamo strumenti che analizzano lo stato emotivo di dipendenti, candidati o studenti?
Compriamo o alimentiamo banche dati di volti raccolte in massa dal web?
Profiliamo clienti o utenti per opinioni, religione, orientamento o origine?
Assegniamo punteggi di "affidabilità" generale alle persone, usati poi per trattarle diversamente?
Il nostro marketing usa tecniche subliminali o sfrutta le fragilità di qualcuno per spingerlo a scelte che lo danneggiano?

Un solo sì e ti fermi. Sul serio: sospendi l'uso e fai valutare il caso a un esperto.

Poi metti per iscritto l'esito, con data e nome di chi ha fatto il controllo. In caso di verifica, quel foglio è la prova della tua diligenza. Costa dieci minuti.

Le zone grigie

Due situazioni che vedo spesso e che ti possono mettere in allarme senza motivo:

Verifica biometrica 1:1. Il lettore di impronte o il riconoscimento del volto per entrare in ufficio confronta una persona con il suo stesso dato. Non è categorizzazione vietata. Può però ricadere nell'alto rischio, quindi va valutato.
Pubblicità persuasiva. La normale comunicazione commerciale resta lecita. Il divieto colpisce la manipolazione che inganna e danneggia, non lo spot ben fatto.

Quando un sistema diventa ad alto rischio

Qui la faccenda si fa tecnica, ma ti seguo passo passo. L'articolo 6 prevede due strade.

Via 1, il prodotto. Il sistema di IA è un componente di sicurezza di un prodotto già regolato dall'Unione, oppure è esso stesso quel prodotto: macchine, dispositivi medici, giocattoli, ascensori e così via (Allegato I). Gli obblighi scattano dal 2 agosto 2028 dopo il rinvio.

Via 2, il settore. Il sistema è destinato a uno degli otto ambiti dell'Allegato III. Gli obblighi scattano dal 2 dicembre 2027.

Gli otto settori dell'Allegato III

| # | Settore | Esempi che riguardano le imprese | | --- | --- | --- | | 1 | Biometria | Identificazione remota, riconoscimento delle emozioni dove consentito | | 2 | Infrastrutture critiche | Componenti di sicurezza per acqua, gas, elettricità, infrastrutture digitali | | 3 | Istruzione e formazione | Ammissioni, valutazione degli apprendimenti, sorveglianza durante gli esami | | 4 | Lavoro e occupazione | Screening dei CV, ranking dei candidati, promozioni, monitoraggio delle prestazioni | | 5 | Servizi essenziali | Merito di credito, prezzi e rischi delle assicurazioni vita e salute | | 6 | Attività di contrasto | Valutazioni del rischio, affidabilità delle prove | | 7 | Migrazione e frontiere | Esame di domande di asilo e visti | | 8 | Giustizia e democrazia | Supporto ai giudici, sistemi che influenzano le elezioni |

Il punto 4 è quello che ti riguarda di più se hai dipendenti. Quasi tutti i software HR con IA, dallo screening automatico dei curriculum alla valutazione delle performance, sono ad alto rischio. Il punto 5 interessa banche, fintech, intermediari assicurativi e chi concede dilazioni di pagamento con uno scoring automatico.

L'eccezione dell'articolo 6, paragrafo 3

C'è una valvola, e ti conviene conoscerla. Un sistema che rientrerebbe nell'Allegato III non è ad alto rischio se non pone un rischio significativo, per esempio perché:

svolge un compito procedurale ristretto;
migliora il risultato di un lavoro umano già completato;
rileva schemi o anomalie senza sostituire la valutazione della persona;
fa solo un lavoro preparatorio.

Ma attenzione: se il sistema fa profilazione di persone fisiche, è sempre ad alto rischio. Nessuna eccezione. E se sei tu a invocare l'esenzione, devi documentarla e registrarla, restando responsabile di quello che hai scritto.

I sette requisiti, in breve

Per i sistemi ad alto rischio il regolamento chiede sette cose. Pesano soprattutto sul fornitore, ma ti conviene conoscerle per scegliere bene cosa comprare:

un sistema di gestione del rischio lungo tutto il ciclo di vita;
dati di addestramento pertinenti, rappresentativi e il più possibile privi di errori;
una documentazione tecnica completa, redatta prima di andare sul mercato;
la registrazione automatica degli eventi (log);
istruzioni d'uso chiare per chi lo utilizza;
misure per una sorveglianza umana effettiva;
livelli adeguati di accuratezza, robustezza e cibersicurezza.

L'ultimo punto è il mio terreno. L'articolo 15 cita in modo esplicito attacchi come il data poisoning, cioè l'avvelenamento dei dati di addestramento, e gli esempi avversari costruiti per ingannare il modello. Se ti occupi già di sicurezza dei sistemi aziendali, molte delle pratiche che conosci tornano utili qui.

Errori da evitare in questa fase

Pensare che il rinvio cancelli i divieti. I divieti valgono dal febbraio 2025. Il rinvio riguarda solo l'alto rischio.
Fidarsi della brochure. "Conforme all'AI Act" in un volantino non vale nulla. Chiedi al fornitore la documentazione e, quando gli obblighi saranno applicabili, la dichiarazione UE di conformità.
Classificare a occhio. Lo screening dei CV "tanto lo controlla una persona" non esce dall'alto rischio solo per questo. Segui le domande in ordine.

Domande frequenti

Uso un software per selezionare i candidati. Da quando devo preoccuparmi? Per te gli obblighi dell'alto rischio dell'Allegato III si applicano dal 2 dicembre 2027. Ma il tempo per prepararti è adesso: informativa ai candidati, sorveglianza umana, log e scelta di un fornitore serio richiedono mesi.

Il controllo accessi con impronta digitale è vietato? No, la verifica 1:1 che usi all'ingresso non è tra le pratiche vietate. Può però essere ad alto rischio e resta soggetta al GDPR, che sui dati biometrici è molto severo.

Chi controlla che non usi pratiche vietate? Le autorità nazionali di vigilanza del mercato, che possono anche chiederti conto delle tue scelte. In Italia la legge 132/2025 ha indicato AgID e ACN. Le vediamo nell'ultimo capitolo.

Consigli pratici per il prossimo passo

Il consiglio pratico per oggi: fai l'autodiagnosi sui cinque divieti e mettila agli atti. Ti prende un quarto d'ora e ti toglie dal rischio più grave.

Nel capitolo 3 ti mostro gli obblighi di chi usa l'IA ogni giorno: formazione, trasparenza, sorveglianza e sicurezza. Se vuoi la piramide, l'albero decisionale e la scheda di classificazione pronta da stampare, scarica la guida completa all'AI Act. E se hai un caso dubbio, come uno strumento HR o di scoring, parliamone.