Il suo obiettivo è favorire l’innovazione garantendo al tempo stesso che i sistemi AI siano sicuri, trasparenti e rispettosi dei diritti fondamentali.
Nonostante le sue radici legali e ingegneristiche, la normativa ha un impatto diretto su chi progetta prodotti digitali: designer, product manager e team di sviluppo.
Per progettare interfacce compliant con l'AI Act devi saper tradurre obblighi normativi in scelte di design precise: mostrare all'utente che sta interagendo con un sistema automatizzato, presentare una spiegazione delle decisioni prese dall'AI, dove posizionare i controlli che permettono di contestare o interrompere un processo automatico. L'interfaccia è il punto in cui le norme smettono di essere formule giuridiche e diventano elementi interattivi concreti. Se questo passaggio fallisce, l'intero prodotto risulta non conforme, con conseguenti sanzioni.
In questa guida vedremo quali aspetti dell’AI Act impattano direttamente il lavoro di UX e UI Designer e come tradurli in scelte progettuali concrete.
1. Quadro normativo e scadenze chiave
L’AI Act adotta un approccio basato sul rischio. I sistemi di intelligenza artificiale vengono classificati in diverse categorie in base al loro potenziale impatto sulle persone e sulla società. Per chi progetta prodotti digitali, tuttavia, le categorie davvero rilevanti sono due:
- Obblighi di trasparenza per casi specifici: riguardano sistemi che interagiscono direttamente con le persone o generano contenuti sintetici, come chatbot, assistenti virtuali, sistemi generativi e deepfake. In questi casi l’utente deve essere messo nelle condizioni di riconoscere la presenza dell’AI.
- Casi regolamentati (alto rischio): comprendono applicazioni critiche utilizzate in contesti come selezione del personale, credito, istruzione, salute o gestione di infrastrutture critiche. In questi scenari entrano in gioco requisiti aggiuntivi come supervisione umana, tracciabilità e spiegabilità delle decisioni.
La roadmap di adeguamento
L’entrata in vigore degli obblighi previsti dall’AI Act segue una roadmap progressiva. Il mancato adeguamento può comportare sanzioni fino a 35 milioni di euro o al 7% del fatturato globale annuo.
- Febbraio 2025 (già in vigore): divieto dei sistemi a rischio inaccettabile, come quelli basati su manipolazione comportamentale o social scoring.
- Agosto 2025: entrano in vigore i primi obblighi relativi ai modelli di intelligenza artificiale generale (General Purpose AI).
- A partire dal 2 agosto 2026: si applica la maggior parte delle disposizioni operative dell’AI Act. Alcuni obblighi dedicati ai sistemi ad alto rischio seguono tempistiche specifiche.
Ruoli della normativa: Provider e Deployer
L’AI Act distingue principalmente tra Provider e Deployer.
Il Provider è chi sviluppa o modifica un sistema AI per immetterlo sul mercato. Il Deployer è invece chi integra e utilizza un sistema sviluppato da terzi all’interno del proprio prodotto o servizio.
Questa distinzione è importante perché molte aziende digitali non costruiscono modelli proprietari, ma integrano servizi AI esterni tramite API. Anche in questi casi possono comunque essere soggette a obblighi legati alla trasparenza, alla supervisione umana e alla corretta gestione degli output generati.
2. Dalla regola allo schermo: come cambia la progettazione UX/UI
L’AI Act non introduce semplicemente nuovi documenti da compilare o nuove procedure da seguire. Introduce nuovi requisiti progettuali. L’obiettivo è superare il modello della “black box”, in cui il sistema prende decisioni o genera contenuti senza rendere chiaro cosa sta facendo e perché.
Per designer e product team questo si traduce in tre domande:
- Come rendere visibile la presenza dell’AI?
- Come spiegare gli output e le decisioni generate?
- Come mantenere un controllo umano significativo sul processo?
Questi tre aspetti non sono indipendenti. In un flusso di valutazione del credito, ad esempio, l’utente deve sapere che è coinvolto un sistema automatizzato, comprendere i fattori che hanno influenzato il risultato e avere la possibilità di richiedere una revisione. Per questo motivo trasparenza, spiegabilità e supervisione umana non vanno progettate separatamente, ma come parti dello stesso sistema di esperienza.
Trasparenza visiva (AI Disclosure)
Cosa richiede la legge: l'utente deve sapere se sta usando un sistema automatizzato o se sta visualizzando un contenuto sintetico (testo, immagine, audio generati dall'AI). L'obbligo non riguarda solo i chatbot: si estende a qualsiasi output prodotto o mediato dall'intelligenza artificiale.
Impatto sul Design: non è consentito camuffare l'AI dietro dinamiche umane per aumentare la conversione. L'interfaccia deve integrare marcatori visivi costanti (badge, icone dedicate, sfondi differenziati) che isolino l'azione dell'AI dal resto dell'applicazione. Il posizionamento di questi elementi deve anticipare l'interazione, non seguire la fine del flusso. Una label persistente può essere una scelta progettuale utile per ridurre ambiguità, per quanto non sia prescritta in modo esplicito dall’AI Act.
Spiegabilità (Explainable AI — XAI)
Cosa richiede la legge: il sistema deve rendere comprensibili i criteri dietro a un output o a una decisione automatizzata. Nello specifico, questo vale per i sistemi ad alto rischio: si chiede trasparenza e informazioni adeguate ai deployer, in modo che possano interpretare l’output e usare correttamente il sistema.
Inoltre, quando una persona è soggetta a una decisione basata sull’output di un sistema ad alto rischio, questa ha diritto a ricevere spiegazioni chiare e significative, se quella decisione produce effetti legali o impatti significativi analoghi.
Impatto sul Design: cambia la gestione del microcopy e dei tooltip. Il design deve tradurre score numerici, alberi di decisione o variabili algoritmiche in linguaggio naturale e accessibile. Dal punto di vista della UI, ciò si traduce nella progettazione di aree informative dedicate — pannelli collassabili, modal di approfondimento, sezioni "Dettaglio del calcolo" — posizionate accanto all'output generato per ridurre il carico cognitivo.
La profondità di questa spiegazione deve essere proporzionale al rischio della decisione. Per un output a basso rischio — un suggerimento di prodotto, una raccomandazione editoriale — può bastare un tooltip contestuale. Per una decisione ad alto impatto — valutazione del credito, selezione di un candidato, diagnosi di supporto medico — serve un percorso informativo dedicato, consultabile anche in un secondo momento e non solo al momento dell'output.
Supervisione umana (Human-in-the-loop)
Cosa richiede la legge: l'utente o un operatore devono poter monitorare, correggere o invalidare le decisioni prese dall'AI.
Impatto sul Design: cambia l'interaction design e i flussi di navigazione. Scompare il concetto di automazione a "singolo clic". Bisogna progettare sistemi di validazione intermedi in cui l'utente verifica l'output prima che diventi definitivo. Nei sistemi ad alto rischio, il processo e l’interfaccia devono consentire una supervisione umana effettiva, proporzionata al rischio.
Ci sono due aspetti progettuali da considerare. Il primo riguarda la frizione introdotta per la supervisione umana: non deve diventare un ostacolo che rende l’automazione inutilizzabile. La compliance richiede controlli proporzionati al rischio, non passaggi superflui. Il secondo riguarda la distanza tra chi usa il sistema e chi subisce gli effetti della decisione. Nei sistemi ad alto rischio, queste figure spesso non coincidono: un recruiter usa il tool, ma è il candidato a essere valutato; un medico consulta un supporto diagnostico, ma è il paziente a subirne le conseguenze. Per questo è necessario progettare percorsi chiari di spiegazione, revisione e contestazione, verificando la conformità sia all’AI Act sia al GDPR.
3. Checklist UX/UI per la conformità all'AI Act
Abbiamo creato una checklist operativa dedicata alla progettazione di prodotti AI. Può essere utilizzata durante la design review, per verificare che flussi, componenti e microcopy rispettino i requisiti previsti dall’AI Act, oppure nelle fasi di collaudo e QA, per confermare che quanto progettato sia stato effettivamente implementato.
Ogni voce include un’indicazione del livello di rilevanza, distinguendo tra obblighi normativi, aspetti da verificare in base al rischio e best practice UX.
La checklist non sostituisce una consulenza legale o un’analisi di rischio formale. Per i prodotti che rientrano nelle categorie ad alto rischio, questi strumenti restano necessari e complementari.
🔴 Obbligatorio
🟠 Da verificare in base al rischio
🟡 Best Practice
🔵 Altra normativa (GDPR, DSA, DMA)
Trasparenza (AI Disclosure)
L'utente riconosce immediatamente quando l'AI è attiva
I contenuti generati o modificati dall'AI sono chiaramente identificabili
L'informazione sulla presenza dell'AI è mostrata prima dell'interazione
La presenza dell'AI resta chiaramente visibile durante il flusso
Spiegabilità (Explainability)
Le decisioni, i suggerimenti o gli output dell'AI possono essere spiegati
Il livello di dettaglio della spiegazione è proporzionato al rischio della decisione
Le spiegazioni restano accessibili anche dopo la visualizzazione iniziale dell'output
Le spiegazioni utilizzano un linguaggio comprensibile e non tecnico
Supervisione umana (Human-in-the-loop)
È possibile richiedere l'intervento o la revisione da parte di una persona
Gli output dell'AI possono essere modificati, annullati o ignorati
Nei processi critici è prevista una validazione umana prima della decisione finale
Le persone impattate da una decisione possono richiederne la revisione
La supervisione umana non introduce frizioni eccessive o inutili
Prevenzione dei pattern ingannevoli (Anti-dark patterns)
L'interfaccia non utilizza tecniche manipolative per influenzare il comportamento dell'utente
I suggerimenti dell'AI non sono presentati come unica opzione possibile
L'utente può rifiutare o limitare la personalizzazione algoritmica con la stessa facilità con cui può accettarla
Gestione dell'incertezza (Design for uncertainty)
L'interfaccia comunica chiaramente limiti, errori potenziali o incertezze dell'AI
Per gli output ad alto impatto viene comunicato il livello di affidabilità o confidenza disponibile
È possibile segnalare errori o fornire feedback sugli output dell'AI
Gli stati di caricamento e gli errori del sistema sono chiaramente distinguibili dalle decisioni dell'AI