Cosa chiede l’AI Act alla PMI che usa chatbot e agenti AI

L’AI Act distingue chi fornisce un sistema di intelligenza artificiale da chi lo usa. Il fornitore lo sviluppa, o lo fa sviluppare, e lo mette in servizio con il proprio nome; l’utilizzatore, che il regolamento chiama deployer, lo impiega sotto la propria autorità in un’attività professionale. La PMI che usa ChatGPT in ufficio, o che attiva sul sito il chatbot di una piattaforma, è un deployer.

Il confine si sposta quando il sistema è costruito su misura. Un’azienda che commissiona un assistente per il proprio sito e lo pubblica con il proprio marchio può trovarsi nella posizione del fornitore, con obblighi di progettazione in più. Il legale va sentito prima del lancio.

Nei progetti di chatbot e consulenti AI conviene quindi inserire gli obblighi di trasparenza nelle specifiche fin dall’inizio, invece di aggiungerli a sistema finito.

L’obbligo di trasparenza dell’articolo 50 si applica dal 2 agosto 2026. A luglio è stato pubblicato un regolamento di semplificazione, il cosiddetto omnibus digitale. L’articolo 50 è rimasto com’era.

Chi interagisce direttamente con un sistema di AI deve esserne informato dall’inizio della prima interazione, in modo chiaro e accessibile, a meno che la cosa sia evidente. Su questa eccezione è meglio non contare. Il metro è una persona media, ragionevolmente informata. Le linee guida della Commissione europea citano per nome i chatbot e gli agenti AI.

Le stesse linee guida escludono i sistemi che lavorano sullo sfondo, senza contatto diretto con le persone. L’esclusione pesa su chi valuta un agente.

Un agente che nell’ufficio acquisti legge le offerte fornitori e prepara un confronto per il responsabile acquisti non conversa con nessuno, e di norma resta fuori da questo obbligo; l’agente che risponde ai clienti sul portale ci rientra. La differenza fra chatbot e agente AI passa anche da qui.

Sul sito di Newwave bastano le due frasi citate in apertura. Lo strumento che calcola quanto lavoro può gestire un assistente AI, invece, non ne ha bisogno. Funziona con regole fisse e senza un modello linguistico: parla di AI, ma non è un sistema di AI.

Il quarto paragrafo dell’articolo 50 riguarda i testi prodotti con l’AI e pubblicati per informare il pubblico su questioni di interesse generale, fra cui gli sviluppi economici e finanziari che possono diventare oggetto di dibattito. Quei testi vanno etichettati come generati, salvo che abbiano superato una revisione umana o siano sotto il controllo di un responsabile editoriale.

La Commissione chiarisce che la revisione deve entrare nel merito, e una correzione ortografica non la sostituisce.

Per una PMI che pubblica articoli, newsletter o comunicati scritti con l’aiuto dell’AI, la strada più semplice è quella scelta da Newwave: la privacy del sito dichiara che i contenuti prodotti con l’ausilio dell’AI passano da una revisione umana e restano sotto la responsabilità editoriale del titolare. La dichiarazione però impegna: da quel momento i testi vanno riletti ogni volta.

Dal 2 febbraio 2025 l’azienda che usa sistemi di AI deve occuparsi dell’alfabetizzazione del personale, cioè della capacità di chi li adopera di capirne limiti e rischi. L’omnibus digitale ha riscritto la norma: oggi chiede misure che sostengano lo sviluppo di queste competenze, tenendo conto delle conoscenze delle persone e del contesto d’uso, e precisa che non si deve garantire un livello specifico.

Sconsigliamo il corso generico uguale per tutti. Si compra per avere un attestato, e serve a poco. La norma chiede misure pensate sul contesto, e il contesto di un ufficio acquisti che usa un agente ha poco in comune con quello di un commerciale che scrive offerte con ChatGPT. Serve una traccia scritta breve: quali strumenti sono in uso, chi li usa, quali dati non vanno inseriti, chi controlla l’output.

La stessa traccia serve per portare l’intelligenza artificiale dentro i processi.

Gli obblighi più pesanti, quelli per i sistemi ad alto rischio, sono stati rinviati di oltre un anno dall’omnibus digitale. Per la maggior parte delle PMI il rinvio cambia poco, perché chatbot, previsioni di vendita e automazioni d’ufficio non stanno in quell’elenco. Ci stanno invece, fra gli altri, i sistemi usati per selezionare candidati, valutare le candidature o decidere promozioni.

Chi oggi filtra i curriculum con uno strumento di AI ha quindi più tempo per prepararsi, e l’obbligo resta. Secondo noi è il caso in cui conviene muoversi prima della scadenza. La documentazione si costruisce male in fretta.

Si parte da un elenco degli strumenti di AI che l’azienda usa oggi, compresi quelli adottati dai singoli senza una decisione formale, con accanto chi li usa e se parlano con clienti o fornitori. Da quell’elenco si legge dove serve un avviso di trasparenza, quali testi pubblicati passano dall’AI e chi va formato per primo.

Anche un progetto di automazioni con l’intelligenza artificiale parte da quell’elenco, perché un processo che non si conosce non si governa.

Resta un confine da tenere chiaro. Queste indicazioni vengono dall’esperienza di progetto e dal testo del regolamento: per il caso specifico serve il parere di un legale.

Descrivi all’assistente quali strumenti di AI usate: ti dice da dove partire con l’AI Act