Intelligenza artificiale, saremo capaci di governarla? Per le PMI di Brescia e Bergamo la risposta comincia in azienda

Tra agosto e settembre i laboratori più avanzati del mondo hanno perso il controllo dei loro modelli durante i test di sicurezza, e l'Europa ha rinviato una parte delle sue regole. Per chi guida un'impresa manifatturiera o uno studio professionale tra Brescia e Bergamo, la domanda su chi governa l'intelligenza artificiale è diventata di colpo concreta.

Un'estate che ha cambiato il tono del dibattito

Per anni la domanda "intelligenza artificiale, saremo capaci di governarla?" è rimasta un tema da convegno. Quest'estate è diventata un fatto di cronaca.

A luglio un modello di OpenAI, durante un test di sicurezza interno, è uscito dall'ambiente chiuso in cui doveva restare ed è arrivato a violare i sistemi di Hugging Face, una delle piattaforme di riferimento del settore. Pochi giorni dopo è toccato ad Anthropic, e ad agosto a Meta. Nel caso di Meta, secondo il portavoce, alla base c'era un errore di configurazione commesso da Irregular, la società indipendente che conduce i test di cybersicurezza per conto di Meta e Anthropic. Quell'errore ha lasciato al modello un accesso a internet che non doveva avere.

Anche il conteggio degli incidenti dice qualcosa. Alcune testate hanno parlato del terzo caso in pochi giorni, altre del quarto. La differenza dipende da cosa si conta e da quando gli episodi sono stati resi pubblici. Che non ci sia accordo nemmeno sul numero racconta bene quanto il fenomeno sia ancora difficile da osservare.

La copertura si è concentrata quasi tutta sull'immagine della macchina che "scappa". Secondo me il dettaglio più istruttivo è un altro. In almeno uno di questi casi il problema non era un'intelligenza artificiale diventata improvvisamente cattiva, ma un permesso concesso per errore da persone in carne e ossa.

Il rinvio europeo che molti hanno letto male

Nello stesso periodo l'Unione Europea ha rimesso mano al suo regolamento. Il cosiddetto Digital Omnibus, pubblicato il 24 luglio e in vigore dal 27, rinvia gli obblighi sui sistemi ad alto rischio al 2 dicembre 2027 o al 2 agosto 2028, a seconda della categoria.

Molti titoli hanno parlato di "rinvio dell'AI Act", e molte aziende hanno tirato un sospiro di sollievo. È una lettura sbagliata. Gli obblighi di trasparenza previsti dall'articolo 50 dell'AI Act non sono stati prorogati e si applicano dal 2 agosto 2026. Riguardano l'informazione alle persone che interagiscono con determinati sistemi di intelligenza artificiale e la trasparenza dei contenuti generati o manipolati artificialmente. Chi ha un chatbot sul sito o pubblica immagini generate per i social è già dentro il perimetro.

Diversi osservatori hanno notato l'effetto concreto di questo equivoco: progetti di adeguamento congelati, budget per la formazione dirottati altrove, dossier archiviati con sollievo. È la stessa dinamica che vedo quando parlo con gli imprenditori delle due province. La notizia del rinvio arriva prima e più forte di quella sugli obblighi rimasti.

L'Italia ci è arrivata prima, e quasi nessuno se n'è accorto

C'è un pezzo di contesto che nella copertura internazionale manca del tutto. L'Italia ha una sua legge sull'intelligenza artificiale, e gli obblighi che contano per le PMI sono in vigore da quasi un anno.

Dal 10 ottobre 2025 è in vigore la Legge n. 132 del 23 settembre 2025, che prevede due adempimenti molto concreti. Il primo riguarda i datori di lavoro. Quando impiegano sistemi di intelligenza artificiale nei casi previsti, devono informare per iscritto l'interessato e le rappresentanze sindacali. Il secondo riguarda i professionisti. Secondo l'articolo 13, l'intelligenza artificiale può essere usata solo come strumento di supporto e non può sostituire il lavoro intellettuale, la valutazione critica e la responsabilità diretta del professionista. Il cliente, inoltre, va informato.

Il dettaglio che sorprende di più chi me lo sente dire per la prima volta è che la comunicazione è dovuta anche quando l'intelligenza artificiale serve solo per attività di supporto, come l'impaginazione, il controllo documentale o la ricerca di informazioni normative. Tra Brescia e Bergamo ci sono migliaia di studi di commercialisti, consulenti del lavoro, RSPP e studi tecnici che lavorano per il manifatturiero. Una parte enorme di loro usa ChatGPT o Claude ogni giorno per queste attività, e pochissimi hanno aggiornato la lettera d'incarico.

Cosa ci insegna la storia (e cosa no)

Il 6 agosto, mentre si discuteva dei modelli fuori controllo, il Giappone ha ricordato gli 81 anni di Hiroshima. Il paragone tra intelligenza artificiale e nucleare è abusato e in buona parte fuorviante, perché la prima non è un'arma e si diffonde in modo del tutto diverso. Però una lezione la offre.

Tra il 1945 e la nascita dell'Agenzia internazionale per l'energia atomica passarono dodici anni. Per il trattato di non proliferazione ne servirono ventitré. La governance di una tecnologia potente non è mai arrivata in tempo, né perfetta. È arrivata a pezzi, per tentativi, con istituzioni imperfette che nel frattempo hanno comunque evitato il peggio.

Con l'intelligenza artificiale sta succedendo qualcosa di simile, con una differenza importante. I sistemi non stanno solo nei laboratori, stanno già sulle scrivanie di milioni di persone, compreso l'ufficio acquisti di un'officina di Lumezzane o l'amministrazione di un'azienda della Val Seriana. Per questo la governance non può restare un tema da trattati internazionali. Deve scendere anche a livello di singola impresa.

La governance che si fa in una PMI

Qui sta il punto che secondo me la copertura sta saltando. Gli incidenti di quest'estate sono nati da un problema molto terreno: un sistema aveva più permessi di quelli che gli servivano, e nessuno se n'era accorto in tempo. È lo stesso tipo di errore che può capitare in qualsiasi azienda che collega un agente di intelligenza artificiale alla posta, al gestionale o al CRM. Ne ho parlato anche a proposito di come integrare n8n con il MES, dove la regola della sola lettura serve esattamente a questo.

Governare l'intelligenza artificiale, per una PMI, significa prima di tutto sapere cosa si sta usando. Nelle aziende che incontro in provincia di Brescia e di Bergamo la situazione tipica è questa. Il titolare pensa che in azienda "non si usa ancora", mentre metà dei collaboratori usa almeno uno strumento di intelligenza artificiale con il proprio account personale, spesso caricando documenti dei clienti. Non lo fanno per malizia, ma perché nessuno ha detto loro come fare.

Tre domande da farsi questa settimana

Quali strumenti usano davvero le persone? Serve sapere anche con quali account e con quali dati. Basta chiederlo, senza tono da interrogatorio, e mettere le risposte in un foglio.

Cosa può fare ciascuno strumento senza che una persona approvi? Un assistente che scrive una bozza è una cosa. Un agente che invia mail, modifica record o accede a internet per conto dell'azienda è un'altra. Va trattato come un nuovo collaboratore, a cui si danno le chiavi di alcune stanze e non di altre.

Chi deve essere informato? I lavoratori e le rappresentanze, se l'intelligenza artificiale entra nei processi che li riguardano. I clienti, se sei un professionista. Chi visita il sito, se c'è un chatbot. Sono obblighi già in vigore, non scenari futuri.

Quanto costa farlo, quanto costa non farlo

Faccio un conto indicativo per un'azienda di trenta dipendenti, una dimensione molto comune nella subfornitura bresciana e bergamasca. Servono la mappatura degli strumenti, una procedura interna di una pagina, l'aggiornamento dell'informativa e una sessione di formazione di mezza giornata. In tutto sono qualche decina di ore tra titolare, un referente interno e un consulente esterno, cioè poche migliaia di euro, una volta.

Dall'altra parte c'è il rischio di un disegno tecnico riservato finito su un account personale, di un agente che manda una mail sbagliata a un cliente importante, o di una contestazione da parte di un lavoratore non informato. Nessuno di questi eventi è certo, ma basta che ne accada uno per rendere la spesa iniziale irrisoria.

Cosa cambia per le imprese di Brescia e Bergamo

Le due province sono tra i territori più manifatturieri d'Europa. Una parte rilevante delle loro aziende lavora come fornitore di gruppi più grandi, spesso esteri, nell'automotive, nella meccanica e nella componentistica. Questo cambia la prospettiva sulla governance dell'intelligenza artificiale.

Per un'azienda che lavora in subfornitura, il tema non arriva solo dalla legge ma anche dal cliente. I gruppi strutturati stanno cominciando a inserire nei questionari fornitori domande su come vengono trattati i dati e su quali strumenti di intelligenza artificiale li elaborano. Chi saprà rispondere in modo chiaro avrà un argomento in più al prossimo rinnovo del contratto. Chi non saprà nemmeno cosa usano i propri impiegati si troverà in difficoltà.

C'è poi un vantaggio tipico delle nostre PMI familiari: le decisioni si prendono in fretta. Il titolare può decidere un lunedì mattina come si usano gli strumenti e comunicarlo a tutti entro sera, cosa che in una multinazionale richiederebbe mesi di comitati.

Il rischio, invece, è la sottovalutazione. "Siamo piccoli, non ci riguarda" è la frase che sento più spesso, sia in Franciacorta sia nella bergamasca, ed è esattamente il ragionamento che lascia campo libero all'uso non governato. Le regole europee e italiane non fanno distinzioni di fatturato sugli obblighi di trasparenza.

Conclusione: la domanda giusta è un'altra

Saremo capaci di governare l'intelligenza artificiale? A livello globale nessuno può rispondere con onestà oggi. I laboratori stanno imparando a proprie spese quanto è difficile contenere sistemi sempre più autonomi, e le istituzioni corrono dietro a una tecnologia che cambia ogni pochi mesi.

A livello di singola azienda, invece, la risposta dipende da scelte molto concrete e alla portata di tutti: sapere quali strumenti si usano, decidere cosa possono fare da soli e informare le persone giuste. Gli incidenti di quest'estate ci ricordano che il punto debole spesso non è la macchina, ma il permesso concesso senza pensarci.

Se vuoi partire da qui, il nostro corso di intelligenza artificiale in presenza dedica una parte proprio all'uso consapevole degli strumenti in azienda, per team di PMI tra Brescia e Bergamo. Se preferisci un confronto sulla tua situazione specifica, scrivici. Il primo passo, comunque, costa zero: chiedi domani ai tuoi collaboratori quali strumenti di intelligenza artificiale usano, e ascolta la risposta senza giudicare.