Macchine che segnalano un guasto prima che si manifesti, sistemi di visione che scartano i pezzi difettosi, linee di produzione che richiedono un intervento umano sempre più limitato: fino a pochi anni fa sembrava fantascienza, oggi è la realtà di un numero crescente di stabilimenti. L’intelligenza artificiale è entrata in fabbrica e, con ogni probabilità, non ne uscirà più. Ma ogni tecnologia che entra in un ambiente produttivo porta però con sé dei rischi e l’IA non fa eccezione. Che cosa accade se un sistema sbaglia o si blocca? Che cosa succede se qualcuno riesce a manometterlo dall’esterno? Quale impatto hanno queste tecnologie su chi ci lavora accanto ogni giorno? E, soprattutto, come si mantiene in capo a una persona la decisione finale? In questo articolo proviamo a fare il punto sull’uso dell’intelligenza artificiale negli stabilimenti, sui rischi specifici che introduce e sulle misure con cui è possibile prevenirli o ridurli.
di Claudio Delaini è ingegnere, consulente, CTP infortuni, formatore e divulgatore su sicurezza macchinari industriali e certificazione CE.
Negli ultimi anni, e ancora di più negli ultimi mesi, l’intelligenza artificiale ha conosciuto un’accelerazione che ha portato le sue applicazioni fuori dai laboratori e dentro i reparti produttivi. Gli impieghi più diffusi riguardano l’efficienza dei processi, ma un numero crescente tocca da vicino la sicurezza.
Tra le applicazioni che si incontrano più spesso ci sono i chatbot per l’assistenza tecnica, che rispondono alle domande degli operatori estraendo e rielaborando le informazioni contenute nei manuali e nella documentazione della macchina; i magazzini automatizzati, in cui algoritmi di ottimizzazione gestiscono stoccaggio e movimentazione; i veicoli a guida autonoma che trasportano materiali all’interno dello stabilimento; i sistemi di manutenzione predittiva, che analizzano i dati dei sensori per individuare anomalie prima che diventino guasti.
Altre applicazioni riguardano direttamente la tutela dei lavoratori: dispositivi indossabili che monitorano parametri fisiologici come frequenza cardiaca e temperatura corporea, sistemi che verificano tramite tag RFID che i dispositivi di protezione individuale siano effettivamente indossati, algoritmi che incrociano dati storici e dati in tempo reale per individuare le situazioni a rischio prima che si traducano in un infortunio.
Non tutte queste tecnologie sono intelligenza artificiale in senso stretto: un magazzino automatizzato o un sistema RFID possono funzionare con logiche del tutto deterministiche. Il confine, però, si sta spostando rapidamente, perché sempre più spesso questi sistemi integrano componenti di apprendimento automatico per ottimizzare percorsi, previsioni e soglie di intervento.
Una normativa che insegue la tecnologia
Alla diffusione dell’IA nell’organizzazione, nella logistica, nella produzione e in ambiti più direttamente legati alla sicurezza, come manutenzione, prevenzione e controllo, corrisponde un quadro normativo che fatica a tenere il passo.
Il principale riferimento generale è il Regolamento (UE) 2024/1689, noto come AI Act, entrato in vigore il 1° agosto 2024: uno dei primi strumenti legislativi al mondo che sottopone i sistemi di intelligenza artificiale a regole e controlli sistematici lungo tutto il loro ciclo di vita. Il suo impianto, però, è stato pensato soprattutto attorno ai rischi di portata generale, come la tutela dei diritti fondamentali o la manipolazione dell’opinione pubblica.
Per le macchine, inoltre, il quadro è cambiato di recente. Il Regolamento (UE) 2026/1744, il cosiddetto Digital Omnibus, ha sottratto i sistemi di IA integrati nelle macchine all’applicazione diretta dell’AI Act: i requisiti corrispondenti saranno inseriti nel Regolamento Macchine (UE) 2023/1230 tramite atti delegati della Commissione. Per chi progetta e costruisce macchine, il riferimento principale sull’intelligenza artificiale diventa quindi il Regolamento Macchine.
Il Regolamento Macchine (UE) 2023/1230, che sostituirà la Direttiva 2006/42/CE dal 20 gennaio 2027, affronta per la prima volta in modo esplicito le macchine dotate di comportamento o logica integralmente o parzialmente autoevolutivi. Il punto 1.2.1 dell’allegato III chiede che i loro sistemi di comando non possano causare azioni che vanno oltre il compito e lo spazio di movimento definiti, che consentano la registrazione dei dati relativi al processo decisionale in materia di sicurezza e che permettano in qualsiasi momento la correzione della macchina per mantenerne la sicurezza intrinseca. I componenti di sicurezza e le macchine che integrano questi sistemi, inoltre, sono inseriti tra i prodotti per i quali l’allegato I prevede una valutazione della conformità più rigorosa.
Sono passi importanti, ma restano un punto di partenza. Come affrontare, nel frattempo, i rischi concreti?
La mia risposta è dettata dal buonsenso: come si è fatto finora con ogni altra tecnologia, una valutazione dei rischi accurata, seguita dall’adozione di misure di prevenzione e protezione adeguate, resta lo strumento principale per contrastare i pericoli legati all’uso dell’IA in fabbrica. Con una differenza: l’intelligenza artificiale introduce rischi specifici, che vanno conosciuti per poter essere valutati.
Errori del software e “allucinazioni”
Fondamentalmente, i rischi specifici dell’IA sono gli errori del software e le “allucinazioni”, la sicurezza informatica, la perdita del controllo umano e il tecnostress.
Uno dei rischi principali è rappresentato dagli errori del software, che possono tradursi in guasti e malfunzionamenti, e dalle cosiddette allucinazioni dell’IA, cioè risposte o analisi errate prodotte dal sistema con la stessa apparente sicurezza di quelle corrette. Un sistema di manutenzione predittiva, ad esempio, potrebbe segnalare un guasto inesistente oppure, al contrario, non rilevarne uno reale, con conseguenze che vanno dal fermo produttivo non necessario a un rischio per la sicurezza.
La misura più efficace è introdurre un passaggio di validazione umana obbligatorio: le decisioni proposte dall’IA devono essere confermate da una persona competente prima di essere attuate. Nel caso della manutenzione predittiva servirà il via libera di un manutentore; se l’IA viene usata per tradurre il manuale d’uso di una macchina, il testo dovrà essere verificato da un traduttore professionista, e così via.
Può essere utile, inoltre, valutare una copertura assicurativa per le perdite economiche e i danni materiali derivanti da malfunzionamenti o interpretazioni errate del sistema. La valutazione è tanto più rilevante quanto più il settore è esposto: si pensi, ad esempio, alle conseguenze che può avere l’errore di un sensore basato su IA in un impianto del settore oil and gas.
Sicurezza informatica
Veicoli autonomi, sensori intelligenti e magazzini automatizzati sono tutti sistemi connessi alla rete, e in quanto tali possono diventare un bersaglio. Le conseguenze di un attacco vanno dal furto di dati al blocco operativo, fino alla manipolazione dei sistemi con effetti su interi processi produttivi.
Le misure di base sono note: aggiornamento costante del software, firewall adeguati, crittografia dei dati sensibili e segmentazione delle reti, così da limitare la propagazione di un eventuale attacco. A queste va affiancata una formazione continua del personale sul riconoscimento e la gestione delle minacce informatiche, verificata periodicamente anche attraverso simulazioni.
La sicurezza informatica, inoltre, non è più soltanto una questione organizzativa di chi utilizza la macchina. Il Regolamento Macchine chiede ai costruttori di proteggere dall’alterazione il software e i dati critici per la sicurezza (allegato III, punto 1.1.9), mentre il Cyber Resilience Act (Regolamento UE 2024/2847), pienamente applicabile dall’11 dicembre 2027, impone requisiti di cybersicurezza a tutti i prodotti con elementi digitali, dai PLC ai sensori connessi. Dall’11 settembre 2026 i fabbricanti sono già tenuti a segnalare entro 24 ore le vulnerabilità attivamente sfruttate.
Perdita del controllo umano
Un rischio meno evidente, ma non meno serio, è la progressiva perdita di controllo delle persone sulla macchina. Quando decisioni rilevanti vengono affidate esclusivamente a un sistema automatico, gli operatori possono non essere in grado di intervenire in tempo, proprio nel momento in cui qualcosa va storto.
Gli algoritmi, per quanto sofisticati, sono addestrati su un insieme di casi e possono non saper reagire a situazioni che quell’insieme non comprende. Il problema diventa critico in tutti gli scenari che richiedono flessibilità di giudizio.
Consideriamo un caso ipotetico. Su una linea automatizzata, un sistema di IA monitora lo stato delle macchine. Un sensore rileva un aumento di temperatura, ma l’algoritmo lo classifica come una normale oscillazione e la macchina continua a lavorare. In realtà quell’aumento era il primo segnale di un surriscaldamento che avrebbe potuto portare a un guasto grave o a un incendio. Un operatore esperto, con ogni probabilità, avrebbe colto l’anomalia e fermato la macchina per un controllo.
Per questo l’IA non dovrebbe mai operare in totale autonomia. Sul piano della progettazione, le funzioni di sicurezza non dovrebbero dipendere dal solo sistema di intelligenza artificiale: una protezione termica indipendente, progettata secondo i criteri della sicurezza funzionale, interviene anche quando l’algoritmo sbaglia. Sul piano dell’esercizio, serve una valutazione dei rischi che tenga conto del comportamento del sistema durante l’uso reale dell’impianto e un monitoraggio costante attraverso la manutenzione.
Tecnostress e isolamento
Un ultimo aspetto da non sottovalutare è il cosiddetto tecnostress. Con l’automazione che si estende a ogni fase del lavoro, gli operatori devono imparare di continuo a utilizzare nuove tecnologie, gestire aggiornamenti frequenti e sostenere un livello di connessione sempre più elevato.
Il risultato può essere un senso di sopraffazione, con un aumento dello stress che si ripercuote sulla produttività e sulla salute psicologica. A questo si aggiunge la riduzione delle interazioni tra colleghi, che può generare isolamento. Non è un caso che lo stesso Regolamento Macchine (UE) 2023/1230 chieda ai costruttori di tenere conto delle tensioni psichiche che possono derivare dall’interazione con le macchine. In Italia, la legge 132/2025 stabilisce che l’IA in ambito lavorativo debba essere impiegata anche per tutelare l’integrità psicofisica dei lavoratori, e obbliga il datore di lavoro a informarli del suo utilizzo.
Anche in questo caso la leva principale è la formazione. I lavoratori devono conoscere non solo i vantaggi delle nuove tecnologie, ma anche i loro limiti, i rischi che comportano e il loro possibile impatto psicologico. I percorsi formativi dovrebbero includere l’uso sicuro e consapevole dell’IA, la sicurezza informatica e la gestione degli imprevisti, con sessioni pratiche che permettano agli operatori di familiarizzare con i nuovi sistemi e di intervenire tempestivamente quando qualcosa non funziona. Per chi utilizza sistemi di IA, peraltro, la formazione non è più soltanto una buona pratica: l’articolo 4 dell’AI Act richiede a fornitori e utilizzatori di garantire un livello sufficiente di alfabetizzazione in materia di IA del personale che vi opera.
In conclusione, l’intelligenza artificiale non cambia la logica della prevenzione: individuare i pericoli, valutare i rischi, adottare misure adeguate. Cambia il tipo di pericoli da cercare. Chi progetta, integra o utilizza sistemi basati su IA deve sapere che un algoritmo può sbagliare senza dare alcun segnale di errore, e costruire attorno a questa possibilità protezioni che non dipendano dall’algoritmo stesso.
