Per molto tempo, nei nostri impianti, safety e security sono state due discipline che si guardavano da lontano. La prima si occupava di proteggere le persone dalle macchine: barriere, interblocchi, tempi di arresto. La seconda proteggeva le macchine dagli accessi non autorizzati: reti segmentate, gestione di credenziali, aggiornamenti software. Due mestieri diversi, due normative diverse, spesso due uffici diversi in azienda. Funzionava perché i confini erano chiari: da una parte la fisica di un braccio robotico che si muove, dall’altra un pacchetto di dati che entra dove non dovrebbe.
L’IA sta rendendo questi confini molto meno netti, e credo sia questa la vera sfida che ci aspetta. Un sistema che decide, in tempo reale, come modificare la velocità di un braccio robotico sulla base di ciò che una telecamera “vede” è sia un problema di safety funzionale che di sicurezza informatica: se qualcuno manomette i dati in ingresso, anche senza toccare un solo componente meccanico, può alterare un comportamento che ha conseguenze fisiche dirette. Alla domanda “questa macchina è sicura?”, non si può più rispondere separando chi si occupa di persone da chi si occupa di dati.
C’è poi una terza dimensione, meno normata ma altrettanto concreta: il ruolo delle persone che lavorano accanto a questi sistemi. Non più solo operatori che azionano, ma supervisori che devono capire quando fidarsi di una decisione automatica e quando no: un compito nuovo, per cui la formazione tecnica non basta più da sola.
Mi chiedo allora quale altra competenza dovremo iniziare a coltivare, oltre a quella tecnica che abbiamo sempre saputo trasmettere. Forse la capacità di fare la domanda giusta a un sistema che non possiamo aprire e ispezionare come un quadro elettrico – non “come funziona”, ma “quanto e quando posso fidarmi”. Forse un vocabolario comune tra chi progetta la sicurezza fisica, chi difende i dati e chi addestra i modelli. E forse, semplicemente, convivere con un margine di incertezza che nessun corso di aggiornamento potrà mai chiudere del tutto.
