SSI464

sicurezza 102 AUTOMAZIONE OGGI 464 SOLUZIONI SOFTWARE PER L’INDUSTRIA L’ intelligenza artificiale (IA) e le tecniche di machine learning (ML) stanno trasformando l’intero appa- rato digitale, di cui l’automazione industriale è uno dei principali pilastri. Dalla visione artificiale per il controllo qualità alla manutenzione predittiva, dall’ottimizzazione dei cicli produttivi alla gestione intelligente dell’energia, l’intelligenza artificiale è oggi un elemento strate- gico nella trasformazione digitale della fabbrica. Tuttavia, con l’aumento della sua adozione emergono nuove vulnerabilità, in- terrogativi etici e sfide legate alla protezione della proprietà intel- lettuale e alla gestione delle licenze. Un potenziale da gestire in modo responsabile Le reti neurali e gli algoritmi di deep learning sono progettati per replicare, seppur in forma limitata, il funzionamento del cervello umano. Tuttavia, a differenza degli esseri umani, un’AI non ha esperienze pregresse, intuizioni o buon senso. Lavora su insiemi di dati specifici e ottimizzati per attività come la classificazione, il riconoscimento, il rilevamento, la previsione, la segmentazione, il raggruppamento, la correlazione, l’ottimizzazione, la traduzione, la sintesi e la generazione. Un’AI non ‘pensa’ nel senso umano del termine. Non mette in discussione i dati in ingresso, né verifica autonomamente la validità del proprio output. Ciò significa che anche piccoli errori nei dati di training, intenzionali o accidentali, possono compromettere il comportamento del modello in modo imprevedibile. In contesti sensibili, una classificazione errata può avere conseguenze gravi. Lemanipolazioni volontarie possono in- cludere: l’inserimento di rumore visivo impercettibile per indurre una classificazione errata; l’etichettatura fuorviante di immagini o sequenze; la sostituzione selettiva di dati reali con dati sinte- tici generati ad hoc; l’alterazione del bilanciamento del dataset per favorire determinate risposte; l’iniezione di trigger nascosti (backdoor) in alcuni campioni; la modifica di metadati o marche temporali per falsare l’interpretazione temporale; la cancellazione sistematica di valori anomali (outlier) per ridurre la variabilità ap- presa dal modello. Un esempio classico è l’AI che apprende classi- Con l’aumento dell’adozione dell’intelligenza artificiale emergono nuove vulnerabilità, interrogativi e sfide legate alla protezione della proprietà intellettuale e alla gestione delle licenze Daniela Previtali ficando ‘sole’ come ‘gatto’ e ‘pioggia’ come ‘cane’, ignorando del tutto l’animale raffigurato. Questo tipo di errore può diventare cri- tico in contesti industriali safety-critical, dove una classificazione errata può danneggiare persone, macchinari o l’ambiente. Il ciclo di vita del machine learning Per affrontare il problema alla radice, è necessario analizzare l’in- tero ciclo di vita del ML: un processo articolato che va dalla rac- colta e preparazione dei dati grezzi, alla fase di addestramento, fino alla distribuzione del modello addestrato e al suo impiego in produzione. • Pre-processing dei dati: Uniformare formati, risolvere incon- gruenze, ridurre le dimensioni o eliminare colonne irrilevanti. • Addestramento: Il cuore del ciclo, dove l’algoritmo ap- prende le correlazioni presenti nei dati. • Distribuzione: Il modello viene integrato in sistemi di produ- zione o prodotti software. • Inferenza e riaddestramento: In alcuni casi, il modello continua a migliorarsi apprendendo anche dai dati operativi, generando però così anche nuovi punti di vulnerabilità, che vanno gestiti con la stessa cautela dei precedenti set di dati. Ogni fase è suscettibile ad attacchi. La protezione deve essere quindi estesa a tutto il ciclo: dati, parametri, codice, algoritmi e modello finale. Superfici di attacco e vulnerabilità Le superfici d’attacco nel ML sono numerose: si va dalla manipo- lazione del dataset di training all’estrazione inversa del modello tramite attacchi black-box, fino all’inserimento di payload dannosi in input apparentemente innocui. Anche lo spionaggio industriale può trarre vantaggio da un accesso non autorizzato a modelli so- fisticati, sottraendo anni di ricerca e sviluppo. Inoltre, i modelli addestrati con dati sensibili (come immagini mediche, scansioni o informazioni personali) devono garantire la riservatezza sia in fase di addestramento che durante l’uso. Non si tratta solo di cybersecurity, ma anche di compliance normativa, AI: come proteggerla? Come licenziarla? Foto Shutterstock