AO_460

xxx MARZO 2025 AUTOMAZIONE OGGI 460 | 11 i narra di una dama di corte che, volendo manifestare approvazione per l’opinione espressa da un interlocutore nei cui con- fronti nutriva poca stima, commentò: “Senza rendersene conto, lei ha detto una cosa molto intelligente!”. Credo che lo stesso commento dovrebbe essere applicato alle mirabolanti imprese dell’intelligenza artifi- ciale generativa. Sottolineo: dovrebbe (non solo ‘potrebbe’) essere applicato. C’è un pro- blema di sostanza, pratico, che ha conse- guenze reali e di impatto non trascurabile. L’obiezione che l’intelligenza artificiale non è ‘veramente intelligente’ o ‘non sarà mai all’altezza dell’intelligenza umana’ per la mancanza di autocoscienza è un argo- mento classico, e probabilmente del tutto accettabile in un ambito di indagine ‘uma- nistica’, centrata su aspetti esistenziali e fi- losofici. D’altro canto, da un punto di vista meramente ingegneristico (come assumo che sia, verosimilmente, il punto di vista di chi sta leggendo queste righe in questo momento), tali sottigliezze sembrano ab- bastanza irrilevanti: ciò che importa è che lo ‘strumento’ intelligenza artificiale sia in grado di fornire un prodotto di buona qua- lità e con costi ridotti. Sul lato dei costi (economici e tecnologici) non vale la pena di soffermarsi, visto che le recenti controversie generate dal confronto DeepSeek vs chatGPT hanno già sollevato la questione sui modelli di sviluppo finora dati per scontati, e in particolare sulle mo- tivazioni alla loro base (limiti tecnologici o fenomeni speculativi?). Sul lato della qualità del prodotto, invece, vale la pena di approfondire. L’informatica ci insegna che esistono classi di complessità, con i problemi ‘complicati’ di classe NP (Non Polinomiale) e i problemi ‘facili’ di classe P (Polinomiale), dove P o NP quantifica la crescita di risorse computazionali neces- sarie per risolvere il problema, al crescere della ‘dimensione’ dell’istanza (ad esempio al crescere del numero di nodi del grafo studiato). Poiché verificare la correttezza di una ‘soluzione candidata’ è più semplice che trovare una soluzione (esempio classico usato in crittografia: fattorizzare un numero intero N molto grande è difficile, ma verifi- care se N=N1*N2 con N1 e N2 dati è imme- diato), nello studio della complessità si usa il concetto di ‘oracolo’, ovvero un meccani- smo che fornisce delle soluzioni candidate, ma lascia all’utente il compito di verificare che siano veramente soluzioni. IL PUNTO Di oracoli e consapevolezza S Usando l’intelligenza artificiale come ‘ora- colo’, produciamo rapidamente oggetti (testi, immagini, codici...) sempre più com- plessi, e tanto più complessi quanto mag- giore è la facilità di produrli. Purtroppo però l’oracolo in questione non è autocosciente, e lascia a carico nostro la verifica della bontà del risultato, e non è detto che la nostra ca- pacità di verifica riesca a stare al passo con la nostra ansia di produrre di più. Qualche giorno fa, in un’intervista, il premio Nobel Giorgio Parisi raccontava di aver con- vinto chatGPT che 4*5=25: sinceramente, questo non mi preoccupa. Mi preoccupa invece il collega accademico, che ha scritto in una mailing list lunghi messaggi un po’ sgrammaticati e pieni di idee bislacche. Lui stesso un giorno raccontò la sua scoperta del mondo di chatGPT&co, e qualche giorno dopo i suoi messaggi iniziarono a essere più lunghi, forse meno sgrammaticati ma sem- pre più affetti da non sequitur. Forse dovrei avvisarlo che è il caso di rileggere il lavoro di chatGPT, prima di premere il tasto "Invio"... Ma quello che mi preoccupa davvero, però, non è un’email bislacca, ma che un giorno un ingegnere possa peccare di eccessiva fiducia nell’oracolo, e lasciare un impianto, un processo, un robot in mano a un algo- ritmo generato automaticamente e non cri- ticamente verificato, e per il quale si debba a posteriori commentare che l’intelligenza artificiale, senza rendersene conto, ha detto una cosa molto stupida. AUTOMAZIONE OGGI Sergio Galeani Comitato tecnico di Automazione Oggi, Fieldbus&Networks, Soluzioni Software per l’Industria