Nell’era dell’intelligenza artificiale, ma anche della disinformazione, è sempre più difficile e complesso fare il punto su quanto la mente umana, che ha prodotto l’intelligenza artificiale, possa e debba fare per evitare derive incontrollabili dovute al processo degli algoritmi e dell’autoapprendimento; il punto cruciale è che con la diffusione dell’intelligenza generativa, in primis ChatGPT di OpenAI, i processi in corso diventano sempre più veloci e difficili da afferrare e da gestire in sicurezza.
La regione Calabria, in particolare l’UNICAL - Università della Calabria di Cosenza con la decisione assunta da Georg Gottlob, professore di informatica presso il Dipartimento di Informatica dell'Università di Oxford, ora professore ordinario all’UNICAL, di trasferirsi in questa regione in quanto ha riconosciuto la presenza di “una fantastica equipe di un grande potenziale”, sta assumendo un ruolo centrale nel dibattito mondiale sulle problematiche che l’intelligenza artificiale mette sempre di più in evidenza.
Questo dibattito, in una regione molto bella e particolare, si incrocia con le attività sull’intelligence dove Mario Caligiuri, professore ordinario all’Università della Calabria, considerato uno dei massimi studiosi europei di intelligence a livello accademico che ha promosso il primo master in Intelligence, offre continue opportunità di riflessione.
Di recente, proprio nell’ambito del Master sull’intelligence, all’UNICAL c’è stata una lezione del professore Gian Luca Foresti, direttore del Master di Intelligence and Emerging Technologies dell’Università di Udine sul tema ‘’Algoritmi e sicurezza: un’analisi di intelligence’’.
Il professor Foresti, dopo una panoramica sulle tecnologie emergenti e il loro rapporto con la sicurezza informatica, ha evidenziato il parallelo tra l’intelligenza artificiale e quella umana.
Il problema che pongono i sistemi real-time è certamente un aspetto rilevante dei sistemi informatici in quanto capaci di interagire con l’ambiente circostante ed assumere decisioni tempestive. Dalle diverse analisi e riflessioni è emerso che l’azione umana è un criterio principale per valutare l’affidabilità dell’intelligenza artificiale.
Il professor Forest ha effettuato un’analisi dettagliata delle reti neurali biologiche e artificiali confrontando il funzionamento del cervello umano con le potenzialità ed i limiti delle reti neurali artificiali delineando i paradigmi di apprendimento supervisionato, non supervisionato, semi-supervisionato e di rinforzo.
Il paradigma supervisionato, nel coinvolgere l’uso dei dati, utilizza un supervisore che guida l’algoritmo nell’identificare le relazioni tra le caratteristiche e le etichette dei dati; il paradigma non supervisionato, si basa, al contrario, sull’identificazione di strutture nei dato senza supervisione umana; il paradigma semi-supervisionato combina la supervisione umana con l’analisi automatica dei dati; infine, il paradigma di rinforzo crea un agente che apprende nell’ambiente attraverso la sperimentazione e l’osservazione delle conseguenze delle sue azioni. Gli aspetti sopra indicati coinvolgono molti aspetti del nostro vivere sociale e civile come la giustizia. Il regolamento sull’Intelligenza Artificiale (AI Act), approvato nel mese scorso dal Parlamento europeo, in attesa del passaggio formale da parte del Consiglio europeo, che entrerà gradualmente in vigore tra la fine del 2024 e il 2026, diventa un elemento centrale per mettere in atto quei meccanismi di salvaguardia del cittadino e delle istituzioni.
L’applicazione del regolamento AI Act produce certamente dei benefici, come una efficiente giustizia standardizzata nelle attività di archiviazione, indagine ed analisi delle informazioni giudiziarie, efficienza in rapporto all’uniformità in quanto l’IA, per definizione, elimina gli spazi della creatività e fornisce risposte prevedibili. Gli esperti affermano che, nell’affidarsi all’IA nel processo decisionale giudiziario, emergono punti di debolezza e problemi che vengono definiti della “scatolanera” e del “pregiudizio dell’automazione.”.
Per “scatola nera” si intende la tensione intrinseca tra il dovere del giudice di motivare le proprie decisioni e la limitata “spiegabilità” di alcuni sistemi di IA in quanto il procedimento trasformativo degli input in output può essere poco chiaro, opaco, ovvero non è possibile comprendere, anche da parte di coloro che hanno ideato e progetto il sistema, quali siano le variabili che hanno definito e condizionato il risultato finale. Per “pregiudizio dell’automazione” si intende, nelle linee generali, il fatto che si è propensi ad attribuire ai risultati offerti dalle elaborazioni dell’IA una certa autorità intrinseca. Bisogna tener conto che l’IA impara ed elabora dal passato; in tal modo, procedere senza filtri ed indicazioni si rischierebbe un conformismo giudiziario che non tiene conto delle trasformazioni sociali ed economiche ma soprattutto della differenza, che risiede nella parte conclusiva, del contributo dell’elemento umano.
Su questo punto il regolamento dell’IA Act è chiaro “il processo decisionale finale deve essere un’attività a guida umana.” ovvero si intende che l’IA può fornire un sostegno ma mai sostituire il giudice in quanto l’attività giudiziaria ha una sua unicità, non è formalizzabile a priori e non è riproducibile artificiosamente.
Dobbiamo tener presente, come abbiamo visto in questi ultimi anni, che l’IA è capace di trasformare profondamente la società e l’economia con potenziali benefici ma, nel contempo, con rischi per i diritti, la sicurezza e il buon funzionamento degli equilibri sociali ed economici. Per bilanciare i problemi che possono sorgere con i benefici in diversi campi, il regolamento europeo dell’AI Act è stato realizzato su un approccio basato sul rischio. La classificazione deI sistemi dell’IA si basano appunto sul livello di rischio che presentano per la società e le persone ovvero un livello di “rischio inaccettabile”, uno di “rischio elevato”, uno di “rischio limitato” ed uno di “rischio minimo o nullo”.
Quanto sopra sono solo delle considerazioni generali che hanno risvolti ed approfondimenti ancora da analizzare e studiare. Le questioni e le problematiche che prospetta l’IA sono talmente tante che non possiamo al momento ipotizzarne lo sviluppo se non basandoci sulle conoscenze odierne e sulla previsione dei rischi connessi.
Nella sezione ICT News di ictedmagazine.com troverete il regolamento europeo AI Act deliberato definitivamente il 13 marzo 2024 dal Parlamento Europeo ed in attesa dell’approvazione finale da parte del Consiglio europeo.
Luigi A. Macrì
Direttore Responsabile
