Il punto della situazione
Sommario
1. Nozione di Intelligenza Artificiale
1.1 Machine Learning e Deep Learning; 1.2 Distinzione tra algoritmo e sistemi di IA; 1.3 I diversi ambiti in cui l’IA viene impiegata
2. Elaborazione di un quadro normativo europeo
2.1 La proposta di Regolamento presentata dalla Commissione europea; 2.1.1 La struttura del Regolamento; 2.1.2 Gli elementi caratterizzanti il Regolamento
2.2 L’orientamento generale del Consiglio europeo sulla Proposta della Commissione; 2.3 Discussioni interne al Parlamento europeo per gli emendamenti
3. L’IA nell’esercizio dell’attività amministrativa
3.1 L’Amministrazione 4.0
4. L’IA e l’orientamento della giurisprudenza amministrativa
4.1 L’algoritmo come atto amministrativo interamente informatico: conoscibilità e sindacabilità piena da parte del Giudice
5. L’IA nei contratti pubblici
5.1 L’intelligenza artificiale nel nuovo Codice dei contratti pubblici
6. Conclusioni
1. Nozione di Intelligenza Artificiale
Quando si parla di Intelligenza Artificiale si fa riferimento ad una serie di tecnologie in rapida evoluzione e in crescente diffusione, in grado di riprodurre le facoltà cognitive dell’intelligenza umana quali il ragionamento, l’apprendimento, la pianificazione e la creatività.
Tale termine fu coniato per la prima volta nel 1956, dal matematico John McCarthy, durante un seminario estivo tenutosi presso il Dartmouth College di Hanover nel New Hampshire in occasione del quale la nuova disciplina dell’IA venne fondata programmaticamente, a partire dalla raccolta dei contributi sviluppati negli anni precedenti e in direzione delle potenzialità future [1].
Fu così adottata la seguente definizione: “l’intelligenza artificiale è una disciplina che studia la possibilità di ottenere dalle macchine prestazioni che, se compiute da essere umano, sarebbero definite più intelligenti” [2].
I sistemi di IA si contraddistinguono per la loro capacità, in relazione ad una determinata serie di obiettivi definiti dall'uomo, di generare output quali contenuti, previsioni, raccomandazioni o decisioni che influenzano l'ambiente con cui tali sistemi interagiscono, tanto in una dimensione fisica quanto in una dimensione digitale.
Essi possono essere progettati per funzionare con livelli di autonomia variabili e per essere utilizzati come elementi indipendenti (stand-alone) o come componenti di un prodotto, a prescindere dal fatto che il sistema sia fisicamente incorporato nel prodotto (integrato) o assista la funzionalità del prodotto senza esservi incorporato (non integrato).
Le tecnologie che utilizzano l’IA sono in grado di apportare una vasta gamma di benefici economici e sociali in tutto lo spettro delle attività industriali e sociali. In generale, l'uso dell'intelligenza artificiale, garantendo un miglioramento delle previsioni, l'ottimizzazione delle operazioni e dell'assegnazione delle risorse e la personalizzazione dell'erogazione di servizi, può contribuire al conseguimento di risultati vantaggiosi dal punto di vista sociale e ambientale nonché fornire vantaggi competitivi fondamentali alle imprese e all'economia europea.
In quanto i sistemi di IA sono in grado di riprodurre le capacità dell’intelligenza umana, il funzionamento degli stessi si sostanzia, principalmente, attraverso quattro differenti livelli funzionali:
- la comprensione, attraverso la simulazione di capacità cognitive di correlazione dati ed eventi l’IA è in grado di riconoscere testi, immagini, tabelle, video, voce ed estrapolarne informazioni;
- il ragionamento, mediante la logica i sistemi riescono a collegare le molteplici informazioni raccolte (attraverso precisi algoritmi matematici e in modo automatizzato);
- l’apprendimento, in questo caso si tratta di sistemi con funzionalità specifiche per l’analisi degli input di dati e per la loro “corretta” restituzione in output (è il classico esempio dei sistemi di Machine Learning che con tecniche di apprendimento automatico portano le AI a imparare e a svolgere varie funzioni);
- l’interazione, in questo caso ci si riferisce alle modalità di funzionamento dell’AI in relazione alla sua interazione con l’uomo. È qui che stanno fortemente avanzando i sistemi di NLP – Natural Language Processing, tecnologie che consentono all’uomo di interagire con le macchine (e viceversa) sfruttando il linguaggio naturale.
1.1 Machine Learning e Deep Learning
Per comprendere meglio in cosa si sostanzia l’IA occorre necessariamente chiarire le nozioni di Machine Learning e Deep Learning, due termini che spesso vengono utilizzati come sinonimi, ma che in realtà indicano due diversi sistemi di intelligenza artificiale [3].
Ed invero, l’espressione machine learning sta a significare “apprendimento automatico”, un concetto che inizia a svilupparsi negli anni ’50 e si concentra sulla capacità delle macchine di ricevere una serie di dati e di apprendere da sole, modificando gli algoritmi man mano che ricevono più informazioni su quello che stanno elaborando.
Tale tipologia di tecnologia implica una importante quantità di dati ed un efficiente algoritmo in grado di perfezionarsi in funzione delle situazioni che si verificano.
Esempi di machine learning sono rappresentati dai software che consentono ai motori di ricerca di rispondere nel merito alle ricerche degli utenti, oppure dalla tecnologia di riconoscimento vocale presente negli smartphone, dalla creazione di pubblicità personalizzata sulla base delle abitudini di navigazione degli utenti, o ancora dai software di riconoscimento e conversione della scrittura manuale [4].
Diversamente, con il termine di deep learning si indica “apprendimento approfondito” ed è un derivato del machine learning, in grado di ripordurre la struttura del cervello, ovverosia l’interconnessione dei vari neuroni [5].
A tal fine l’apprendimento approfondito utilizza enormi modelli di reti neurali [6] con vari unità di elaborazione, sfrutta tecniche di allenamento per apprendere modelli complessi attraverso un’enorme quantità di dati.
Tali tipologie di software servono a definire risultati più pertinenti come la classificazione di immagini, il riconoscimento ed elaborazione del linguaggio, la guida autonoma (es. riconoscimento di segnali stradali, rilevamento di pedoni), i media e intrattenimento (es. traduzione in tempo reale, video captioning), la sicurezza (es. videosorveglianza, riconoscimento facciale), la diagnosi medica (es. rilevamento di cellule cancerogene o di droghe).
1.2 Distinzione tra algoritmo e sistemi di IA
Lo studio delle nuove tecnologie dotate di IA non può certamente prescindere dal delineare una ulteriore distinzione, ovverosia quella tra algoritmo ed IA [7].
A tal fine, è opportuno richiamare la pronuncia del Consiglio di Stato, n. 7891 del 25 novembre 2021, nella quale l’organo giurisdizionale, chiamato a stabilire il perimetro tecnico della nozione di “algoritmo di trattamento” in ordine ad una gara per la fornitura di pacemaker che dovevano essere regolati da algoritmi elettronici, chiarisce la nozione di algoritmo tracciando, altresì, una netta linea di demarcazione di carattere ontologico con l’IA.
In particolar modo, secondo il Consiglio di Stato, per algoritmo si intende “una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tal i da produrre un determinato risultato. Nondimeno si osserva che la nozione, quando è applicata a sistemi tecnologici, è ineludibilmente collegata al concetto di automazione ossia a sistemi di azione e controllo idonei a ridurre l’intervento umano. Il grado e la frequenza dell’intervento umano dipendono dalla complessità e dall’accuratezza dell’algoritmo che la macchina è chiamata a processare” [8]. Semplificando, gli algoritmi si basano sullo schema tipico: input – elaborazione – risposta.
Diversamente, evidenzia il Collegio, nei sistemi di IA “l’algoritmo contempla meccanismi di machine learnig e crea un sistema che non si limita solo ad applicare le regole sofware e i parametri preimpostati (come fa invece l’algoritmo “tradizionale”) ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico” [9].
Alla luce delle precisazioni fornite dal Consiglio di Stato, è possibile argomentare che gli algoritmi sono costruiti secondo lo schema “if-then”, il quale impone al sistema informatico l’esecuzione di istruzioni certe e univoche al verificarsi di determinate condizioni. Il contenuto della sequenza algoritmica elaborata dal programmatore umano vincola la macchina allo svolgimento di operazioni rigorosamente prestabilite, generalmente funzionali alla celere esecuzione di azioni o calcoli ripetitivi, la cui complessità muta in funzione delle intrinseche capacità tecnologiche delle componenti meccaniche.
Nei sistemi di IA, invece, i programmi informatici non si limitano ad eseguire meccanicamente le istruzioni prescritte da una sequenza algoritmica predeterminata, ma sono dotati di capacità di auto-apprendimento, pertanto sono in grado assumere decisioni autonome, attraverso la rielaborazione dei dati di volta in volta acquisiti e l’adeguamento progressivo ai fenomeni conosciuti.
1.3 I diversi ambiti in cui l’intelligenza artificiale viene impiegata
Molteplici sono i settori in cui trovano spazio le nuove tecnologie dotate di intelligenza artificiale [10].
Marketing
Assistenti vocali/virtuali (chatbot, Siri di Apple, Cortana di Microsoft, Alexa di Amazon) che sfruttano l’intelligenza artificiale sia per il riconoscimento del linguaggio naturale sia per l’apprendimento e l’analisi delle abitudini e dei comportamenti degli utenti; analisi in real-time di grandi moli di dati per la comprensione del “sentiment” e delle esigenze delle persone per migliorare customer care, user experience, servizi di assistenza e supporto ma anche per creare e perfezionare sofisticati meccanismi di ingaggio con attività che si spingono fino alla previsione dei comportamenti di acquisto da cui derivare strategie di comunicazione e/o proposta di servizi.
Sanità
L’AI ha avuto il pregio di migliorare molti sistemi tecnologici già in uso da persone con disabilità (per esempio i sistemi vocali sono migliorati al punto da permettere una relazione/comunicazione del tutto naturale anche a chi non è in grado di parlare) ma è sul fronte della diagnosi e cura di tumori e malattie rare che si potranno vedere le nuove capacità dell’AI.
Già oggi sono disponibili sul mercato sistemi cognitivi in grado di attingere, analizzare e apprendere da un bacino infinito di dati (pubblicazioni scientifiche, ricerca, cartelle cliniche, dati sui farmaci, ecc.) ad una velocità inimmaginabile per l’uomo, accelerando processi di diagnosi spesso molto critici per le malattie rare o suggerendo percorsi di cura ottimali in caso di tumori o malattie particolari.
Cybersecurity
La prevenzione delle frodi è una delle applicazioni più mature dove l’intelligenza artificiale si concretizza con quelli che tecnicamente vengono chiamati “advanced analytics”, analisi molto sofisticate che correlano dati, eventi, comportamenti ed abitudini per capire in anticipo eventuali attività fraudolente (come la clonazione di una carta di credito o l’esecuzione di una transazione non autorizzata); questi sistemi possono in realtà trovare applicazione anche all’interno di altri contesti aziendali, per esempio per la mitigazione dei rischi, la protezione delle informazioni e dei dati, la lotta al cybercrime.
Supply chain
L’ottimizzazione e la gestione della catena di approvvigionamento e di distribuzione richiede ormai analisi sofisticate e, in questo caso, l’AI è il sistema efficace che permette di connettere e monitorare tutta la filiera e tutti gli attori coinvolti; un caso molto significativo di applicazione dell’intelligenza artificiale al settore del Supply chain management è relativo alla gestione degli ordini (in questo caso le tecnologie che sfruttano l’intelligenza artificiale non solo mirano alla semplificazione dei processi ma anche alla totale integrazione di essi, dagli acquisti fino all’inventario, dal magazzino alle vendite fino ad arrivare addirittura all’integrazione con il marketing per la gestione preventiva delle forniture in funzione delle attività promozionali o della campagne di comunicazione).
Sicurezza pubblica
La capacità di analizzare grandissime quantità di dati in tempo reale e di “dedurre” attraverso correlazioni di eventi, abitudini, comportamenti, attitudini, sistemi e dati di geo-localizzazione e monitoraggio degli spostamenti di cose e persone offre un potenziale enorme per il miglioramento dell’efficienza e dell’efficacia della sicurezza pubblica.
Per esempio, per la sicurezza e la prevenzione dei crimini in aeroporti, stazioni ferroviarie e città metropolitane oppure per la prevenzione e la gestione della crisi in casi di calamità naturali come terremoti e tsunami.
GPT-4
GPT-4 è il nuovo modello multimodale (accetta in input immagini e testo producendo in risposta del testo) sviluppato da OpenAI e basato su una rete neurale profonda con 1 trilione di parametri, valore che lo rende il modello generativo più esteso e potente mai creato.
GPT-4 è stato preceduto da GPT-3 un potente “strumento intelligente” per la produzione di testi, basato su tecniche di pre-training senza supervisione nello sviluppo di sistemi Natural Language Processing e, ancora prima, da GPT-2, che era già in grado di scrivere testi in una gamma di stili diversi a seconda della frase inserita come input.
Per capire la differenza di questi due ultimi sistemi rispetto a GPT-4, basti pensare che GPT-3 ha 175 miliardi di “parametri” (cioè i valori che la rete neurale utilizzata nel modello ottimizza durante l’addestramento), mentre GPT-2 ne ha “appena” 1,5 miliardi.
2. Elaborazione di un quadro normativo europeo
2.1 La proposta di Regolamento europeo presentata dalla Commissione europea
Tenuto conto della rilevanza che l’IA sta assumendo nei vari settori sopra indicati, la Commissione europea ha presentato il 21 aprile 2021 la proposta di Regolamento del Parlamento europeo e del Consiglio “che stabilisce regole armonizzate sull’intelligenza artificiale (legge sull’intelligenza artificiale) e modifica alcuni atti legislativi dell’Unione” [11].
L’intento della Commissione è quello di definire un quadro giuridico uniforme per l’IA, volto ad assicurare ai cittadini europei la certezza del diritto, promuovendo gli investimenti e lo sviluppo di applicazioni di IA lecite, sicure ed affidabili e prevenendo la frammentazione del mercato.
Nella relazione di accompagnamento della proposta in esame si legge espressamente che: “La proposta fissa regole armonizzate per lo sviluppo, l'immissione sul mercato e l'utilizzo di sistemi di IA nell'Unione seguendo un approccio proporzionato basato sul rischio. Essa propone un'unica definizione di IA adeguata alle esigenze future. Talune pratiche di IA particolarmente dannose sono vietate in quanto in contrasto con i valori dell'Unione, mentre sono proposte restrizioni e tutele specifiche in relazione a determinati usi dei sistemi di identificazione biometrica remota a fini di attività di contrasto. La proposta stabilisce una solida metodologia per la gestione dei rischi impiegata per definire i sistemi di IA "ad alto rischio" che pongono rischi significativi per la salute e la sicurezza o per i diritti fondamentali delle persone. Tali sistemi di IA dovranno rispettare una serie di requisiti obbligatori orizzontali per un'IA affidabile nonché seguire le procedure di valutazione della conformità prima di poter essere immessi sul mercato dell'Unione. Obblighi prevedibili, proporzionati e chiari sono posti in capo anche a fornitori e utenti di tali sistemi con l'obiettivo di assicurare la sicurezza e il rispetto della normativa vigente che tutela i diritti fondamentali durante l'intero ciclo di vita dei sistemi di IA. Per taluni sistemi specifici di IA, vengono proposti soltanto obblighi minimi di trasparenza, in particolare quando vengono utilizzati chatbot o "deep fake".
Le regole proposte saranno applicate tramite un sistema di governance a livello di Stati membri, sulla base di strutture già esistenti, e un meccanismo di cooperazione a livello dell'Unione con l'istituzione di un comitato europeo per l'intelligenza artificiale. Vengono inoltre proposte misure aggiuntive per sostenere l'innovazione, in particolare attraverso spazi di sperimentazione normativa per l'IA e altre misure per ridurre gli oneri normativi e sostenere le piccole e medie imprese ("PMI") e le start-up” [12].
L’ambito di applicazione del Regolamento è stabilito chiaramente dall’articolo 2, che individua quali destinatari i fornitori che immettono sul mercato interno dell’Unione sistemi di IA, indipendentemente dal fatto che siano stabiliti nell’Unione o in un Paese terzo, coloro che impiegano tali tecnologie di IA sul territorio dell’Unione e, infine, sia i fornitori che gli utenti di sistemi di IA situati in un paese terzo, laddove l’output prodotto dal sistema sia utilizzato nell’Unione.
Inoltre, la disposizione in esame esclude dall’ambito di operatività i sistemi di IA usati per scopi esclusivamente militari e quelli impiegati da Autorità o Organizzazioni nell’ambito di accordi internazionali per la cooperazione delle autorità di contrasto e giudiziarie con l’Unione o con uno o più Stati membri.
2.1.1 La struttura del Regolamento
Come anticipato nella relazione di accompagnamento, il Regolamento si fonda su un approccio “based risk”, classificando le tecnologie che impiegano l’IA in base al rischio di impatto negativo sui diritti fondamentali e i valori dell’Unione [13]:
- sistemi di IA considerati “a rischio totale” (art. 5), suscettibili di causare danni fisici o psichici manipolando il comportamento umano, ad esempio i sistemi che sfruttano le vulnerabilità di uno specifico gruppo di persone, dovute all'età o alla disabilità fisica o mentale al fine di distorcere materialmente il comportamento, in relazione a tali prodotti il Regolamento ne vieta l’utilizzo;
- sistemi di IA ritenuti “a rischio da totale ad alto” in base all’uso che si fa del prodotto (art. 5), ad esempio i sistemi di identificazione biometrica a distanza “in tempo reale” impiegati dalle forze dell’ordine, questi tipi di prodotti, sebbene proibiti in linea generale, in casi eccezionali e sotto il controllo di un'autorità, sono soggetti alle stesse regole stabilite per i prodotti ad alto rischio;
- sistemi di IA classificati come “ad alto rischio” (art. 6), ad esempio quelli utilizzati per l'assunzione o la selezione di persone fisiche, in particolare per pubblicizzare i posti vacanti, vagliare o filtrare le candidature, valutare i candidati nel corso di colloqui o prove; in relazione a tali prodotti, al fine di mitigarne il rischio elevato, il Regolamento prevede che possano essere immessi sul mercato solamente previo rispetto di determinate condizioni;
- sistemi di IA classificati come “a rischio medio” (art. 52), ad esempio quei prodotti in grado di riconoscere le emozioni, ovvero che generano o modificano immagini, video ed audio che assomigliano sensibilmente a persone, oggetti, luoghi e che potrebbero falsamente apparire ad una persona come autentici, in questo caso il Regolamento prescrive che le persone fisiche debbano essere messe al corrente che stanno interagendo con una IA.
2.1.2 Gli elementi caratterizzanti il Regolamento
Dall’analisi della proposta di Regolamento emerge che la valutazione del rischio di impatto sui diritti fondamentali e le soluzioni di mitigazione sono predisposte principalmente dal Regolamento medesimo e dalla Commissione.
Ed invero, un elemento che caratterizza tale testo normativo è costituito dal fatto che viene riconosciuto in capo alla Commissione il potere di stabilire quali prodotti che impiegano in tutto o in parte software di IA debbano essere considerati come aventi un impatto sui diritti fondamentali. In questo modo si prevede in capo alla Commissione un significativo potere di controllo del mercato.
La Commissione ha il potere di aggiornare gli allegati del Regolamento, adeguandoli ai progressi tecnologici, nello specifico:
- l’Allegato I, stabilendo quali tecnologie debbano essere considerate sistemi di IA e sono soggette, quindi, alle disposizioni contenute nel Regolamento;
- l’Allegato III, determinando quali prodotti debbano essere considerati ad alto rischio per il loro impatto sui diritti fondamentali.
L’art. 73 prevede, inoltre, il potere sostanziale della Commissione di intervenire nel mercato dell'IA al di fuori delle procedure legislative consuete. Tale potere incontra come unico limite solamente l’intervento del Parlamento europeo o del Consiglio che possono revocarlo in qualsiasi momento.
2.2 L’orientamento generale del Consiglio europeo sulla Proposta della Commissione
In data 6 dicembre 2022 il Consiglio europeo ha adottato il suo orientamento generale in relazione alla proposta di Regolamento elaborata dalla Commissione, apportando alcune modifiche al testo originario [14].
In primo luogo, per garantire che la definizione di sistema di IA fornisca criteri sufficientemente chiari per distinguere l'IA dai sistemi software più semplici, il testo del Consiglio ha circoscritto la definizione ai sistemi sviluppati mediante approcci di apprendimento automatico e approcci basati sulla logica e sulla conoscenza [15].
Per quanto concerne i sistemi di IA ad alto rischio sono stati introdotti nuovi criteri di classificazione, al fine di garantire che non siano inclusi i sistemi di IA che non presentano il rischio di causare gravi violazioni dei diritti fondamentali o altri rischi significativi.
Inoltre, sempre in ordine ai prodotti che vengono classificati ad alto rischio, i requisiti degli stessi sono stati chiariti ed adeguati in modo tale da renderli tecnicamente più realizzabili e meno onerosi per i portatori di interessi, ad esempio per quanto riguarda la qualità dei dati, o in relazione alla documentazione tecnica che le PMI dovrebbero redigere per dimostrare che i loro sistemi di IA ad alto rischio sono conformi ai requisiti.
L’orientamento generale del Consiglio ha specificato poi in modo esplicito l’esclusione dall’ambito di applicazione del futuro Regolamento dei sistemi di IA utilizzati per finalità militari, di difesa e di sicurezza nazionale, così come di quelli usati per ricerca e sviluppo e di quelli impiegati da privati per scopi non professionali (a cui però si applicano comunque gli obblighi di trasparenza).
Il testo ha chiarito, infine, che una persona fisica o giuridica può presentare un reclamo alla pertinente autorità di vigilanza del mercato riguardo alla non conformità alla normativa sull'IA e può aspettarsi che tale reclamo sia trattato in linea con le procedure specifiche di tale autorità.
2.3 Discussioni interne al Parlamento europeo per gli emendamenti
La proposta di Regolamento sull’IA si trova al momento all’esame del Parlamento europeo, diversi sono i temi su cui si stanno concentrando le discussioni che dovrebbero culminare nella definizione della posizione dell’Organo in ordine al Regolamento.
In particolare, secondo quanto riportato da EURACTIV – il Media Network che fornisce notizie inerenti le politiche dell’UE - i rappresentanti dei gruppi del Parlamento europeo che lavorano sul Regolamento avrebbero raggiunto un accordo politico su una delle parti politicamente più delicate del dossier, ovverosia la definizione stessa di intelligenza artificiale, adottando la definizione utilizzata dall’Organizzazione per la cooperazione e lo sviluppo economico (OCSE), ossia “un sistema basato su macchine progettato per funzionare con diversi livelli di autonomia e che può, per obiettivi espliciti o impliciti, generare output come previsioni, raccomandazioni o decisioni che influenzano ambienti fisici o virtuali” [16].
Inoltre, tra gli emendamenti che sarebbero stati apportati alla proposta del Regolamento, sempre secondo quanto riportato da EURACTIV, vi sarebbero anche le definizioni di rischio significativo, autenticazione e identificazione biometrica.
Per rischio significativo deve intendersi un rischio che rileva in termini di gravità, intensità, probabilità di accadimento, durata degli effetti e capacità di colpire un individuo, una pluralità di persone o un particolare gruppo di persone.
I sistemi di verifica biometrica a distanza sono stati definiti come sistemi di intelligenza artificiale utilizzati per verificare l’identità delle persone confrontando i loro dati biometrici con una banca dati di riferimento, previo consenso. Si distinguono dai sistemi di autenticazione, in cui sono le persone stesse a chiedere di essere autenticate.
Per quanto riguarda la categorizzazione biometrica, una pratica recentemente aggiunta all’elenco dei casi d’uso vietati, è quella relativa alla deduzione di caratteristiche e attributi personali come il sesso o la salute.
Una volta che anche il Parlamento europeo avrà adottato il suo orientamento generale inizierà il dialogo tra il Parlamento, il Consiglio e la Commissione per l’adozione del testo definitivo del Regolamento europeo sull’IA [17].
3. L’IA nell’esercizio dell’attività amministrativa
Il progresso delle tecnologie elettroniche e la diffusione dei sistemi di gestione informatica che sta attraversando la società hanno un impatto via via crescente sull’esercizio dell’attività amministrativa.
Tali fattori non solo stanno comportando la dematerializzazione delle forme di manifestazione della potestà pubblica e dei rapporti tra amministrazione e privati, con finalità di semplificazione e modernizzazione, ma stanno determinando anche l’impiego da parte delle pubbliche amministrazioni di tecnologie digitali che innovano il potere ed i modi del suo esercizio.
In particolar modo, le pubbliche amministrazione hanno iniziato ad utilizzare sistemi di IA per comunicare con i privati, per acquisire i dati necessari a indirizzare le proprie policies e, altresì, per adottare le proprie decisioni [18].
3.1 L’Amministrazione 4.0
Come evidenziato dal Presidente di Sezione del Consiglio di Stato, Vincenzo Neri, nella Sua relazione tenuta al convegno organizzato dall’Ufficio Studi della Giustizia Amministrativa su “Decisioni automatizzate e pubblica amministrazione”, “il superamento del tradizionale modello di esercizio dell’attività amministrativa, fondato sulla prevalente utilizzazione di supporti di tipo cartaceo (c.d. Amministrazione 1.0), non si risolve nel mero impiego di computer e altri apparati informatici (c.d. Amministrazione 2.0) o nella fruizione delle risorse digitali offerte dalla rete internet, dalle applicazioni mobili o dagli stessi social networks (c.d. Amministrazione 3.0), ma nell’automazione di funzioni precedentemente affidate in via esclusiva alle abilità umane (c.d. Amministrazione 4.0).
Il fenomeno dell’informatizzazione amministrativa si manifesta secondo distinti gradi di intensità. L’automazione si definisce “completa” allorquando il computer si avvale di programmi di intelligenza artificiale per l’adozione del provvedimento finale, senza che il contributo dell’attività umana sia necessario per la formazione della volontà dell’Amministrazione. In altri casi l’intervento umano si riduce all’approvazione o alla revisione del contenuto di un atto proposto dall’elaboratore elettronico all’esito di una procedura automatizzata. L’intelligenza artificiale può inoltre avvalersi di tecniche di apprendimento automatico consistenti nell’apprendimento e nella valutazione di dati eterogenei sulla base dei quali il programma informatico formula previsioni sul risultato dell’attività amministrativa” [19].
Sebbene allo stato non sia ancora presente una specifica disciplina normativa in materia di impiego dei software di IA nel settore giuspubblicistico, non sembra potersi comunque dubitare che, almeno nel settore dei servizi pubblici, l’impiego dei programmi di intelligenza artificiale sia giustificato dal canone di buon andamento previsto dall’art. 97 Cost.
In ogni caso, in questa sede è bene precisare che se da una parte l’impiego di sistemi di IA in tale settore contribuisca senz’altro al miglioramento delle prestazioni rese ai cittadini nell’ambito di relazioni giuridiche in cui l’Amministrazione esercita i suoi poteri, dall’altra deve essere valutata con particolare attenzione la compatibilità sistematica dell’automazione nell’esercizio delle funzioni autoritative, in quanto essa rischia di confliggere con alcune delle garanzie che informano l’esercizio del potere amministrativo, il cui rispetto appare particolarmente rilevante, soprattutto, quando quest’ultimo abbia natura discrezionale.
Ed invero i software di IA, pur formulando decisioni autonome sulla base della combinazione dei dati di esperienza, non consentono sempre di ripercorrere a ritroso il procedimento che ha generato un determinato output.
In altri termini, non è possibile comprendere quale sia stato il percorso “logico” seguito dalla macchina qualora i sistemi di IA non sempre consentano l’esternazione dell’iter argomentativo che correla le informazioni elementari (input) alla determinazione conclusiva elaborata dal calcolatore (output).
Tale conseguenza si riverbera evidentemente sulla motivazione della decisione adottata sulla base dell’output prodotto dal sistema intelligente, con il rischio di una sostanziale elusione dell’obbligo di motivazione di cui all’art. 3, L. n. 241 del 1990, previsto a garanzia dei fondamentali principi di conoscibilità e trasparenza provvedimentale [20].
4. Intelligenza artificiale e l’orientamento della giurisprudenza amministrativa
“Di fronte alla rapidità del progresso la normativa può farsi attendere, ma la tutela no, e il giudice si trova non di rado ad essere l’istituzione di prima linea che deve far fronte al problema, dovendo comunque fornire una risposta, una soluzione giuridica, alla richiesta di tutela. Richiesta che arriva inaspettatamente, senza annunci o definizioni, tramite l’impugnazione di un provvedimento interamente digitale, che va comunque esaminata, insieme a tutte le altre impugnazioni di provvedimenti umani.
Se la vita si evolve, l’amministrazione si evolve con essa e la digitalizzazione pervade entrambe. Progressivamente, irreversibilmente. Tutto ciò avviene con una velocità tale che non si fa in tempo a legiferare ex ante. E il primo a doversene occupare è il giudice.
In Italia, questo giudice è il giudice amministrativo” [21].
Con queste parole il Presidente della IV Sezione del Consiglio di Stato, Luigi Carbone, nella Relazione al Convegno “Digital administration – Daily efficiency and smart choices”, tenutosi il 9 e 10 maggio 2022, presso l’Università degli studi Federico II, ha sottolineato il ruolo fondamentale dei Giudici amministrativi nel processo di automazione decisionale che sta investendo la Pubblica Amministrazione.
4.1 L’algoritmo come atto amministrativo interamente informatico: conoscibilità e sindacabilità piena da parte del Giudice
Un primo approccio della giurisprudenza amministrativa al tema dell’IA si rinviene nella pronuncia del Tar Lazio, n. 3769 del 22 marzo 2017, nella quale i giudici si sono occupati degli algoritmi in ordine ad istanze di accesso.
Nella sentenza in esame il Tar ha rilevato come l’algoritmo finisca per sostanziare il procedimento, e quindi, poiché gli atti endoprocedimentali di acquisizione dei dati necessari, nonché lo stesso atto finale del procedimento, sono inclusi nel solo funzionamento dell’algoritmo, la conseguenza dovrebbe essere l’assimilabilità dello stesso all’atto amministrativo informatico di cui alla lett d), dell’art. 22, della L. n. 241/1990.
Da qui, il Tar ne ha ammesso per la prima volta “la piena accessibilità ai sensi della legge n. 241 del 1990”, in quanto “la descrizione delle modalità di funzionamento dell’algoritmo assicura una conoscenza assolutamente non paragonabile a quella che deriverebbe dalla acquisizione del richiesto linguaggio sorgente” [22]. In altri termini, la spiegazione dell’algoritmo non è sufficiente per assicurare una piena tutela e, pertanto, deve essere consentito direttamente l’accesso all’espressione algoritmica.
A distanza di due anni dal primo arresto del Tar, nel 2019 anche il Consiglio di Stato si è pronunciato sul tema dell’impiego degli algoritmi da parte della Pubblica Amministrazione, con due sentenze entrambe della VI Sezione, la n. 2270 dell’8 aprile e la n. 8472 del 13 dicembre.
Nella prima pronuncia, che ha ad oggetto l’impugnazione di un atto interamente informatico adottato dal Ministero dell’Istruzione nell’ambito del piano nazionale straordinario di assunzione del personale docente, il Consiglio di Stato ha mostrato un approccio favorevole in ordine all’uso di algoritmi nell’Amministrazione, definiti come “una sequenza ordinata di operazioni di calcolo”.
In particolare, i Giudici hanno sottolineato i numerosi vantaggi derivanti dall’utilizzo di una procedura informatica che conduce direttamente alla decisione, quali ad esempio la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza o – peggio – dolo del funzionario/essere umano, la conseguente maggior garanzia di imparzialità della decisione automatizzata.
Il Consiglio di Stato ne ha rinvenuto, altresì, il fondamento normativo direttamente nell’art. 97 della Cost..
In quanto vero e proprio provvedimento amministrativo, seppur di carattere informatico, nella pronuncia in esame il Collegio ha affermato che la decisione algoritmica deve essere conoscibile in ogni aspetto e pienamente sindacabile da parte del giudice amministrativo, sia con riferimento al profilo “procedimentale” della correttezza del processo di costruzione e gestione dell’algoritmo (come viene costruito, come vengono inseriti i dati, chi sceglie i dati), ma anche a quello “intrinseco” sulla logicità e sulla ragionevolezza della decisione [23].
Nella seconda pronuncia il Consiglio di Stato, oltre a ribadire quanto già evidenziato nella precedente sentenza, ovverosia che l’algoritmo deve ritenersi uno strumento procedimentale, ha affrontato il tema della formazione della decisione per mezzo di un software.
Nello specifico, i Giudici hanno affermato che “non può ritenersi applicabile in modo indiscriminato all’attività amministrativa algoritmica, tutta la legge sul procedimento amministrativo, concepita in un’epoca nella quale l’amministrazione non era investita della rivoluzione tecnologica” [24].
In altri termini, il Consiglio di Stato ha affermato che la rigida e meccanica applicazione di tutte le regole procedimentali previste dalla legge n. 241 del 1990, non risolve il problema dei pericoli connessi allo strumento algoritmico, dovendosi invece ritenere che la legittimità dell’azione amministrativa sia assicurata dalla piena conoscibilità del codice sorgente utilizzato e dei criteri applicati, e l’imputabilità della decisione all’organo titolare del potere, il quale deve poter verificare la logicità e legittimità della scelta e degli esiti. Si fa perciò riferimento alla trasparenza e alla responsabilità.
Dopo questi primi arresti giurisprudenziali, i giudici amministrativi sono tornati a pronunciarsi sul tema dell’IA in ambito giuspubblicistico, individuando di volta in volta nuove forme di tutela in funzione dei casi di specie del tutto peculiari sottoposti alla loro attenzione [25].
In particolare, nella sentenza n. 8435 del 28 dicembre 2020, il Consiglio di Stato ha imposto all’amministrazione una particolare forma di soccorso istruttorio, rispetto alla rigorosa applicazione della procedura telematica, in relazione ad un caso in cui un privato non aveva potuto accedere ad un piano di finanziamento in quanto la documentazione progettuale non era stata firmata digitalmente, sebbene la creazione di un apposito account identificativo rendesse certa la paternità della domanda e degli atti ad essa allegati [26].
Ancora, nella pronuncia n. 5238 del 26 luglio 2021, il Tar Campania ha stabilito il principio secondo cui l’utilizzo delle tecnologie informatiche nella procedura amministrativa non può pregiudicare i partecipanti, in quanto è onere della Pubblica Amministrazione farsi carico di eventuali disfunzioni del sistema. Nel caso di specie la ricorrente aveva partecipato ad una procedura concorsuale da remoto, nell’ambito della quale, a causa di un crash di rete, era risultata non visibile ed era stata pertanto dichiarata non valutabile [27].
Infine, nella sentenza n. 778 del 6 aprile 2022, il Tar Lombardia ha posto le basi per l’elaborazione del “principio di affidamento digitale”, in relazione ad un caso in cui una concorrente, in sede di compilazione della domanda di partecipazione ad un concorso, aveva saltato un campo della domanda, la procedura tuttavia l’aveva accettata, inviando anche una mail di conferma. I giudici amministrativi hanno annullato il provvedimento di esclusione, in ragione del fatto che il sistema informatico aveva generato un affidamento circa la corretta conclusione della procedura di iscrizione [28].
5. L’IA nei contratti pubblici
La diffusione dei sistemi di IA ha interessato anche il settore dei contratti pubblici, almeno sotto una duplice prospettiva [29].
Ed invero, da un lato le nuove tecnologie che impiegano software di IA sono sempre più spesso parte dei beni e servizi acquistati dalle pubbliche amministrazioni attraverso i contratti pubblici.
A tal riguardo, è rilevante la sentenza n. 7891 del 25 novembre 2021, nella quale il Consiglio di Stato si è pronunciato in ordine alla legittimità dei punteggi assegnati nell’ambito di una procedura di gara sanitaria per la realizzazione di pacemakers, che dovevano essere regolati da algoritmi elettronici.
La gara, nello specifico, prevedeva l’assegnazione di punteggi diversi in caso di algoritmo funzionale alla sola prevenzione (o al solo il trattamento delle tachiaritmie atriali) o in caso di algoritmo in grado di cumulare sia la prevenzione che il trattamento delle tachiaritmie atriali, configurando dunque un apparecchio tecnologicamente più avanzato, dotato di un grado di automazione capace di coprire sia l’area della prevenzione che quella del trattamento. In quest’ultimo caso, la procedura assegnava più punti.
Il Consiglio di Stato, con un’innovativa motivazione, traccia la distinzione tra “algoritmo semplice” e “intelligenza artificiale”, ponendola alla base della stessa pronuncia.
In particolare, l’algoritmo è stato definito semplicemente come “una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato […] Cosa diversa è l’intelligenza artificiale”, osserva il Consiglio di Stato, “in questo caso l’algoritmo contempla meccanismi di machine learnig e crea un sistema che non si limita solo ad applicare le regole sofware e i parametri preimpostati (come fa invece l’algoritmo “tradizionale”) ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico” [30].
Pertanto, con riferimento alla gara in esame, l’algoritmo semplice si limitava a fare prevenzione, mentre il concorrente che consentiva assieme prevenzione e trattamento offriva un prodotto basato su un sistema di intelligenza artificiale (e per questo si è correttamente alla fine aggiudicato la gara).
5.1 L’intelligenza artificiale nel nuovo Codice dei contratti pubblici
L’altro profilo su cui occorre concentrarsi in ordine alla diffusione delle nuove tecnologie nel settore dei contratti pubblici, riguarda la digitalizzazione e l’impiego dei sistemi di IA, che rappresentano i fattori sui quali si basa l’evoluzione del sistema della contrattualistica pubblica nell’amministrazione 4.0.
In questo senso, la presente disamina non può prescindere dal richiamare il nuovo Codice dei contratti pubblici, il Decreto Legislativo n. 36/2023, pubblicato sul supplemento ordinario n.12, della Gazzetta Ufficiale n. 77 del 31 marzo 2023, che presenta tra i suoi punti centrali proprio la digitalizzazione dell’intero sistema degli appalti.
Nel dettaglio, il nuovo e-procurement, ovverosia il nuovo “Ecosistema nazionale di approvvigionamento digitale” di cui all’art. 22 del nuovo codice, è composto da una serie di elementi:
- banca dati nazionale dei contratti pubblici (cfr. art. 28);
- fascicolo virtuale dell’operatore economico, appena reso operativo dall’Autorità nazionale anti corruzione (ANAC) (cfr. art. 24);
- piattaforme di approvvigionamento digitale (cfr. art. 25);
- procedure automatizzate nel ciclo di vita dei contratti pubblici (cfr. art. 21).
Il processo di digitalizzazione interessa anche l’accesso agli atti, in linea con le procedure di affidamento e di esecuzione dei contratti pubblici.
Con specifico riferimento al settore dell’IA, particolare attenzione merita sicuramente l’articolo 19, comma 7, che prevede la possibilità per le stazioni appaltanti di utilizzare procedure automatizzate nella valutazione delle offerte, secondo soluzioni tecnologiche facilmente conoscibili e comprensibili e soprattutto non discriminatorie.
Giova richiamare, altresì, l’articolo 30 che prevede nella fase di valutazione delle offerte la possibilità di ricorrere all’IA e alle tecnologie dei cosiddetti «registri distribuiti» (di cui la blockchain è un esempio), tutelando però i principi della conoscibilità e comprensibilità, della non esclusività della decisione algoritmica e della non discriminazione algoritmica.
Conclusioni
Muovendo dalla nozione di IA e dalla descrizione del funzionamento dei sistemi caratterizzati da tale nuova tecnologia, nonché dall’indicazione dei numerosi ambiti in cui la stessa viene impiegata, la presente disamina ha avuto modo di concentrarsi sull’uso dell’IA in ambito giuspubblicistico, evidenziando gli innumerevoli vantaggi e le particolari criticità che presenta la c.d. Amministrazione 4.0.
Partendo, poi, da un’analisi della proposta di Regolamento del Parlamento Europeo e del Consiglio, ancora in corso di discussione, si è poi è sottolineato, in ambito nazionale, il ruolo fondamentale del Giudice amministrativo, chiamato a confrontarsi con l’evoluzione della realtà, che è sempre più veloce dell’ordinamento che la regola e ad individuare i nuovi percorsi di tutela in considerazione dei casi di specie del tutto peculiari che sempre più spesso vengono sottoposti alla sua attenzione.
Ancora una volta il Giudice amministrativo sarà chiamato a tracciare il difficile equilibrio tra l’innovazione tecnologica, che, se correttamente governata, non può che andare a vantaggio di un esercizio efficace ed efficiente dei pubblici poteri, e la tutela delle singole posizioni giuridiche soggettive, nell’ambito di un giusto procedimento a base algoritmica.
Quanto alla normativa nazionale, le novità introdotte nel settore dei contratti pubblici, ed in particolare il nuovo “ecosistema nazionale di approvvigionamento digitale”, di cui al Codice dei contratti pubblici, D.Lgs. n. 36/2023 appena venuto alla luce, pongono le basi dell’evoluzione del sistema del public procurement nell’Amministrazione 4.0.
[1] F. Amigoni, V. Schiaffonati, M. Somalvico, Intelligenza Artificiale, in Enciclopedia della Scienza e della Tecnica, 2008;
[2] Defensis, Intelligenza Artificiale: introduzione;
[3] M. Di Paolo Emilio, Intelligenza artificiale, deep learning e machine learning: quali sono le differenze, in Innovation Post, 2022;
[4] A. Longo, Machine learning e Deep learning, quali differenze, in 4Business, 2021;
[5] L. Tremolada, Machine learning, deep learning e reti neurali. Ecco di cosa parliamo, in Il sole24ore, 2019;
[6] Nel campo dell'apprendimento automatico, una rete neurale artificiale è un modello computazionale composto di "neuroni" artificiali, ispirato vagamente dalla semplificazione di una rete neurale biologica. Fonte Wikipedia;
[7] G. D’Acquisto, Algoritmi e intelligenza artificiale: conoscerli bene per metterli al servizio dell’umanità, in Agenda Digitale, 2021;
[8] cfr. Consiglio di Stato, Sez. III, 25 novembre 2021, n. 7891;
[9] ibidem;
[10] L'Intelligenza Artificiale dalle origini a oggi, Osservatori.net – Digital Innovation, Politecnico di Milano – Dipartimento di Ingegneria Gestionale;
[11] Commissione Europea, Proposta di Regolamento del Parlamento Europeo e del Consiglio che stabilisce regole armonizzate sull’intelligenza artificiale (legge sull’intelligenza artificiale) e modifica alcuni atti legislativi dell’Unione;
[12] ibidem;
[13] C. Palmieri, Intelligenza Artificiale, il nuovo quadro normativo europeo, su Altalex, 2021;
[14] Consiglio dell’UE, Normativa sull’intelligenza artificiale: il Consiglio chiede di promuovere un’IA sicura che rispetti i diritti fondamentali, comunicato stampa del 6 dicembre 2022;
[15] M. Maratona, R. Savella, Intelligenza artificiale: orientamento del Consiglio europeo e ultimi sviluppi nella definizione del Regolamento, su Altalex, 2023;
[16] Euractiv, L’UE adotta una definizione di intelligenza artificiale simile a quella dell’OCSE, 3 marzo 2023;
[17] L. Jona, I 10 punti ancora irrisolti del regolamento europeo sull’intelligenza artificiale, su Wired Health, 2023;
[18] A. Pajno, F. Donati, A. Petrucci, Intelligenza artificiale e diritto: una rivoluzione?, Amministrazione, responsabilità, giurisdizione, Astrid, 2022;
[19] V. Neri, Diritto amministrativo e intelligenza artificiale un amore possibile, Urbanistica e appalti, n. 5, 1 settembre 2021, p. 581;
[20] M. Macchia, A. Mascolo, Intelligenza artificiale e sfera pubblica: lo stato dell’arte, Giornale di diritto amministrativo, n. 4, 1 luglio 2002, p. 556;
[21] L. Carbone, L’algoritmo e il suo giudice, relazione al convegno “Digital administration – Daily efficiency and smart choices”, Università degli studi Federico II, Napoli, 9-10 maggio 2022;
[22] cfr. Tar Lazio, Roma, Sez. III bis, del 22 marzo 2017, n. 3769;
[23] cfr. Consiglio di Stato, Sez. VI, 8 aprile 2019, n. 2270;
[24] cfr. Consiglio di Stato, Sez. VI, 13 dicembre 2019, n. 8472;
[25] F. Costantino, Pubblica amministrazione e tecnologie emergenti – Algoritmi, intelligenza artificiale e giudice amministrativo, Giurisprudenza italiana, n. 6, 1 giugno 2022, p. 1507;
[26] cfr. Consiglio di Stato, Sez. III, 28 dicembre 2020, n. 8435;
[27] cfr. Tar Campania, Napoli, Sez. IV, 26 luglio 2021, n. 5238;
[28] cfr. Tar Lombardia, Milano, Sez. III, 6 aprile 2022, n. 778;
[29] F. P. Bello, Il PNRR e l’eterno cantiere dei contratti pubblici: intelligenza artificiale, digitalizzazione e appalti pubblici, Norme e Tributi Plus Diritto, 3 marzo 2022;
[30] cfr. Consiglio di Stato, Sez. III, 25 novembre 2021, n. 7891.