Contract
IL PROCEDIMENTO ALGORITMICO NELLE GARE PER L’AFFIDAMENTO DEI CONTRATTI PUBBLICI:
Xxxxxxxxxx Xxxxxxx
Abstract:
[IT] Il contributo prende le mosse da un ambito particolare, le gare per l’affidamento dei contratti pubblici, per sviluppare alcune argomentazioni riguardo all’impiego dell’algoritmo (rectius, algoritmi) nella decisione amministrativa.
[EN] This research concerns algorithm decision making, regarding specifically public tenders.
SOMMARIO: 1. Prima premessa. Il mondo nuovo dall’Encyclopédie alla spinta computazionale; – 2. Seconda premessa. L’innovazione tecnologica tra singolarità e Xxxxxx xxxxxxxx; – 3. Le nuove tecnologie al centro dell’agenda politica dei governi su scala internazionale; – 3.1 Sovranità digitale e computazionale sono la nuova frontiera della competizione mondiale tra Stati e mercato; – 4. L’era dell’algoritmo: “cultura algoritmica” e “regime della computazione”; – 5. Sistemi algoritmici applicati alla decisione amministrativa: il caso della Regione Lombardia; –
6. Complessità e autonomia della conoscenza per un nuovo bilanciamento tra potere pubblico e interessi privati. – 7. Gli algoritmi nei procedimenti di selezione ed esecuzione dei contratti pubblici; – 8. Decisione amministrativa ottimale e garanzie irrinunciabili, anche in sede giurisdizionale.
1 Il presente saggio approfondisce e integra l’intervento orale svolto nell’ambito del Convegno di studi dal titolo: “I contratti pubblici. La difficile stabilizzazione delle regole e la dinamica degli interessi”, tenutosi presso l’Università degli Studi di Ferrara l’8 novembre 2019. Gli atti verranno pubblicati nel volume omonimo a cura di A. Xxxxxxx, XXX, Xxxxxx, 0000.
Il problema discusso in questo lavoro riguarda, come si può evincere anche dal sommario, alcuni aspetti di teoria generale aventi una ricaduta immediata e diretta sul procedimento amministrativo con lo scopo di stimolare una riflessione più ampia ed organica sull’azione amministrativa investita dalla trasformazione digitale e dalla spinta computazionale.
Il lettore deve tuttavia essere da subito informato del fatto che non si tratta di una ricostruzione di diritto positivo volta a legittimare o viceversa contestare l’impiego del procedimento algoritmo nell’assunzione di decisioni amministrative attraverso una interpretazione “giustificativa” del dato normativo nazionale o sovranazionale.
Ciò che è da tempo comunemente accettato nella vita privata2, sebbene non senza voci critiche e pur nella piena inconsapevolezza, sta assumendo nello spazio pubblico una rilevanza trasformativa inarrestabile del rapporto tra “sapere” e “potere”, tra “libertà” e “autorità”, tra “interesse pubblico” e “interesse privato”, destinata ad incidere significativamente, a livello individuale, sulle situazioni giuridiche soggettive e, a livello collettivo, sulla concezione stessa dello Stato e del suo potere. Quindi lo sforzo sarà impiegato – e il lettore ne sarà critico censore - per rifuggire da un testo che presenti il problema in termini taumaturgici o viceversa apocalittici, con lo scopo principale di elevare quaestiones, nella consapevolezza che, lo si voglia o meno, gli algoritmi hanno segretamente acquisito il potere di cambiare lentamente e con discrezione le regole che dettano il senso3 della nostra umanità4.
2 Non è questa la sede per citare la vasta letteratura che da tempo si occupa di come di come gli algoritmi sono parte integrante delle infrastrutture moderne proprio come lo sono da prima di loro, i ponti gli edifici e le fabbriche; tuttavia una disamina approfondita e una casistica significativa la si può leggere in X. XXXXXXX, Vita 3.0. Esseri umani nell’era dell’intelligenza artificiale, Milano, Xxxxxxxxx Xxxxxxx Editore, 2018 e in X. XXXXX, L’inevitabile, Milano, Il Saggiatore, 2017. Suggestive, infine, sono le riflessioni contenute nel libro di X. XXXXXX, Le persone non servono. Lavoro e ricchezza nell’epoca dell’intelligenza artificiale, Roma, LUISS University press, 2016.
3 La parola senso non è da intendersi nel suo significato ultimativo dell’esistenza del singolo, ovvero in quelle domande trascendenti che ogni uomo si pone rispetto alla vita come poste per esempio dal poeta X. Xxxxxxxx nel Canto notturno di un pastore errante dell’Asia: “Che fa l’aria infinita, e quel profondo / infinito seren? / che vuol dire questa/ solitudine immensa? ed io che sono?”. Significa piuttosto ethos popolare nella accezione hegeliana moderna quale insieme di valori e norme, codici di comportamento i quali, interiorizzati dall'individuo in funzione della sua integrazione sociale, costituiscono e determinano la disposizione, il carattere, il temperamento culturale di una data popolazione.
4 Così X. XXX, Hello World. Esseri umani nell’era delle macchine, Torino, Bollati Boringhieri, 2019, p. 12.
1. Prima premessa. Il mondo nuovo dall’Encyclopédie alla spinta computazionale.
Due premesse sono pertanto necessarie per inquadrare il problema e maturare una consapevolezza nuova.
La prima. L’accelerazione determinata dalla spinta dell’innovazione nell’ultimo ventennio ha carsicamente sovvertito l’ordine antico e ci lascia sprovvisti di conoscenza5. Ovviamente non si tratta di un fatto nuovo nel ciclo della storia, tuttavia nel XVIII secolo la caduta dell’Ancien Régime aveva consegnato alle nuove generazioni un trattato di conoscenza “perfetta” simbolicamente espresso nell’Encyclopédie del filosofo-editore Xxxxx Xxxxxxx0. Un compendio che rappresentava la costruzione di una macchina culturale per la perfezione della conoscenza.
In altri termini, la caduta dell’antico regime ha lasciato l’Enciclopedia, la base di conoscenza su cui si è ricostruito un sistema di valori, norme e codici di comportamento declinato nelle diverse discipline. E ciò ha influenzato e diretto il sistema della conoscenza dei secoli seguenti.
Il mondo nuovo, spinto da una capacità computazionale senza precedenti e da innovazioni tecnologiche trasformative poggia su un apparato conoscitivo che non si è evoluto. Ma v’è di più, se si osserva il problema dal punto di vista della vita associata, dal momento che gli stessi sistemi giuridici che hanno fatto sintesi di quei valori e hanno codificato lo stato di diritto oggi sono in affanno. Il mondo nuovo d’un colpo ha eliminato due categorie essenziali, tempo e spazio. Il tempo è stato sostanzialmente annullato dalla capacità di calcolo, la rete ha reso l’uomo ubiquitario superando il concetto stesso di spazio e confine.
In questa prospettiva, sebbene sommariamente enunciata e semplificata ai minimi termini, sono le fondamenta del sistema che devono essere ridiscusse. L’alternativa è forzare i principi per rincorrere ciò che si sta trasformando sulla spinta dell’innovazione.
I tempi del diritto non sono coerenti con i tempi dell’innovazione, osserviamo per esempio quanto faticano le amministrazioni pubbliche a comprare innovazione. Si
5 E invero proprio con riguardo all’ambito proprio del diritto, ci si muove in un ambito indefinito, nel quale l’ancoraggio a principi generali supplisce all’assenza di una disciplina efficace, rispetto ad un fenomeno del quale non si conoscono appieno le reali implicazioni. Ciò non deve stupire. Del resto, se oggetto della norma è una fattispecie, la conoscenza della fattispecie rappresenta l’antecedente logico sul quale plasmare una disciplina ritenuta accettabile o desiderabile per la comunità destinataria di quelle norme.
6 Questa suggestione simbolica è di X. Xxxxxxxx, espressa più volte in occasione di discussioni sull’impatto dell’innovazione sulla società contemporanea durante un ciclo di incontri cui ho avuto il piacere e l’onore di partecipare presso la Fondazione Xxxxxxxx Xxxxxxxx a Milano nel corso degli anni 2017-2020.
potrebbe facilmente obiettare che probabilmente non lo sono mai stati e che proprio la giurisprudenza aveva il compito di interpretare il dato normativo adeguandolo alle trasformazioni accorse. Tuttavia ci si scontra con un fenomeno che non ha precedenti storici, l’effetto distruttivo delle nuove tecnologie di tutti i paradigmi costitutivi, lascia anche il giudice solo e privo di instrumenta ad esercitarsi in spericolate ricostruzioni giurisprudenziali.
Il diritto è sconfitto, nessuno ha colpe, perché ciò che è in discussione è l’assetto stesso del potere costituito. E’ forse il tempo di stimolare nuovi sentieri per dare vita a delle vere e proprie scienze umane sperimentali per avviare una riflessione ampia e multidisciplinare, una contaminazione di saperi senza la quale non è possibile ripensare le fondamenta. E’ un compito arduo, che non può prescindere dalla formazione, così come nel medioevo attorno alle Universitas si tesseva la trama del divenire.
2. Seconda premessa. L’innovazione tecnologica tra singolarità e Xxxxxx xxxxxxxx.
La seconda. L’impiego di algoritmi per risolvere problemi e prendere decisioni è il mestiere più antico del mondo7. Un mestiere che finora si è sempre scontrato con il serpente della complessità. La complessità spaziale, cioè il numero di bit di informazione occupati dall’algoritmo nella memoria del computer - capacità di calcolo-, in altri termini se l’algoritmo ha bisogno di una quantità di memoria superiore a quella che il computer può fornire non serve a niente e va sostituito. Poi c’è la complessità temporale, cioè il tempo necessario per eseguire l’algoritmo, ovvero quante volte dovrà utilizzare i transistor del computer prima di produrre il risultato desiderato. Se il tempo è superiore all’attesa desiderata di nuovo ci scontriamo con la sua inutilità. C’è infine la complessità umana, su cui torneremo infra nel paragrafo 4.
Che cosa è cambiato? La capacità di calcolo, destinata ad espandersi sulla frontiera dei nuovi computer quantici8, associata alla crescita esponenziale di montagne di dati disponibili sono la spada con cui uccidere il serpente della complessità. E la spada è forgiata dal machine learning, un programma di apprendimento lungo poche centinaia
7 I babilonesi usarono alcuni dei primi algoritmi per estrarre radici quadrate e fattorizzare i numeri; Xxxxxxx ideò un algoritmo per prendere due numeri e trovare il più grande fra i loro divisori comuni, sul punto si v. D.E. Xxxxx, Ancient Babylonian Algorithms, in Communications of the ACM, vol. 15, n. 7, pp.671-677.
8 La notizia è apparsa sul numero del mese di ottobre 2019 della rivista Nature.
di righe che può generare senza problemi milioni di righe di codice, e può farlo a ripetizione, ogni volta per un problema diverso. E’questo un punto cui prestare particolare attenzione, perché qui assistiamo alla vera inversione del paradigma classico dell’algoritmo e quindi della programmazione.
Un’immagine può semplificare la comprensione di ciò che troppo spesso viene confuso o associato ad altre tecnologie, ovvero etichettato con il termine “automazione”. La Rivoluzione industriale ha automatizzato il lavoro manuale, quella dell’informazione ha fatto lo stesso con il lavoro intellettuale, il machine learning automatizza l’automazione stessa. Tanto che se non ci fosse, i programmatori diventerebbero i colli di bottiglia che frenano la trasformazione9.
La svolta computazionale dunque ha permesso agli algoritmi di ricostruire e cancellare la realtà legale e uniformare l’Ethos stesso dei popoli.
La seconda premessa esige però un’ulteriore riflessione che si innesta nell’innato desiderio di conoscenza dell’uomo.
In questo senso l’Xxxxxx dantesco ci spiega l’altra faccia dell’algoritmo, quella più intima e meno deterministica. Xxxxx nel Convivio ci parla del desiderio di conoscenza, del tendere dell’anima alla perfezione, rappresentata dal raggiungimento della conoscenza assoluta. Per il Poeta l’anima dell’uomo tuttavia non potrà mai raggiungere la perfezione, perché la conoscenza assoluta è propria del divino. Ogni sforzo umano è compiuto per avvicinarsi alla sapienza, e da questa condizione dipende la volontà di “…divenir del mondo esperto”, come afferma Xxxxxx nel Canto XXVI dell’Inferno.
L’algoritmo personifica l’Ulisse dantesco.
La conclusione può tradire l’intendimento iniziale, tuttavia è di fondamentale importanza tenere a mente questo aspetto, e lo è a maggior ragione per il problema discusso in questo lavoro, perché se l’algoritmo, liberato dalle catene del tempo e dello spazio, come un novello Prometeo ruba il fuoco della conoscenza assoluta agli dei per consegnarla agli uomini, il suo spazio pubblico è destinato ad espandersi
9 Diffusamente sul tema si rinvia a X. XXXXXXXX, L’Algoritmo Definitivo. La macchina che impara da sola e il futuro del nostro mondo, Torino, Bollati Boringhieri, 2016, op. loc. cit. pp. 28-32.
10 X. XXXX, op. cit., p. 34.
3. Le nuove tecnologie al centro dell’agenda politica dei governi su scala internazionale.
L’analisi del problema discusso non può proseguire senza considerare la centralità assunta dalle nuove tecnologie nelle agende politiche dei governi su scala planetaria. E’ un processo lungo e trasversale a tutte le latitudini e apparentemente indifferenziato, se ci si limita alla lettura della letteratura “grigia” prodotta nell’ultimo decennio.
Proliferano Libri bianchi, linee guida, raccomandazioni, consensus meeting e task force di esperti sull’impiego e gli impatti dell’Intelligenza Artificiale (IA).
I governi nazionali e quelli federati stanno stanziando importanti investimenti pubblici per sviluppare e implementare l’IA nello spazio pubblico, sorretti, consapevolmente o meno, dall’ineluttabilità degli effetti trasformativi che ne discenderanno dal welfare alla mobilità, dalla criminalità alla giustizia e più in generale dall’azione propria di uno Stato, l’amministrare12. Simbolicamente alcuni Stati hanno modificato alcuni assetti istituzionali e organizzativi, istituendo per esempio ministeri per l’intelligenza artificiale13. Ma ciò che scorre sul filo della conoscenza pubblica, trasmesso dalla letteratura “grigia” sul tema, nasconde ciò che carsicamente sta avvenendo. Non una novità, in senso assoluto, perché gli Stati per preservare la loro sovranità hanno sempre fatto guerre, ma certamente una novità sotto il profilo del risultato atteso, in termini di tempo e spazio. Un “colonialismo digitale”, che è innanzitutto culturale, non conosce confini e opera in tempo reale. Su
00 X. X. XXXX, Xxxxxxxxxxxx and Capture: Two Models of Privacy, in X. XXXXXXX XXXXX, X. XXXXXXXX (a cura di), The New Media Reader, The Mit Press, Cambridge (Mass.), 2003, pp.740 ss.; A. R. XXXXXXXX, Gaming: Essays on Algorithmic Culture, University of Minnesota Press, Minneapolis, 2006.
12 V. per esempio la relazione OCSE, “Embracing innovation in government. Global Trends 2019”.
13 V. per esempio gli Emirati Arabi Uniti, il cui ministro, Xx Xxxxx, ha annunciato nel mese di dicembre 2017 che il suo team si concentrerà sullo sviluppo di normative e regolamenti sull’IA e diverrà oggetto di studio nelle scuole superiori e nelle università. Xxxxxxxxx simbolico assume anche la decisione di concedere la residenza a Tokyo ad un “ragazzo” nato dall’IA. Si tratta di un chatbot programmato per agire come un bambino di sette anni di nome Xxxxx. La decisione di rendere Mirai un cittadino giapponese residente fa parte di un progetto volto a rendere più familiare e accessibile il governo locale. Il compito assegnato a Xxxxx è di ascoltare le opinioni e i desiderata dei residenti.
questo punto torneremo nel paragrafo successivo (3.1).
Una precisazione è d’obbligo, tutti i documenti contengono, già nel titolo, un generico riferimento al “brand” IA, che come noto non è una tecnologia, bensì un insieme proteiforme di tecnologie in fase di sviluppo.
L’Europa, culla del rinascimento, consapevole dell’affanno sullo sviluppo tecnologico dell’IA negli Stati membri, ha da subito rivendicato una egemonia “culturale” sull’impatto dell’IA14 sviluppando una strategia che poggia su tre pilastri:
1) incoraggiarne l’adozione, ma rimanendo al passo con gli sviluppi tecnologici; 2) prepararsi ai cambiamenti socioeconomici; 3) garantire un assetto etico e giuridico. Significativi nel delineare questa strategia sono, tra gli altri, l’antecedente Regolamento generale sulla protezione dei dati del 2016 (GDPR) e la relazione prodotta nel mese di marzo 2018 da un organismo di consulenza indipendente del Presidente della Commissione UE denominato “European Group on Ethics in Science and New Technologies”. Quest’ultimo documento contiene nove “prerequisiti e principi etici che dovrebbero guidare lo sviluppo e l’impiego dell’IA, e segnatamente:
a) la dignità umana; b) l’autonomia; c) la responsabilità; d) la giustizia, eguaglianza e solidarietà; e) la democrazia; f) il principio di legalità e accountability; g) la sicurezza e l’integrità mentale e fisica; h) la protezione dei dati e la riservatezza; i) la sostenibilità. L’approccio dell’UE, storicamente consolidato, è volto a bilanciare lo sviluppo e l’impiego dell’IA con la protezione dei dat15, il nutrimento di tutte le tecnologie che compongono l’IA. Questo atteggiamento non ha tuttavia impedito che a livello nazionale, alcuni Stati membri abbiano sviluppato strategie più “aggressive” pur nel perimetro delineato dall’UE. E’ il caso, tra questi, della Francia e della Germania, l’Inghilterra dopo la Brexit va da sé e sarà aggetto di alcune considerazioni nel
paragrafo 3.1.
La Francia ha investito del compito il matematico Xxxxxx Xxxxxxx che nel suo rapporto finale, Report Xxxxxxx, intitolato “For a Meaningful Artificial Intelligence” presentato nel mese di marzo 2018 ha delineato una strategia volta, tra le altre, a: sviluppare una policy aggressiva sui dati, in modo da garantire l’accesso agli stessi; migliorare il potenziale della ricerca francese; investire sull’Explainable AI, segmento quest’ultimo molto competitivo su scala internazionale, soprattutto in termini di ricerca e costruzione delle competenze. Alla presentazione del rapporto il Presidente Xxxxxx ha annunciato l’investimento di 1,5 miliardi di euro nel quinquennio per la
14 Comunicazione della Commissione al Parlamento Europeo, al Consiglio, al Comitato economico e sociale europeo e al Comitato delle regioni, L’Intelligenza Artificiale per l’Europa, COM(2018)237 del 25.4.2018
15 Si v. al riguardo le osservazioni svolte da X. XXXXXX, Datafication: making sense of (Big) Data in a Complex World, in European Journal of Information System, 22, 2013, pp. 381- 386.
La Germania ha stanziato 3 miliardi nella strategia nazionale sull’IA denominata “Strategie Kunstliche Intelligenz der Bundesregierung”. La strategia si basa sui cosidetti Key points for Federal Government Startegy on Artificial Intelligence ed è sintetizzabile in tre obiettivi: a) rendere la Germania leaders globale nello sviluppo e nell’utilizzo delle tecnologie di AI ed assicurare la competitività della Germania nel futuro; b) salvaguardare uno sviluppo ed un uso responsabile dell’IA per porla al servizio dell’umanità; c)integrare nella società l’IA in termini etici, legali, culturali ed istituzionali nel contesto di un ampio dialogo all’interno della società e dei provvedimenti politici.
L’Italia, infine, ha dapprima istituito una Task Force di esperti sull’intelligenza artificiale d’iniziativa dell’Agenzia per l’Italia Digitale (AgID), cui ha fatto seguito nel 2018 il Libro Bianco intitolato “L’intelligenza artificiale al servizio del cittadino”. Tra le proposizioni che meritano attenzione17, sebbene rimaste prive di contenuto economico e di reali investimenti conseguenti, vi sono quelle volte a stimolare l’impiego alla pubblica amministrazione delle tecnologie disponibili di IA per migliorare i servizi per il cittadino. Ulteriori spunti condivisibili e rilevanti riguardano le sollecitazioni volte a promuovere l’adeguamento professionale della burocrazia attraverso una idonea attività formativa18, e a ripensare gli assetti organizzativi degli uffici. C’è, infine un aspetto che sarà ripreso nel paragrafo 7, che mette in luce come uno dei problemi fondamentali, quando si tratta di disciplinare l’applicazione dell’IA all’attività della pubblica amministrazione, sia il bilanciamento tra l’interesse pubblico e quello privato19. Pur apprezzando lo sforzo di considerare un problema centrale del dibattito, l’esito non è pienamente soddisfacente, limitandosi a considerare gli aspetti di tutela della riservatezza con gli strumenti previsti dal GDPR.
Se si volge lo sguardo fuori dall’UE sono cinque gli Stati che hanno un’agenda politica sull’IA che merita di essere considerata, soprattutto perché sono gli stessi che
16 Oltre alla strategia Xxxxxxx, la Francia aveva già sviluppato nel 2017 proprie linee guida per l’IA nel documento intitolato “France Intelligenge Artificielle” su iniziativa di Xxxxxx Xxxxxxx e Xxxxxxx Xxxxxx, rispettivamente Segretario di Stato per l’Innovazione e il Digitale e per l’Insegnamento superiore e la Ricerca.
17 Negli stessi termini v. X. XXXXXXXXXX XXXXXXXXX, Umano troppo umano, Decisioni amministrative automatizzate e principio di legalità, in Dir. Pubbl., 1, 2019, p.17.
18 L’aspetto formativo è ineludibile, a parere di chi scrive. Va rilevato tuttavia, come osservato da D. XXXXXX XXXXXXX, J. G. XXXXXXXX, Intelligenza Artificiale per una Pubblica Amministrazione 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, in Xxxxxxxxxxx.xx, 3, 2019, p.14, che nulla è stato stanziato specificamente per la formazione tecnologica del personale alle dipendenze della Pubblica Amministrazione.
19 Libro bianco (2018), cit., p. 55.
In Russia l’iniziativa nasce in campo militare21con lo scopo di consolidare le competenze nazionali sull’IA e sviluppare sistemi evoluti di cyberwar attraverso la creazione di un campus dedicato ad Anapa, sul mar Nero, in cui far confluire investimenti pubblici e privati, sotto la supervisione dell’esercito. Impresa digitale propria.
Gli Stati Uniti hanno una lunga tradizione, e si sono succeduti negli anni, in assoluta continuità rispetto ai Presidenti e alla composizione delle Assemblee rappresentative, svariati documenti di indirizzo cui hanno fatto seguito stanziamenti plurimiliardari con lo scopo di investire in ricerca e sviluppo sull’IA. Una prima ricognizione dello stato dell’arte avviene sotto la presidenza Xxxxx nel 2016 che ha dato avvio ad un dibattito pubblico e all’individuazione di priorità strategiche destinate a contaminare il mondo intero22. Per comprendere la portata degli investimenti, pubblici, privati e classificati, basti pensare che la leadership mondiale sull’AI rappresenta per gli Stati Uniti la secondo priorità di ricerca, dopo quella militare in senso stretto, a valere sull’anno fiscale 2020. In questo panorama di superpotenze non poteva ovviamente mancare la Cina che, per mano del Consiglio di Stato ha pubblicato nel 2017 il “New Generation Artificial Intelligence Development Plan”23 attraverso il quale ambisce a divenire la principale potenza nel settore entro il 2030 e a mobilitare l’industria interna dell’IA per un valore superiore ai 150 miliardi di dollari.
Sullo sfondo, due Stati competono, per profili diversi, alla sfida dei Grandi: il Regno Unito e Israele.
Il primo si è ritagliato un ruolo strategico a livello internazionale concentrando gli sforzi sulla dimensione etica dell’IA e investendo in un “Centro per l’Etica e
20 In Europa, tra le più significative, si x. Xxxxxx, Austria, Danimarca, Irlanda, Svezia, Finlandia e Norvegia. Nel resto del mondo Lituania, Estonia, Tunisia, Arabia Saudita, Emirati Arabi, Kenya, India, Malesia, Giappone, Singapore, Xxxxx del Sud, Australia, Nuova Zelanda, Canada e Messico.
21 Cfr. xxxx://xxxxxxxxxx.xxx/xxxxx/0000/00/xxxxxxx-xxxxxxxxx-xx-xxxxxxxxxxx-xxxxxxx/ 149900.
22 I tre rapporti più importanti, tutti reperibili in rete, sono: “Preparing for the Future of Artificial Inntelligence”; “The national Artificial Intelligence Research and Development Strategic Plan” e “Artificial Intelligence, Automation and Economy”
23 Cfr. xxxx://xxxx.xxx/xxxxxx-xxxxx-xxxxxxx-xxxxxxx-xxx-xxxxxxxxxx-xxxxxxxxxx-xxxxxxxxxxxx- development-plan/, tale piano si innesta a pieno titolo nella pianificazione e segnatamente nel “XIII Piano Quinquennale” e in quello “Made in Cina 2025”.
l’innovazione dei Dati”24 in competizione “non dichiarata” con la visione eurounitaria. Lo scopo è attrarre investimenti internazionali, in un ambiente legale favorevole e esercitare una leadership identitaria, chiara e riconsocibile.
Il secondo, storicamente incline a fungere da incubatore delle nuove tecnologie per il mondo intero, in campo militare, ma non solo, attrae i migliori investimenti internazionali, offrendo competenze e capitale umano altamente formato e una visione politica dell’innovazione improntata a grande pragmatismo. Il Governo ha individuato Xxxxx Xxx-Xxxxxx e Eviatar Matania, entrambi già a capo della Task Force per la sicurezza digitale che ha reso Israele leader mondiale, per definire una strategia sull’AI. E’ certamente annoverabile tra i paesi al mondo in cui si sono sviluppati i principali tools applicativi dell’IA, dall’ambito militare a quello della mobilità e ora nel redditizio campo dei servizi alla persona.
3.1 Sovranità digitale e computazionale sono la nuova frontiera della competizione mondiale tra Stati e mercato.
Il problema discusso in questo paragrafo meriterebbe una autonoma trattazione, sia in ragione della complessità che della rilevanza del tema25. Ho ritenuto tuttavia di farvi cenno e svolgere qualche considerazione, seppur embrionale, in ragione del fatto che senza considerare questo aspetto, qualunque discussione sul tema che ci riguarda sarebbe amputata di un arto fondamentale. In altri termini, possiamo discutere all’infinito sulla legittimazione all’impiego di algoritmi nella sfera pubblica con argomentazioni e ricostruzioni stimolanti e sofisticate in senso positivo o contrario, ma non possiamo non considerare la sfida globale sulla sovranità digitale e computazionale come fattore destinato ad incidere in modo significativo sul formante dei sistemi giuridici stessi. E come sempre, ci saranno vinti e vincitori, tradizioni giuridiche che si sgretoleranno nell’eterno dilemma tra Xxxxxxxx e Xxxxxx.
Un esempio, dalla storia recente, può chiarire i termini del problema. Le applicazioni di tracciamento dei contatti – proliferate nel pieno della pandemia COVID-19 – hanno suscitato non poche perplessità, certamente sotto il profilo etico e
24 Cfr. xxxx://xxxxxx.xxxxxxxxxx.xxxxxxx.xxx.xx/xxxxxxxxxx/xxxxxxx/xxxxxx/xxxxxxx/ attachment_data/file/664563/industrial-strategy-white-paper-web-ready-version.pdf.
25 Si osservi che prima del 2011 nella letteratura accademica non si ricorreva alla nozione di “sovranità digitale” e “sovranità dei dati”. E’ una categoria recente il cui impiego subisce una accelerazione a partire dagli anni 2015-2018. Diffusamente sul punto v. X. XXXXXXX, X. XXXXXX, “What Does the Notion of ‘Sovereignty’ Mean When Referring to the Digital?,” New Media & Society 21, no. 10 (October 1, 2019): 2305– 22, xxxxx://xxx.xxx/00.0000/0000000000000000.
della privacy, ma non solo. E invero, non sono mancate le voci che hanno fatto ricorso all’idea di sovranità per respingere le proposte provenienti da Google e Apple, sottolineando che «They are exercising sovereign power. It’s just crazy […]. You have a private government that is making choices over your society instead of democratic governments being able to make those choices»26.
La dimostrazione della rilevanza di un dibattito scientifico che pure è agli albori, è, tra gli altri, il paper del centro studi e ricerche del Parlamento Europeo del mese di luglio 2020 intitolato “Digital sovereignty for Europe” che iscirve il tema all’ordine dell’giorno dell’agenda politica dell’UE.
Le domande su chi possiede le tecnologie del futuro, chi le produce e chi stabilisce gli standard e regola il loro utilizzo sono diventate centrali per la competizione geopolitica. Le nazioni sono impegnate a plasmare gli sviluppi della nuova tecnologia e a cogliere i benefici - sia economici che geopolitici - che emergono da quest'era di rapidi cambiamenti29 e con essi stanno cercando di proteggere la loro sovranità digitale.
Una sovranità i cui elementi essenziali sono: perimetro digitale, dati e tecnologie.
26 Così X. XXXXXXXXXX, X. XXXXXXX, “Apple and Google Are Building a Virus-Tracking System. Health Officials Say It Will Be Practically Useless” in Washington Post, May 15, 2020,xxxxx://xxx.xxxxxxxxxxxxxx.xxx/xxxxxxxxxx/0000/00/00/xxx-xxxxx-xxxxxx-xxxxx/. 27 xxxxx://xxx.xxxxxxxx.xxxxxx.xx/XxxXxxx/xxxxxx/XXXX/0000/000000/XXXX_XXX(0000)00 1992_EN.pdf
28 Diffusamente v. X. XXXXX XXXXX, Digital Sovereignyty or Digital Colonialism. New tensions of privacy, security and national policies, in Sur - International journal on human rights, 2018, xxxxx://xxx.xxxxxxxx.xxx/xx/xxxxxxx-xxxxxxxxxxx-xx-xxxxxxx-xxxxxxxxxxx/.
29 Cfr. X. XXXXXXX, Introduction: Europe’s Digital Sovereignty, in “Europe’s Digital Sovereignty: From Rulemaker to Superpower in the Age of US-China Rivalry”, Xxxxx Xxxxx (ed.) July 2020, xxxxx://xxx.xxxx.xx/xxxx/-/xxxxxx_xxxxxxx_xxxxxxxxxxx_xxxxxxxxx_xxxxxxxxxx_xxx_xx_xxx na_rivalry.pdf.
Va considerato, infine, il fatto che, rispetto alla sovranità “classica”, oggetto di una competizione tra Stati, la sovranità digitale apre il fronte alle grandi aziende tecnologiche che indirettamente contribuiscono ad indebolire il potere stesso dello Stato. E così mentre si discute sull’impiego di algoritmi nell’esercizio del potere amministrativo, la gran parte delle scelte, tanto nello spazio pubblico, quanto in quello privato, sono già assunte da “governi” privati.
4. L’era dell’algoritmo: “cultura algoritmica” e “regime della computazione”.
Se è vero che l’algoritmo è “un metodo per risolvere un problema”30 secondo una definizione “pragmatica” - rileva Finn31- essa lo è solo in termini di utilità. In altri termini, gli algoritmi risolvono problemi che sono stati identificati dai programmatori che sviluppano il codice. Ma ridurre l’algoritmo a questa definizione ci impedirebbe di comprendere gli impatti che esso hanno sulla politica, sulla cultura, sulla concreta vita quotidiana e in ultima istanza sui sistemi giuridici, perché i compromessi e le analogie delle approssimazioni algoritmiche – osserva Xxxxxxxx - tendono ad eliminare tutto ciò che non comprendono32. Una definizione meramente pragmatica dell’algoritmo tende a celare e tacitare i reali problemi, che come tali non vanno respinti aprioristicamente, ma devono essere discussi, come ad esempio la convinzione che la trasparenza e la semplicità dei sistemi computazionali ci spinga a ritenerli come veicoli per un processo decisionale imparziale.
Nell’era computazionale c’è dunque un altro significato che richiede di essere disvelato, al di fuori dei canoni della scienza informatica, sebbene in questa sede non si possa che farne qualche limitato cenno.
Ed è questo secondo significato il più rilevante per il diritto, è con esso, prima ancora che con la black box dell’algoritmo che il diritto deve dialogare e porre i problemi fondamentali.
In questi termini, l’algoritmo spogliato della falsa semplicità e della sua perfezione computazionale, è una “macchina culturale” che genera una “cultura algoritmica”. Attenzione però, non è come si potrebbe credere una cultura che va a sostituirsi ad
30 X. Xxxxxxxxx, X. Xxxxx, Computer science 226: Algorithms and Data Structures, in
xxxx://xxx.xx.xxxxxxxxx.xxx/xxx/XxxxXX00/xxxxxxxxxx.xxx. 31 Cfr. X. Xxxx, op. cit., p. 6.
32 X. Xxxxxxxx, The Black Box Society: The Secret Algorithms That Control Money and Information, Harvard University Press, Cambridge, Mass., 2015, pp. 35 ss. Negli stessi termini anche X. Xxxxxxx, Internet non salverà il mondo. Perché non dobbiamo credere a chi pensa che la rete possa risolvere ogni problema, Mondadori, Milano, 2014.
un’altra, per intenderci quel pensiero devozionale sviluppatosi in Silicon Valley che vede delinearsi la calcolabilità di tutta la conoscenza in nome della singolarità, bensì qualcosa capace di pervadere ogni sistema culturale, anche quelli che apparentemente sembrano non esserne intaccati.
Nel suo saggio critico sul mito della computazione, The Cathedral of Computation, Xxxxxx ci fa comprendere meglio – volendo, per vero, dimostrare il contrario – questo secondo significato dell’algoritmo; ovvero qualcosa capace di generare una “cultura algoritmica” appunto, un ethos in perpetua evoluzione nel rapporto con l’algoritmo.
L’Autore sottolinea «come una volta che si comincia a guardarlo da vicino, ogni algoritmo tradisce il mito della semplicità unitaria e della purezza computazionale. Una volta adottato un certo scetticismo verso l’aspetto divino degli algoritmi e dei dati, non si può più interpretare un sistema computazionale come meramente algoritmico… Pensiamo per esempio a Google Maps. Non è solo un software cartografico che gira su un computer, ma coinvolge anche sistemi informativi geografici, satelliti e trasponder di geolocalizzazione, automobili guidate da esseri umani, sistemi di registrazione ottica panoramica montati su edifici, leggi internazionali sulle registrazioni e sulla privacy, sistemi di gestione di reti fisiche e di dati, nonché gli apparati mobili e non che presentano il tutto. Questa non è cultura algoritmica: è … bè, è semplicemente cultura»33. Vero, ma una cultura sempre più trasformata e plasmata, sistemi culturali sempre più pervasi dalle implementazioni algoritmiche. Così come lo sono state l’Enciclopedia e le biblioteche nei secoli precedenti.
La ricerca algoritmica della conoscenza universale rispecchia e nutre la nostra eterna fame di conoscenza di sé e di consapevolezza collettiva al pari dell’Ulisse dantesco.
Nell’era dell’algoritmo la cultura algoritmica ha già iniziato a modificare i paradigmi del sapere e del potere. Un esempio di questo sono i Titani tecnologici del pianeta che, attraverso la loro ambizione di costruire algoritmi che possano sempre più “rispondere, conversare, anticipare”, stanno, in realtà, costruendo un nuovo quadro epistemologico di ciò che è conoscibile e desiderabile. Xxxx la definisce «una gerarchia intellettuale di bisogni che, in ultima analisi, delineerà lo spazio interno dell’identità umana», contrariamente a quanto sostenuto dal pensiero computazionalista secondo cui, per preservare la purezza dell’algoritmo rispetto a qualunque forma di contaminazione con i sistemi culturali di riferimento, gli algoritmi non hanno alcuna base ontologica per descrivere veramente il mondo, ma
33 I. Xxxxxx, The Cathedral of Computation, gennaio 2015, in xxxxx://xxx.xxxxxxxxxxx.xxx/xxxxxxxxxx/xxxxxxx/0000/00/xxx-xxxxxxxxx-xx-xxxxxxxxxxx/ 384300/.
sono efficacissimi nel risolvere specifici problemi tecnici34.
I termini definitori ut supra sono essenziali per proseguire nella discussione del problema e segnatamente per quanto si andrà a trattare nel paragrafo 6. Un esercizio sperimentale, può tuttavia facilitare la comprensione e aiutare a superare alcune astrazioni del dibattito giuridico sull’algoritmo.
5. Sistemi algoritmici applicati alla decisione amministrativa: il caso della Regione Lombardia.
La curiosità dell’argomento, coltivata in anni di studio e ricerche con specifico riguardo alla sua applicazione alle decisioni amministrative, mi ha suggerito di percorrere una strada inversa rispetto all’analisi del diritto positivo. Ciò, non va sottaciuto, anche in ragione della sua complessità e della sostanziale assenza di riferimenti normativi precisi.
E così, avendone l’occasione, ho preferito seguire la via empirica, realizzare cioè una applicazione e contestualmente riflettere sulle sue implicazioni dal punto di vista del diritto amministrativo.
La Regione Lombardia è stato il terreno fertile di questa sperimentazione, avviata nel 2016 presso la Direzione generale Università, ricerca e innovazione. Insieme ad un gruppo di giovani ricercatori che da anni avevano maturato specifiche competenze sul machine learning e avevano all’attivo plurime esperienze applicative, abbiamo realizzato una piattaforma di open analytics che attraverso una innovativa metodologia di analisi dei dati e sofisticati algoritmi supporta il decisore pubblico (i.e. l’amministrazione regionale) nell’adozione di atti amministrativi generali connotati da ampia discrezionalità ed esposti alla continua tensione degli interessi, ovvero atti di programmazione e asset allocation in alcuni rilevanti ambiti di competenza regionale, quali ad esempio la sanità, la ricerca scientifica e tecnologica, la mobilità, l’ambiente e l’agricoltura che valgono complessivamente oltre 20 miliardi del bilancio regionale.
Il metodo impiegato – divenuto oggetto di un brevetto internazionale di cui è titolare la Regione Lombardia - permette la selezione di dataset e fonti informative eterogenee per la redazione automatica di documenti strutturati e sintetici di valutazione dei bisogni del territorio a cui far corrispondere investimenti per il raggiungimento di obiettivi misurabili.
Attraverso una visualizzazione concettuale basata su un quadrante riassuntivo in
34 X. Xxxx, ibidem.
grado di stimolare ulteriori approfondimenti da parte degli utilizzatori e fruitori dell’invenzione l’amministrazione è supportata nella definizione delle scelte e delle strategie future.
Tuttavia, nonostante siano stati proposti strumenti più o meno evoluti per supportare la gestione di un progetto compresa la fase di programmazione, quali ad esempio il quadro logico, i passi sopra elencati sono tipicamente affrontati con un approccio qualitativo che si basa sostanzialmente sull’intuizione e le competenze dei funzionari e/o dei loro consulenti. L’assenza di un approccio sistematico, quantitativo e riproducibile provoca numerosi svantaggi nell’esercizio dell’azione amministrativa, tra cui: a) sub-ottimalità degli atti di programmazione e dei relativi investimenti; b) difficoltà nel monitorarne l’efficacia; c) difficoltà nel motivare e comunicare con gli stakeholder le decisioni assunte, in quanto mancanti o comunque carenti di informazioni quantitative a loro supporto.
Per superare in parte tali limitazioni, sono stati proposti approcci metodologici e algoritmici che possono essere applicati per affrontare in modo quantitativo alcuni dei singoli passi dell’istruttoria che porta alla definizione dei provvedimenti, non sempre seguiti in modo sistematico nell’istruttoria tradizionale.
La maggior parte di questi approcci è dedicato all’individuazione dei bisogni sociali. In assenza di approcci quantitativi, questa fase cruciale nel processo di formulazione delle decisioni amministrative spesso, oltre ad essere succube di inerzie legate a politiche già attuate o in attuazione, avviene tramite la raccolta di stimoli derivanti da: a) gruppi di riferimento (partiti politici, organizzazioni di categoria ecc.); b) eventi esogeni (invecchiamento popolazione, immigrazione, ecc.); c) soggetti istituzionali esterni (come ad esempio le risposte a richieste dello Stato o dell’ UE per la definizioni di piani di azione regionali).
35 Questo approccio è, ad esempio, quello proposto dall’UE in Common Framework for Country Strategy Papers, European Commission, Aid Delivery Methods – Project Cycle Management Guidelines, Vol 1, European Commission (2004) e comune alla letteratura relativa al policy making.
Tale approccio per l’individuazione dei bisogni presenta tuttavia numerosi svantaggi che hanno una ricaduta diretta sul cittadino: a) non tutti i gruppi hanno una capacità di accesso alla comunicazione del bisogno proporzionale all’urgenza; alcuni gruppi non riescono quindi a comunicare il loro bisogno nonostante esso possa essere un bisogno importante; b) non tutti gli eventi hanno lo stesso impatto e la stessa visibilità; eventi con scarsa visibilità oggi possono avere un forte impatto domani e inoltre non sempre è facile misurare l’impatto; c) gli stimoli dei soggetti istituzionali esterni possono non essere più adeguati alle esigenze attuali del territorio; d) le inerzie decisionali possono dar luogo a sovra-rappresentazione di bisogni non più attuali.
D’altro canto, è possibile reperire una grande mole di dati, e la Regione Lombardia è sicuramente all’avanguardia a livello mondiale, avendo da tempo progettato una infrastruttura digitale per la raccolta dei dati36, che contengono informazioni rilevanti, e quindi generano conoscenza, per l’individuazione di bisogni dei cittadini e del territorio cui indirizzare gli investimenti, spesso con ampio dettaglio nel tempo e nello spazio.
In altri termini, a partire dai dati disponibili, anche non strutturati, che descrivono le strategie messe in atto in passato da un ampio insieme di regioni e il loro effetto su una serie di indicatori rilevanti, il problema che si pone è riuscire a estrarre da tali dati le informazioni necessarie a prendere le decisioni amministrative ottimali.
Un’altra criticità che affligge il momento istruttorio riguarda il fatto che i dati relativi ad altre regioni sono tipicamente utilizzati in modo quantitativo solo ai fini di confronto e monitoraggio (benchmark, secondo la terminologia in uso), mentre ai fini della decisione amministrativa tali dati vengono utilizzati solo in modo qualitativo e manuale, lasciando alla mente umana il compito di estrapolare dai dati l’azione da intraprendere.
Il machine learning, come anticipato nei paragrafi che precedono può abilitare il processo di estrazione di informazioni, e quindi di conoscenza, dai dati. Le tecniche
di machine learning, infatti, permettono di imparare da un numero più o meno limitato di esempi, definiti esempi di addestramento o training, una qualche forma di relazione tra dati rendendo possibile generalizzare tale relazione a nuovi esempi provenienti dalla stessa popolazione degli esempi utilizzati nella fase di addestramento.
In ambito amministrativo il machine learning inizia ad essere impiegato, ma la sua applicazione è spesso limitata a supportare le decisioni per problemi ben definiti37 e non nell’individuazione stessa dei problemi, che rappresenta l’oggetto dell’invenzione e della sperimentazione in Regione Lombardia38. L’analisi della letteratura sul tema mostra infatti come nessuna applicazione vede al centro l’individuazione dei problemi, limitandosi a fornire il supporto alla soluzione di problemi precedentemente identificati in modo manuale dall’uomo.
Una grossa limitazione delle applicazioni correnti delle tecniche di machine learning all’azione amministrativa risiede nell’esaminare solo il territorio di riferimento (i.e i confini amministrativi), identificando quindi, come esempi di una popolazione (comportamenti, abitudini, caratteristiche socioeconomiche e demografiche) le realizzazioni passate di un fenomeno di interesse. Non esiste, quindi, un approccio all’istruttoria amministrativa in cui le decisioni assunte in passato da regioni diverse siano identificate come esempi di un cluster di decisioni e in cui le tecniche di machine learning siano utilizzate per imparare le decisioni future da assumere e il loro impatto su una regione di riferimento39.
Per quanto l’utilizzo di regioni diverse combinate all’uso di tecniche di machine learning sia un approccio totalmente innovativo ai fini di formulazione di decisioni
37 Si v. per esempio l’interessante caso riportato nel lavoro di X. XXXXXXX, X. X. XXXXXXXX, op. cit, in relazione al sistema Prometea applicato agli appalti pubblici nella città di Bunenos Aires.
38 La letteratura sul tema presenta svariati casi in cui si ricorre al machine learnig nell’attività amministrativa, tra questi si veda ad esempio X. XXXXXXXXXX, “Predictive Risk Modelling to Prevent Child Maltreatment and Other Adverse Outcomes for Service Users: Inside the “Black Box” of Machine Learning”, in British Journal of Social Work, 2016, 46(4):1044-1058. L’Autore mostra come le tecniche di Machine Learning possono essere utilizzate per prevedere il rischio di abusi nei minori a partire da una serie di dati amministrativi. Si veda anche X. XXXXXXXXXX, X. XXXX, “Regulating by Robot: Administrative Decision Making in the Machine-Learning”, in Xxxxxxxxxx Law Journal, vol.105, 2017, p. 1147 ss. dove si può leggere una approfondita analisi dello stato dell’arte delle tecniche di machine learning applicate all’ambito politico-amministrativo.
39 Un prerequisito importante per poter imparare da decisioni passate è che esse appartengano allo stesso cluster che si vuole predire. Per poter applicare ed adattare le tecniche di machine learning al processo di formulazione di una decisione amministrativa per una data regione r rispetto a un dato tema, risulta quindi fondamentale identificare quali sono le regioni appartenenti allo stesso cluster della regione r relativamente al tema di interesse.
amministrative, l’analisi del contesto basata sul confronto con un insieme di regioni di riferimento è un approccio comune nel processo di formulazione di atti amministrativi generali. In questo caso l’insieme di regioni di riferimento sono solitamente selezionate in modo manuale in base ad un razionale spesso basato su un qualche concetto di similarità relativamente al tema di interesse. Per esempio, se una regione deve essere analizzata per quanto riguarda il tema mobilità, se tale regione è prevalentemente urbanizzata e con pochi rilievi, nell’identificazione delle regioni da utilizzare per un confronto saranno scartate le regioni tipicamente rurali e con una forte presenza di rilievi. Questa selezione è però spesso fatta in modo qualitativo e non sistematico.
Tra gli approcci algoritmici alla selezione di regioni di riferimento, tra i più degni di nota vi è quello alla base dello strumento per il confronto tra regioni europee sviluppato dall’UE “Benchmarking Regional Structure”, che si basa però esclusivamente su similarità strutturali e che è quindi limitato, per approccio algoritmico, dalla natura fondamentalmente statica dei cluster identificati e dall’impossibilità di integrare variabili puntuali e relative a problemi più specifici su cui si può andare ad agire. I gruppi di regioni estratte in questo modo possono servire come punto di partenza per confronti successivi, ma non possono esaurire il problema40.
Per quanto la disponibilità di tecnologie di open analytics fa sì che i dati a disposizione siano sempre più aggiornati, un’altra significativa limitazione nell’uso dei dati a disposizione risiede nel fatto che tali dati rappresentano al più la situazione presente (ad esempio il dato amministrativo) e non futura, mentre gli atti di
40 Altri approcci metodologici e algoritmici sono stati proposti per confrontare tra di loro diverse regioni. Tra questi si v. X. XXXXXXX, X. X. XXXXXX et al., Regional Benchmarking In The Smart Specialisation Process: Identification Of Reference Regions Based on Structural Similarity, S3 Working Paper Series, 2014, report tecnico relativo alle linee guida S3 (strategia dell’UE per la ricerca), che identificano un framework metodologico e algoritmico per l’individuazione di regioni simili a livello europeo. Gli autori evidenziano la necessità di identificare i vantaggi locali attraverso il confronto sistematico con altre regioni. Si evidenziano dal punto di vista metodologico le principali categorie di variabili, e possibili relative fonti, per identificare similarità tra regioni secondo diversi punti di vista. Viene inoltre presentato un caso più dettagliato, relativo ai Paesi Baschi, che mette in mostra potenzialità e peculiarità della regione in confronto a competitor e regioni vicine. In X. XXXXXX, X. XXXXXX, X. XXXX, X. XXXXXXX, X. XXXXXXX, The Oecd Regpat Database: A Presentation, Working Paper 2008/2, invece, viene documentato il processo di creazione del database REGAPT dell’OECD, che identifica la distribuzione geografica dei brevetti presenti nei maggiori archivi internazionali. Il processo di regionalizzazione, che copre più di 2000 regioni all’interno degli stati afferenti all’OECD, avviene attraverso l’analisi degli indirizzi dei richiedenti, e prevede diverse regole logiche per la disambiguazione nei casi meno chiari. Il database nasce con lo scopo di fornire ai ricercatori uno strumento per indagare l’innovazione a livello regionale.
programmazione, per essere davvero efficaci, devono permettere di anticipare i problemi prima ancora che essi lo diventino.
Per superare in parte tali svantaggi sono stati proposti alcuni approcci metodologici e algoritmici dedicati all’individuazione dei bisogni, e in alcuni casi anche delle potenziali aree di investimento; molti di essi sfruttano i dati provenienti da social media e da dati di navigazione in rete, che rappresentano un ulteriore ed enorme bacino di dati potenzialmente utili nell’analisi dei bisogni, ed utilizzano tecniche di machine learning, tra cui regressione, classificazione, sentiment analysis e natural language processing41.
L’amministrazione, oltre ai limiti descritti nel formulare gli atti amministrativi generali di indirizzo e programmazione, incontra non poche difficoltà a comunicare (rectius, motivare) le scelte adottate, soprattutto laddove si prevede l’allocazione di risorse, ovvero laddove la decisione amministrativa ha un impatto diretto sulle situazioni giuridiche soggettive dei cittadini. L’approccio attuale, fondato su una
41 Tra questi approcci si veda il lavoro di X. Xxxxxxx, K. F. Xxxxxxxxxx, Google Econometrics and Unemployment Forecasting, in Applied Economics Quarterly 55.2, 2009, pp.107-120, in cui viene presentato un possibile utilizzo di Google Trends, per rilevare attraverso tecniche standard di regressione, il tasso di disoccupazione in Germania a partire dall’interesse degli utenti del motore di ricerca verso specifiche keyword. I risultati del modello permettono di rilevare una stima attendibile del tasso di disoccupazione, e di prevedere la sua variazione a breve termine, in modo localizzato geograficamente. Questo approccio è particolarmente interessante perché permette di superare soprattutto il limite dell’obsolescenza dei dati a disposizione. Nell’articolo di X. Xxxxxxxxxxx, X. Xxxxxx, The New Eye Of Government: Citizen Sentiment Analysis in Social Media, in Sixth International Joint Conference On Natural Language, 2013, pp.23 ss., si segnalano invece le potenzialità dei social media nell’attività di Sentiment Analysis dei cittadini da parte di enti governativi. In tale articolo, vengono analizzate le attività di un gruppo di social media (Twitter, Facebook, Flickr, Blog e News Feed), estraendo i contenuti relativi a tematiche rilevanti per un’agenzia di servizi sociali statunitense. Dall’analisi di “hotword” identificate e rilevate per gli argomenti d’interesse, l’articolo mostra nel caso reale l’identificazione di un sentiment negativo verso i ritardi nel rispondere alle domande di sostegno economico per disabilità. Attraverso questa strategia, viene identificato sia un problema sociale, sia un problema specifico organizzativo su cui è possibile andare ad agire, ovvero un’area di investimento. In J. E. Xxxxxxx, X. X. Xxxxxx, X. X. Xxxxxxxx, X. X. Xxxxx, A big data analytics system to analyze citizens perception of security, in Proceedings of the 2016 IEEE International Smart Cities Conference (ISC2’16), IEEE, viene presentato un sistema per l’analisi localizzata e automatica di tweet relativi alla sicurezza del cittadino, applicato alla città di Bogotà in Colombia. Un classificatore binario supervisionato viene utilizzato per classificare i messaggi rilevati in tempo reale dal sistema. Attraverso l’utilizzo del sistema, si costruiscono mappe aggiornate in tempo reale relative alla percezione di sicurezza dei cittadini. Infine, il problema generale di raccogliere, filtrare, trasformare e visualizzare i dati per supportare le persone nel prendere decisioni è comune a numerosi settori, dall’economia aziendale alla medicina, all’interno dei quali sono state proposte soluzioni differenti. Tra queste una delle più affini al metodo sperimentato in Regione Lombardia è quella descritta all’interno del brevetto US2017031958 e specifico per il problema dell’ottimizzazione della performance aziendale.
discrezionalità amministrativa che risente dello stato della conoscenza e spesso privo di una base dati “oggettiva” e conoscibile, impedisce quella trasparenza delle decisioni sempre più richiesta e “desiderata” tanto dagli stakeholder che dagli stessi cittadini, a meno che non vengano affrontati bisogni espressi e comuni alla maggioranza della popolazione.
Il problema si acuisce e diviene ancor più rilevante nel caso di decisioni amministrative che anticipano i bisogni ancora prima che essi siano emersi. In questi casi infatti, l’interesse perseguito, proprio perché latente, potrebbe non essere ancora percepito come meritevole di tutela e quindi non accettato o addirittura non conforme all’interesse pubblico protetto dalla norma di diritto positivo, aprendo un vulnus sul principio di legalità dell’azione amministrativa.
Sempre nell’ambito della comunicazione delle motivazioni che hanno portato alla formulazione di una decisione, anche in presenza di dati oggettivi, specie là dove i dati sono tanti e le relazioni e le regole logico-matematiche tra i dati che hanno portato all’individuazione di un obiettivo (interesse) sono complesse, è particolarmente critico l’aspetto legato all’intellegibilità di una relazione o regola, perché non sempre è sufficiente una visualizzazione grafica di un indicatore o insieme di indicatori per poter cogliere eventuali anomalie o tendenze.
Il modello sperimentale adottato ha pertanto seguito un approccio che permetta di: a) sfruttare la grande mole di dati disponibili, provenienti da fonti eterogenee, che descrivono diversi indicatori e variabili al variare del tempo e dello spazio; b) estrarre da tali dati gli indicatori quantitativi che, opportunamente visualizzati, permettano di individuare obiettivi e interessi adeguati alle esigenze reali ed attuali del territorio, anche in chiave predittiva; c) comunicare in modo intellegibile e oggettivo le decisioni e le motivazioni che hanno portato alla loro adozione; d) monitorare l’andamento dell’attuazione e i risultati attesi; e) rivelare in tempo reale le anomalie per consentire interventi correttivi.
La piattaforma, di proprietà pubblica, e la metodologia di cui si avvale, oggetto di brevetto internazionale43 la cui titolarità è in capo alla Regione Lombardia, garantiscono il rispetto di quei principi di “sovranità digitale” cui si è fatto cenno nel
42 La recente esperienza della pandemia Covid-19 ha mostrato tutti i limiti di un sistema decisionale sempre alla ricerca di una legittimazione e di argomentazioni per motivare le scelte adottate.
43 Il brevetto è registrato all’European Patent Office con il seguente numero progressivo 20168688.8 – 1213. Il proprietario è Regione Lombardia, gli inventori sono X. Xxxxxxxxx, X. Xxxxxxx, X. Xx Xxxxxxx, X. Xxxxxxx, X. Xxxxxxx.
paragrafo 3.1; i tools applicativi supportano l’amministrazione regionale nell’assunzione delle decisioni amministrative e permettono di motivare adeguatamente i provvedimenti della Giunta in relazione alle scelte e strategie adottate, preservando al contempo la discrezionalità politica e amministrativa degli organi titolari delle relative funzioni.
6. Complessità e autonomia della conoscenza per un nuovo bilanciamento tra potere pubblico e interessi privati.
Diversi contributi sul tema, muovendo i passi dagli ambiti di applicazione delle decisioni automatizzate da parte della pubblica amministrazione, a ragione, si sono soffermati sulla natura dell’attività esercitata. E così facendo secondo le categorie classiche della discrezionalità amministrativa, di quella tecnica e dell’attività vincolata, sono giunti a conclusioni diverse. Semplificando e rinviando al dibattito dottrinale in corso, v’è infatti chi ritiene che l’impiego del procedimento algoritmico – senza distinzione tra attività istruttoria e attività decisoria - debba essere confinato all’attività amministrativa vincolata; chi, viceversa, estende l’ambito di applicazione all’attività amministrativa connotata da discrezionalità tecnica, enfatizzando che proprio in tale contesto l’amministrazione può avvalersi di uno strumento automatizzato capace di filtrare conoscenze tecnico scientifiche molto complesse, solitamente appannaggio di saperi esperti estranei all’organizzazione dell’amministrazione procedente. Infine, non mancano contributi che, valorizzando il dettato costituzionale dell’art. 97, vedono proprio nell’attività amministrativa discrezionale lo spazio di applicazione più promettente e vasto delle nuove tecnologie dell’intelligenza artificiale e segnatamente degli algoritmi di machine learning, e ciò in ragione di una legittima aspettativa di contenimento di una discrezionalità che – alla prova dei fatti - si basa sullo stato attuale della conoscenza, o comunque su un bilanciamento di interessi inevitabilmente contaminato dalla tensione tra interesse pubblico primario, interessi pubblici secondari e interessi privati la cui complessità rende la loro composizione non agevole, restituendoci una decisione amministrativa, che pur rispettando i principi generali dell’atto amministrativo e quindi non suscettibile di impugnativa avanti il giudice amministrativo, non è sempre ottimale.
Il dibattito su questo fronte è aperto, tanti capitoli devono ancora essere scritti, soprattutto sul fronte dell’interazione uomo-macchina, che rappresenta certamente la nuova frontiere dell’intelligenza artificiale e per gli amministrativisti la pacificazione
della vexata questio sull’antropomorfizzazione dell’algoritmo.
In questa sede mi vorrei tuttavia soffermare su un aspetto che precede la disamina degli ambiti di applicazione in relazione alla natura dell’attività amministrativa esercitata.
E invero, i paragrafi che precedono, sebbene in estrema sintesi, ci prospettano l’emergere di un nuovo problema: la complessità della conoscenza estratta dai dati, che rappresenta l’altra faccia della medaglia della complessità del “mondo nuovo” chiamato a convivere con l’accelerazione della conoscenza scientifica e tecnologica e la potenza computazionale.
La complessità della conoscenza impone di ripensare la funzione conoscitiva pubblica, tratto quest’ultimo che, da subito, come noto, aveva perso di rilevanza nell’ambito del procedimento amministrativo all’indomani dell’entrata in vigore della l. 241/1990 e s.m.i.
In questo senso, la complessità della conoscenza restituisce centralità e “peso specifico” all’attività istruttoria della pubblica amministrazione e produce un benefico effetto lenitivo della tensione tra gli interessi che si realizza proprio durante l’attività decisoria.
Il Consiglio di Stato, in nuce, sembra cogliere la portata innovativa dell’impiego degli algoritmi nell’ambito del procedimento ammnistrativo proprio quale strumento attraverso il quale “… correggere le storture e le imperfezioni che caratterizzano tipicamente i processi cognitivi e le scelte compiute dagli esseri umani, messe in luce soprattutto negli ultimi anni da un’imponente letteratura di economia comportamentale e psicologia cognitiva”44.
Se vero che il procedimento algoritmico è destinato ad incidere sul processo cognitivo in sede istruttoria, attraverso la distillazione dei dati per il tramite di algoritmi, diviene dunque rilevante interrogarsi sull’autonomia dell’attività (rectius potere) conoscitiva dell’amministrazione, soprattutto nella misura in cui essa è destinata ad incidere sulle situazioni giuridiche soggettive di privati cittadini nella fase decisoria del procedimento.
In altri termini, la decisione amministrativa, allo stato attuale potrà pure restare appannaggio esclusivo dell’uomo e confinata entro gli ambiti dell’attività tipica, ma è impensabile non riconoscere il ruolo di condizionamento sull’agente che la conoscenza algoritmica è destinata ad esercitare. Allo stesso modo, nel contraddittorio con gli interessi privati questa forma nuova di conoscenza, se non
44 Così Cons. St. 04 febbraio 2020, n.881; nello stesso senso v. anche Cons. St. 13 dicembre 2019, n. 8472 ove si osserva che “il ricorso ad algoritmi informatici per l’assunzione di decisioni che riguardano la sfera pubblica e privata si fonda sui paventati guadagni in termini di efficienza e neutralità”.
condivisa e accessibile, è destinata a generare una disparità nel solco del binomio autorità-libertà.
I giudici di Palazzo Spada, pur comprendendo la portata di una nuova forma di conoscenza per l’amministrazione, astrattamente idonea a rispettare quei principi su cui si esercita il sindacato di legittimità, da una parte spostano il confine del rapporto tra tecnologia e diritto, dall’altra non risolvono la tensione interpretativa che si viene a creare tra l’algoritmo, quale nuova forma di conoscenza, e la disciplina generale del procedimento amministrativo46. A ben vedere dunque il sindacato sulla decisione amministrativa, che ha come presupposto una istruttoria algoritmica deve soggiacere ai principi di ragionevolezza, pubblicità, trasparenza, imparzialità e non discriminazione; principi tutti che devono necessariamente essere ripensati nel loro significato in relazione alla regola algoritmica.
In altri termini, la soluzione del problema sembra essere rinviata dal momento che il giudice amministrativo ci chiede di adattare la regola di conoscenza algoritmica ai principi che fino ad oggi hanno retto l’esercizio dell’attività amministrativa, con gli evidenti limiti che questo comporta dal punto di vista della piena intellegibilità del procedimento di conoscenza algoritmica, per vero non dissimile da quanto avviene per la conoscenza umana.
Si aprono dunque nuovi scenari che devono essere esplorati sotto il profilo della diffusione e accessibilità dei dati, trasformati dagli algoritmi in informazioni e dunque in conoscenza, da parte dei cittadini per una maggiore garanzia dell’effettività dei principi di trasparenza e imparzialità dell’azione amministrativa. In questi termini l’amministrazione ha il dovere di produrre una conoscenza autonoma e adeguata dei fatti e delle situazioni alla base delle relative decisioni amministrative; che significa innanzitutto piena sovranità sulla tecnologia impiegata e non solo in termini di competenze rispetto all’uso. Si tratta, dapprima, di superare
45 X. Xxxxxxx, Intelligenza artificiale e diritto, in Giur. It., 2019, 7, pp.1761 ss.
46 X. Xxxxxxxxx, Decisioni pubbliche e algoritmi: modelli alternativi di dialogo tra forme di intelligenze diverse nell’assunzione di decisioni amministrative, in Xxxxxxxxxxx.xx, 22, 2020, p. 252.
la debolezza organizzativa e professionale delle amministrazioni, a partire dal reclutamento di personale alle proprie dipendenze, nel produrre una conoscenza “propria” e “autonoma” sulla realtà che è chiamata ad amministrare. E a maggior ragione proprio in quei procedimenti ad alto tasso di discrezionalità amministrativa, in cui le incognite sono molteplici, la capacità computazionale e predittiva potrà essere di supporto alla ponderazione degli interessi. E ancora in quei procedimenti soggetti a discrezionalità tecnica il procedimento algoritmico offre l’indubbio vantaggio di favorire l’autonomia conoscitiva della pubblica amministrazione anche rispetto agli aspetti tecnico-scientifici.
Il metodo acquisitivo di cui si avvale la conoscenza algoritmica diventa uno strumento molto importante, efficiente e penetrante sotto il profilo istruttorio che permette all’amministrazione di ricostruire i fatti in tutta la loro complessità, riequilibrando nella sostanza, e non nel mero rispetto formale dei principi propri del procedimento amministrativo, il rapporto tra esercizio del potere pubblico e l’insieme degli interessi pubblici (primari e secondari) e privati.
7. Gli algoritmi nei procedimenti di selezione ed esecuzione dei contratti pubblici.
Uno degli ambiti in cui può trovare applicazione il procedimento amministrativo algoritmico, sia in termini di efficienza ed efficacia dell’azione amministrativa che dal punto di vista del rispetto sostanziale dei principi che reggono l’attività dell’amministrazione, è certamente quello dei contratti pubblici.
Già le direttive 23, 24 e 25 del 2014 sui contratti pubblici individuarono, tra gli obiettivi prioritari, la semplificazione da perseguire anche attraverso l’utilizzo di tecnologie informatiche.
Nonostante una indubbia arretratezza terminologica, che ancora faticava ad individuare puntualmente l’insieme delle tecnologie disponibili (machine learning, blockchain etc…), v’era la consapevolezza che le tecnologie digitali avrebbero potuto trasformare radicalmente l’intero ciclo dei pubblici appalti e soprattutto armonizzare le due fasi tipiche di selezione ed esecuzione del contratto. Come noto infatti, non è solo la fase di selezione del contraente, caratterizzata dall’esercizio del potere amministrativo, ad avere un impatto significativo sull’attività amministrativa, soprattutto in termini di composizione degli interessi pubblici e privati rilevanti; anche la fase di esecuzione dei contratti è sempre più connotata da asimmetrie informative che espongono l’amministrazione all’impossibilità di esercitare quelle
funzioni tipiche di controllo sulla corrispondenza tra le obbligazioni assunte e il loro corretto adempimento.
I medesimi obiettivi strategici sono ribaditi nel d.lgs. n. 50/2016 e in molteplici norme di diritto positivo47, come quelle contenute nel Codice dell’Amministrazione Digitale di cui al d.lgs. n. 82/2015 e s.m.i.
Come si è avuto modo di notare nei paragrafi che precedono, si tratta di cambiamenti che vanno ben al di là della mera necessita di adattare la Pubblica Amministrazione al passaggio da un’amministrazione che gestisce file cartacei ad una amministrazione che gestisce file digitali48. E in questo senso si avvertono tutti i limiti di una legislazione positiva che, nell’illusione illuministica, “insegue” la trasformazione digitale della pubblica amministrazione, cui si aggiunge l’incapacità di ripensare i modelli organizzativi e i procedimenti amministrativi secondo il prisma del digitale.
Come sempre accade in questi casi, prima del dato normativo, è l’esperienza che matura in alcuni ambiti, per l’intraprendenza di qualche solerte dirigente, che contamina, dal basso, l’attività delle amministrazioni.
L’applicazione del procedimento algoritmico nella selezione ed esecuzione dei contratti pubblici è destinato a conquistare un ampio spazio, anche e soprattutto in considerazione della crescente complessità degli stessi.
In questo contesto, considerata la finalità esplorativa e strumentale dell’ambito di applicazione considerato, ci si limiterà ad alcuni esempi per una prima rappresentazione del problema.
Il procedimento algoritmico può innanzitutto trovare un impiego generalizzato nell’elaborazione dei bandi di gara e in particolare nella definizione delle condizioni generali e specifiche tecniche nell’acquisizione di beni e servizi o nell’affidamento di lavori49. I benefici attesi sono innegabili sia in termini di efficienza ed efficacia della stazione appaltante - basti pensare agli errori e alle contraddizioni presenti nella lex specialis di gara - che dal punto di vista della trasparenza ed imparzialità, dal momento che il procedimento algoritmico permette di superare le asimmetrie informative della stazione appaltante, e il responsabile del procedimento è sottratto alla tensione degli interessi degli aspiranti aggiudicatari che sovente condizionano proprio la fase preliminare della procedura di selezione.
Un altro ambito di pronta applicazione del procedimento automatizzato, certamente meno innovativo e già ampiamente sperimentato, sebbene in forme e
47 Si pensi per esempio all’art. 3-bis della l. 241/1990.
48 V. In tal senso anche D. U. Xxxxxxx, X. X. Xxxxxxxx, op. cit., p.3.
49 Una esperienza in questi termini è quella della città di Buenos Aires, con il già citato Sistema Prometea, su cui diffusamente D. U. Xxxxxxx, X. X. Xxxxxxxx, op. cit., p. 9.
metodi “artigianali”, riguarda l’esclusione dei concorrenti, per assenza dei requisiti stabiliti dal bando ovvero per anomalia dell’offerta presentata come nel caso deciso dal Tribunale amministrativo per l’Xxxxxx Xxxxxxx, sez. I, con sentenza n. 765/2019. È nei contratti di lavori pubblici che negli ultimi anni abbiamo assistito ad innovazioni significative che armonizzano tutte le fasi del procedimento, dalla progettazione all’esecuzione dei lavori, vero vulnus su cui frequentemente si insinuano le insidie principali di questa tipologia di contratti, si pensi alle riserve e alle varianti molto spesso determinate da una progettazione incompleta o farraginosa che non restituisce lo stato di fatto della nuova opera o di quella su cui si va ad intervenire. In questo contesto, la progettazione, realizzazione e gestione delle opere pubbliche attraverso la modellizzazione dei dati (BIM) permette di avere una rappresentazione della “vita” dell’infrastruttura ex ante, e soprattutto standardizzata rispetto a tutte le sue componenti strutturali, impiantistiche e di sicurezza. Il progetto di una infrastruttura, come noto, comprende opere stradali, strutturali, idrauliche, impiantistiche e opere di mitigazione ambientale. In un progetto BIM, ciò si traduce nella gestione di modelli federati il cui numero può essere nell’ordine delle decine o centinaia di modelli successivamente aggregati in un unico modello. I modelli BIM vengono aggiornati in tempo reale e resi consultabili secondo una frequenza concordata con la Stazione Appaltante. Il Model Checking è la metodologia attraverso la quale è possibile verificare e validare i progetti durante tutte le fasi del processo e si compone di tre attività che seguono la regola algoritmica. La pre-validazione (Pre- check validation) rappresenta l’insieme delle regole preventive sul modello, eseguite mediante un set di regole parametriche, analisi logiche e semantiche, che ne validano il livello di qualità e coerenza interna. Il controllo delle interferenze (Clash Detection) geometriche e dimensionali classificato per ordine di complessità rispetto alle interferenze rilevate. Infine, il Code Checking attraverso il quale si valida il modello comparando i parametri rispetto a normative e codici di riferimento; le informazioni contenute in norme e regolamenti sono tradotte in regole parametriche attraverso il
supporto di un sistema semantico di lettura e interpretazione.
Il piano di gestione delle informazioni (PGI) rappresenta l’elemento contrattuale fondamentale, da adottare in sede di bando di gara, in cui rappresentare l’insieme delle informazioni che devono essere restituite alla stazione appaltante sulla piattaforma digitale interoperabile dalle imprese concorrenti. La sua completezza informativa – quale risultante dall’applicazione della regola algoritmica - è il presupposto della corretta selezione del contraente e rappresenta la base informativa
su cui verificare l’esecuzione del contratto50.
Da ultimo, secondo una scala crescente di complessità, si considerino le opportunità offerte dal procedimento algoritmico nell’ambito dei contratti per l’acquisto di beni e servizi in determinati settori strategici, come per esempio la sanità e l’ambiente, dove la componente del valore assume carattere prevalente rispetto al bene o servizio in sé. In ambito sanitario, per esempio, il dibattito sugli acquisiti da alcuni anni ruota attorno alla teoria della Value Based Healtcare51. Semplificando al massimo si tratta di capire se l’amministrazione sanitaria che acquista farmaci e dispositivi biomedicali per garantire le cure e il diritto alla salute possa condividere con l’azienda fornitrice un obiettivo di qualità (valore) da misurare nel tempo, in termini per esempio di mortalità sopraggiunta, ripetizione dell’intervento chirurgico, durata del dispositivo, efficacia del farmaco in termini di riduzione della mortalità, degli effetti collaterali, etc…
Si tratta in altre parole di mutuare nelle procedure di acquisto, sistemi di valutazione complessi, che partono da indicatori prestabiliti, e che guidano l’intera fase contrattuale, anche successiva alla conclusione della fornitura per quanto attiene al pagamento del premio da parte dell’amministrazione aggiudicatrice. Misurare l’outcome nelle procedure di acquisto in sanità presuppone un procedimento algoritmico complesso capace di gestire simultaneamente una pluralità di dati clinici, dati tecnici del prodotto (sia esso dispositivo o farmaco) e esiti sanitari, che, sapientemente combinati insieme e simultaneamente comparati con altri dati “storicizzati” permettono una valutazione dell’esito clinico e il conseguente diritto a pagare o meno la differenza di prezzo rispetto a quello posto a base della procedura di selezione del contraente.
8. Decisione amministrativa ottimale e garanzie irrinunciabili, anche in sede giurisdizionale.
L’impiego del procedimento algoritmico per assumere decisioni amministrative
50 L’impiego da parte delle stazioni appaltanti di queste procedure è incentivato dalla previsione di cui all’art.23 comma 13 del D.lgs. n.50/2016. Il DM n.560 del 1 dicembre 2017 (Decreto Baratono) definisce le modalità e i tempi di progressiva introduzione, da parte delle stazioni appaltanti, delle amministrazioni concedenti e degli operatori economici, dell’obbligatorietà dei metodi e degli strumenti elettronici specifici, quali quelli di modellazione per l’edilizia e le infrastrutture, nelle fasi di progettazione, costruzione e gestione delle opere e relative verifiche.
51 Diffusamente sul punto si v. X. Xxx, X. Xxxxxx, X.X. Xxxxxxxx, X. Xxxxxxx, Modelli sanitari e Value Based Health Care System. I possibili sviluppi nell’ordinamento italiano, Xxxx, 0000.
rappresenta un indubbio vantaggio per la pubblica amministrazione. Per le ragioni più sopra esposte e, in estrema sintesi, perché consente di ridurre i tempi e gli errori tipici della fase istruttoria e aumenta esponenzialmente l’autonomia e la base di conoscenza a partire dalla quale poter assumere le decisioni.
La conoscenza algoritmica favorisce l’assunzione di decisioni amministrative ottimali, perché permettono di bilanciare la pluralità degli interessi storicizzati (pubblici e privati), ma anche di quelli futuri, destinati ad interferire sull’impatto della decisione amministrativa nel tempo.
La cultura e la conoscenza prodotte dall’algoritmo richiedono ancora di essere problematizzati, sotto molteplici punti di vista e in primis etico e filosofico, ma anche del diritto. E come sempre, la spinta dell’innovazione non attende che si sia esaurita, nè mai lo sarà, la riflessione teorica.
Conviviamo quotidianamente con queste macchine culturali, nell’inconsapevolezza dei più, e la pubblica amministrazione può solo decidere se subire questa nuova forma di conoscenza o impiegarla nell’interesse esclusivo delle persone e della comunità, senza rinunciare ad alcune garanzie essenziali.
Una decisione amministrativa che si avvicini il più possibile alla decisione ottimale deve prevedere innanzitutto garanzie procedimentali, nei termini secondo cui le risultanze del procedimento algoritmico sono propriamente elementi di fatto che concorrono alla completezza del quadro istruttorio sulla base del quale è possibile assumere la decisione.
Devono altresì essere assicurate garanzie di trasparenza, sul corretto funzionamento dell’algoritmo e sui dati che vengono distillati, e l’imparzialità del suo utilizzo.
Fondamentale importanza rivestono poi le garanzie organizzative, soprattutto in termini di attribuzione del potere a soggetti definiti e qualificati in termini di competenze e “dominio” della tecnologia, nei termini più sopra chiariti.
Uno spazio deve essere infine riservato alle garanzie giurisdizionali, assicurando una sindacabilità sulle finalità, l’appropriatezza e la proporzionalità nell’utilizzo del procedimento algoritmico, senza tuttavia incorrere nel rischio, autorevolmente paventato, di modificare il rapporto tra pubblica amministrazione e giudice “a tutto vantaggio di quest’ultimo nella valutazione della correttezza delle relazioni intersoggettive tra cittadino e potere pubblico”52.
52 Così X. Xxxxxxx Xxxxxx, La decisione robotica e il giudice amministrativo, in xxxx://xxx.xxxxxxxxx-xxxxxxxxxxxxxx.xx, 28/08/2018, p.5.