Sistemi d’arma autonomi: limiti di legalità al loro impiego nei conflitti armati e potenziali ricadute sugli appalti della difesa

“L’arresto agli armamenti a scopi bellici, la loro effettiva riduzione, e, a maggior ragione, la loro eliminazione sono impossibili o quasi, se nello stesso tempo non si procedesse ad un disarmo integrale; se cioè non si smontano anche gli spiriti, adoprandosi sinceramente a dissolvere, in essi, la psicosi bellica: il che comporta, a sua volta, che al criterio della pace che si regge sull’equilibrio degli armamenti, si sostituisca il principio che la vera pace si può costruire soltanto nella vicendevole fiducia.”

Papa Giovanni XXIII, Enciclica ‘Pacem in terris’, 11 aprile 1963, par. 61

1. Premessa

1.1 L’Intelligenza Artificiale ed i sistemi d’arma

Com’è noto il Regolamento UE 2024/1689, che stabilisce nell’Unione Europea regole armonizzate sull'Intelligenza Artificiale, all’art. 2, par. 3, secondo periodo stabilisce che esso “non si applica ai sistemi di IA se e nella misura in cui sono immessi sul mercato, messi in servizio o utilizzati con o senza modifiche esclusivamente per scopi militari, di difesa o di sicurezza nazionale, indipendentemente dal tipo di entità che svolge tali attività”. Risultano così esclusi, con un’amplissima formulazione, proprio quegli ambiti dell’operare del potere costituito dov’è tradizionalmente più discrezionale (e facilmente arbitrario) il suo funzionamento, più frequenti gli abusi, quando il governo si allontani dalla sua base democratico-popolare, e quindi più intensa l’esigenza di controllo democratico-costituzionale. Ciò in Italia si traduce, per esempio, nel testo costituzionale, in termini di proiezione finalistica, in quell’articolo 11 in virtù di cui l’Italia ripudia la guerra come strumento di offesa alla libertà degli altri popoli e come mezzo di risoluzione delle controversie internazionali, così da indirizzare la vocazione delle forze armate alla difesa della Patria, sacro dovere del cittadino (articolo 52) e non alla soddisfazione di potenziali nuove velleità imperialistiche, traducendosi, in termini di garanzie procedurali, in quell’articolo 78 che conferisce al Governo poteri atipici necessari ad affrontare la situazione esclusivamente in stato di guerra, previa deliberazione delle Camere.

In Italia, il Legislatore, ai sensi del combinato disposto dell’art. 6, comma 1 e dell’art. 3, comma 4 della legge n. 132/2025, in tema di “Disposizioni e deleghe al Governo in materia di Intelligenza Artificiale”, ha quantomeno stabilito che le attività che implicano, tra l’altro, lo sviluppo o l’impiego di sistemi di IA da parte di forze armate e servizi segreti nazionali:

• devono comunque rispettare i diritti fondamentali e le libertà previste dalla Costituzione;
• non devono pregiudicare lo svolgimento con metodo democratico della vita istituzionale e politica e l'esercizio delle competenze e funzioni delle istituzioni territoriali sulla base dei principi di autonomia e sussidiarietà e non devono altresì pregiudicare la libertà del dibattito democratico da interferenze illecite, da chiunque provocate, tutelando gli interessi della sovranità dello Stato nonché i diritti fondamentali di ogni cittadino riconosciuti dagli ordinamenti nazionale ed europeo.

In ogni caso, al netto delle esclusioni dall’ambito di applicazione delle leggi europee e nazionali sull’IA, resta aperta la questione, oggetto del presente saggio, se siano rinvenibili nell’ordinamento giuridico limiti di legalità più stringenti e precisi allo sviluppo, alla fabbricazione e all’impiego di sistemi d’arma a guida autonoma.

In primo luogo, occorre domandarsi: è possibile, dall’analisi delle regole internazionali

• individuare norme consuetudinarie o convenzionali che vietino tout court l’impiego di questi sistemi d’arma?
• in caso di risposta negativa a questa prima domanda, è comunque possibile stilare, traendole dal diritto internazionale umanitario, una serie di regole minime vincolanti che debbono essere implementate nei sistemi d’arma autonomi per non cadere nella violazione del diritto internazionale vigente?

Premesse queste considerazioni, un’azienda privata avente sede in Italia e autorizzata, conformemente al quadro normativo vigente in Italia e nell’UE, a progettare armi, esportarle all’estero o a collaborare con entità straniere per la realizzazione di sistemi d’arma è libera dai prefati vincoli, oppure deve tenerne necessariamente conto a prescindere dalla località nella quale i sistemi d’arma saranno fabbricati e poi dislocati?

Inoltre, se discendessero vincoli dalle risposte alle domande precedenti e, tuttavia, fossero comunque realizzati sistemi d’arma autonomi non conformi, quali responsabilità potrebbero sorgere in capo all’azienda produttrice e al suo personale (in primis agli amministratori di queste società e al personale dirigente)?

Infine, e per chiudere il cerchio, l’applicazione delle norme del diritto umanitario – quali regole di comportamento dei sistemi d’arma a guida autonoma – dovrebbe altresì costituire un prerequisito per l’acquisto o l’impiego di qualsiasi sistema d’Intelligenza Artificiale da parte delle nostre Forze Armate?

Nel presente saggio, cercheremo di ipotizzare risposte proprio a queste domande, senza pretesa né di definitività, né di esaustività.

1.2 Alcuni punti di riferimento normativi

Ai fini della redazione del presente articolo, sono state prese in considerazione, in particolare, le seguenti convenzioni e/o trattati internazionali relativi allo ius in bello (d’ora in avanti dette anche più semplicemente nel loro insieme C/T):

• Convenzione internazionale dell’Aja concernente le leggi e gli usi della guerra terrestre con relativo regolamento (L’Aja, 29 luglio 1899);
• Convenzione concernente le leggi e gli usi della guerra per terra con regolamento (L’Aja, 18 ottobre 1907);
• Convenzione di Ginevra per migliorare la sorte dei feriti e dei malati delle forze armate in campagna (Ginevra, 12 agosto 1949)[1];
• Convenzione per migliorare la sorte dei feriti, dei malati e dei naufraghi delle forze armate di mare (Ginevra, 12 agosto 1949);
• Convenzione di Ginevra relativa al trattamento dei prigionieri di guerra (Ginevra, 12 agosto 1949);
• Convenzione di Ginevra per la protezione delle persone civili in tempo di guerra (Ginevra, 12 agosto 1949);
• Convenzione per la protezione dei Beni Culturali in caso di conflitto armato (L’Aja, 14 maggio 1954), con i relativi due protocolli del 1954 e del 1999;
• Convenzione sul divieto dell'uso di tecniche di modifica dell'ambiente a fini militari o ad ogni altro scopo ostile (Ginevra, 18 maggio 1977);
• Protocollo aggiuntivo alle convenzioni di Ginevra del 12 agosto 1949 relativo alla protezione delle vittime dei conflitti armati internazionali (Ginevra, 8 giugno 1977,);
• Convenzione sulle armi disumane, o Convenzione sulla proibizione o la limitazione dell'uso di alcune armi convenzionali che possono essere considerate eccessivamente dannose o aventi effetti indiscriminati (CCW)(Ginevra, 10 ottobre 1980), con i relativi protocolli;
• Trattato sulle forze armate convenzionali in Europa (Parigi, 19 novembre 1990, modificato attraverso l’accordo di adattamento di Istanbul del 19 novembre 1999), facendo seguito ai precedenti negoziati SALT I e SALT II;
• Trattato sui cieli aperti (Helsinki, 24 maggio 1992);
• Accordo sul controllo armamenti sub-regionale (Firenze, 14 giugno 1996)
• Convenzione internazionale per la proibizione dell'uso, stoccaggio, produzione, vendita di mine antiuomo e relativa distruzione (Ottawa, 3 dicembre 1997);
• Protocollo aggiuntivo relativo all'adozione di un emblema distintivo aggiuntivo, Ginevra, 8 dicembre 2005;
• Convenzione internazionale sulle bombe a grappolo (Oslo, 3 dicembre 2008);
• Trattato sul commercio delle armi (ATT) (New York, 2 aprile 2013);

Si consideri, altresì, il Meeting of the High Contracting Parties to the Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects (Ginevra, 13–15 novemre 2019) con particolare riguardo all’Annex III, Guiding Principles affirmed by the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons System.

Come si noterà, tra i documenti sopra elencati mancano tutti quelli che si occupano di sistemi d’arma nucleari, biologici e chimici: ciò in quanto si è inteso delimitare il perimetro del presente lavoro ai soli sistemi d’arma convenzionali che, peraltro, sono quelli di uso comune negli attuali conflitti bellici.

Con riferimento a tali accordi, si è, quindi, posto il problema che lo Stato (in primis l’Italia) che risulti contraente di dette C/T, quando impiega un sistema d’arma autonomo, sia preventivamente tenuto a verificare (presumibilmente al momento dell’acquisizione o della progettazione del sistema e, quindi, prima di sostenere la relativa spesa; nonché, in ogni caso, prima dell’utilizzo) che lo stesso includa soluzioni tecnologiche idonee ad assicurare che, durante l’impiego in ordinarie e straordinarie condizioni operative, esso non violerà, presumibilmente, le disposizioni delle precitate norme di diritto internazionale. Pertanto, appare evidente che uno Stato contraente alle C/T non possa lecitamente impiegare sistemi d’arma a guida autonoma che non garantiscano il rispetto dello ius in bello, risultando altrimenti lo Stato medesimo responsabile delle violazioni delle C/T compiute dai precitati sistemi d’arma.

In aggiunta a quanto sopra scritto, si ritiene utile rammentare quanto esposto, proprio in materia di sistemi d’arma a guida autonoma, dal Segretario Generale dell’ONU[2], il quale identifica in senso più ampio il quadro normativo di riferimento che occorrerebbe considerare ai fini di valutare la conformità di detti sistemi al diritto internazionale, ricomprendendovi: “The Charter of the United Nations; Customary international law; International humanitarian law; International human rights law; International criminal law; The law of State responsibility”.

1.3 Il contesto politico internazionale

Un’ulteriore riflessione iniziale è necessaria: il contesto di politica internazionale in cui si inquadrano le problematiche giuridiche di cui si dà conto nel presente articolo. A fronte della prospettiva di un crescente impiego nei conflitti[3], di armi che assumono autonomamente la decisone letale, la strada più conforme al percorso storico di messa al bando di questi sistemi d’arma sarebbe il loro divieto di fabbricazione e d’impiego per via convenzionale[4], come da decenni si è riusciti a fare per le armi chimiche e biologiche. Così, nel 2015, un appello per il bando internazionale riscosse un amplissimo consenso scientifico internazionale, a partire da studiosi di Intelligenza Artificiale e arrivando a coinvolgere accademici del profilo di Stephen Hawking, stigmatizzando le possibili conseguenze di una corsa alle armi IA[5]. Eppure, dopo 11 anni, il dibattito sull’adozione di un siffatto accordo ad hoc in tema di sistemi d’arma autonomi, o quantomeno di una sua variante attenuata, sono ancora in alto mare, palesando una fase di serio stallo diplomatico della comunità internazionale, caratterizzata da reciproca intensa sfiducia, con alcuni attori che si affidano alle armi come opzione principale e il riaffiorare nell’attualità di atroci spettri come quello del genocidio. Se sul finire del XIX secolo la potenza revisionista per eccellenza, desiderosa di rovesciare il paradigma ordinatore dello jus publicum europaeum, erano gli Stati Uniti d’America, oggi invece la transizione si delinea proprio nel tramonto di questa potenza, in favore di nuovi attori geopolitici, con il relativo portato di altre visioni e altri sistemi di ‘regole del gioco’.[6]

L’attuale fase di assestamento verso un ordine multipolare, dopo la fase bipolare e la parentesi unipolare, è ancora una fase di equilibrio incerto, di concorrenza tra una visione del mondo fondata sui principi di sovranità, non ingerenza, pluralismo politico e civilizzazionale, e la contrapposta pretesa universalistica dell’unipolarismo liberale, rimasta a fondamento dell’approccio politico dell’Occidente collettivo: in questo scontro tra visioni sussiste intanto una struttura fluida e in divenire, in cui coesistono più centri decisionali – statali, regionali o istituzionali – con capacità di influenza variabili e spesso conflittuali[7]. Può osservarsi che “se il Novecento vide l’emersione dei popoli attraverso la decolonizzazione, il XXI secolo appare segnato dal progressivo consolidamento di grandi complessi geopolitici e di civiltà entro i quali tali popoli organizzano la propria presenza sulla scena internazionale”[8]. Tale consolidamento – in cui la riemersione di più o meno vecchi blocchi geopolitici e nuove configurazioni di alleanze a geometria variabile si affianca all’emergere di mega-imprese transnanzionali con capacità economiche e di influenza politica pari o superiore a Stati, divenute veri e propri attori geopolitici – non avviene soltanto né soprattutto con modalità conciliative, tra le potenze emergenti e quelle in declino, le cui velleità imperiali appaiono frustrate dai mutati rapporti di forza: sicché il diritto, nei rapporti e nelle ri-articolazioni tra Stati, non è soltanto strumento di composizione dei conflitti, bensì, in “una contesa vasta, multidimensionale, omnidirezionale, combattuta anche con mezzi non tradizionali e ibridi”[9], è in primis strumento di conflitto, in un contesto di estrema flessibilità in cui il diritto si pone immediatamente a ridosso del fatto, il dover essere dell’essere, perdendo in autonomia ontologica come paradigma ordinatore di civiltà. In tale contesto, ciò che appare carente è proprio quell’autorevolezza del diritto in quanto strumento che – senza illusioni di assoluta oggettività e terzietà, essendo lo ius certamente non da oggi una fabbrica di narrazioni e contro-narrazioni del potere[10] – in tempi storici di equilibri di forze più stabili e definiti ne faceva comunque più facilmente un terreno tecnico di sintesi potenziale tra diversi anche su temi delicati e divisivi, in presenza di interessi strategici distanti; laddove oggi il diritto si fa strumento più che struttura dell’equazione politico-strategica, in un contesto di giuridificazione caotica di sempre più interazioni commerciali ed economiche, per cui il lawfare è pienamente complementare e spesso congiunto all’uso della forza bellica nel conseguimento di posizioni di vantaggio di varia natura[11].

Eppure, da questo quadro fosco non si vuole in alcun modo inferire che il giurista, erede di una lunga tradizione umanistica, debba arrendevolmente abdicare al proprio compito e farsi, ciascuno a casa propria, mercenario del partito domestico della guerra, mettendo la propria arte al servizio retorico-argomentativo delle tendenze più autodistruttive della nostra specie. Tanto più ardua è la funzione del giurista in quanto la vocazione umanistica, con l’idea dell’essere umano in quanto fine e non in quanto mezzo, ne implica uno schieramento partigiano per la pace e per la concordia, consapevole della necessità impellente di “nuove forme di neutralizzazione del conflitto”[12] e di doversi conseguentemente farsi portatore, all’interno e all’esterno del proprio sistema, di istanze di civiltà.

2. Che cosa s’intende per un sistema d’arma a guida autonoma

Occorre premettere che non esiste, allo stato attuale, una definizione internazionalmente condivisa e univoca di sistema d'arma a guida autonoma (Autonomous Weapon System, AWS). Le diverse definizioni elaborate in ambito istituzionale, accademico e della società civile adottano, infatti, criteri differenti: alcune si concentrano sulle caratteristiche tecnologiche del sistema, altre sul ruolo dell'operatore umano e altre ancora sulle funzioni che il sistema è in grado di svolgere autonomamente. Per comprendere quando un sistema possa essere qualificato come Autonomous Weapon System è particolarmente utile fare riferimento al concetto di “critical functions”, elaborato dall’International Committee of the Red Cross (ICRC)[13]. L’attenzione, in questa prospettiva, non viene posta sulla tecnologia specificamente utilizzata dal sistema – né, quindi, sulla mera presenza di Intelligenza Artificiale o machine learning – bensì sulle funzioni che il sistema è in grado di svolgere autonomamente nel processo di targeting.

Le critical functions possono essere ricondotte a due grandi momenti funzionali: la selezione del bersaglio (selection) e l’ingaggio del bersaglio mediante l’applicazione della forza (engagement).

La funzione di selezione comprende, in particolare, le attività di:

• search for or detect, ossia ricercare o rilevare potenziali obiettivi nell’ambiente operativo;
• identify, ossia identificare o classificare ciò che è stato rilevato secondo le caratteristiche rilevanti per il sistema;
• track, ossia seguire e monitorare il potenziale obiettivo nel tempo, aggiornandone posizione e caratteristiche;
• select, ossia selezionare, tra gli oggetti o soggetti rilevati e identificati, quello o quelli che saranno sottoposti alla successiva applicazione della forza.

 

La seconda funzione critica è costituita dall’ingaggio (engagement), che riguarda l’effettiva applicazione della forza contro il bersaglio. Essa può comprendere, a seconda della configurazione del sistema, l'uso della forza per neutralizzare, danneggiare o distruggere il bersaglio (use force against, neutralize, damage or destroy).

La rilevanza di queste funzioni deriva dal fatto che un sistema non diviene autonomo semplicemente perché è capace di percepire l’ambiente o di eseguire automaticamente un determinato comando. L’elemento decisivo è stabilire se e in quale misura la macchina sia stata autorizzata a svolgere o comunque svolga autonomamente le funzioni attraverso le quali viene determinato contro quale obiettivo applicare la forza.

In altri termini, occorre distinguere tra: percezione dell’ambiente → elaborazione delle informazioni → selezione del bersaglio → applicazione della forza.

Un sistema può essere autonomo nella prima fase, ad esempio rilevando e classificando automaticamente oggetti, senza per questo essere necessariamente un AWS. Se, invece, il sistema è in grado di utilizzare autonomamente tali informazioni per selezionare uno specifico bersaglio e successivamente applicare la forza contro di esso, senza che un operatore umano intervenga nuovamente tra l'attivazione del sistema e l'ingaggio, si entra nel nucleo concettuale degli AWS[14].

Ai fini della presente indagine, pertanto, non si intende proporre una definizione ontologica o universalmente valida di AWS, bensì adottare una nozione funzionale, sufficientemente precisa da consentire di delimitare l’oggetto dell’analisi.

In questa prospettiva, può essere assunta come punto di riferimento la definizione elaborata dall’International Committee of the Red Cross (ICRC), secondo cui un sistema d’arma autonomo è un sistema che, dopo l’attivazione o il lancio da parte di una persona, è in grado di selezionare e applicare la forza contro uno o più obiettivi senza un ulteriore intervento umano, sulla base delle informazioni provenienti dall’ambiente e confrontate con un generalized target profile[15]. Una formulazione analoga, sebbene proveniente da una prospettiva diversa, è quella di Human Rights Watch (HRW), secondo cui gli AWS selezionano e ingaggiano i bersagli sulla base dell’elaborazione dei dati acquisiti dai sensori anziché sulla base di un input umano relativo allo specifico bersaglio[16]. Da tali definizioni emerge un elemento centrale: l’autonomia rilevante non coincide con la mera capacità del sistema di muoversi, navigare, riconoscere oggetti o svolgere automaticamente determinate operazioni, ma riguarda soprattutto la possibilità che il sistema assuma, senza un’ulteriore decisione umana, una funzione essenziale nella selezione e nell’applicazione della forza[17].

È anzitutto necessario distinguere i sistemi d’arma autonomi (Autonomous Weapon Systems, AWS) dai sistemi d’arma letali autonomi (Lethal Autonomous Weapon Systems, LAWS).

La nozione di AWS costituisce, infatti, la categoria più ampia: comprende sistemi dotati di autonomia nelle funzioni rilevanti per l’impiego della forza, indipendentemente dal fatto che tale forza sia necessariamente letale. La nozione di LAWS è invece più specifica e pone l’accento sull’impiego autonomo della forza letale, in particolare nei confronti di persone[18].

La distinzione non è meramente terminologica. Un sistema autonomo può, almeno concettualmente, essere impiegato anche per applicare una forza non letale o per agire contro obiettivi materiali. Il Department of Defense statunitense, ad esempio, definisce l’autonomous weapon system senza limitare la nozione alla forza letale, comprendendo l’applicazione di forza sia letale sia non letale, cinetica o non cinetica[19].

Nel presente lavoro si utilizzerà pertanto, salvo quando sia necessario evidenziare specificamente la dimensione letale, il termine AWS come categoria generale, mentre LAWS sarà utilizzato per indicare la più specifica sottocategoria dei sistemi autonomi destinati all’impiego della forza letale.

Una seconda distinzione, indispensabile per evitare sovrapposizioni concettuali, riguarda le nozioni di automatico (automatic), automatizzato (automated) e autonomo (autonomous).

Sono automatiche le armi che si attivano al verificarsi di una determinata condizione o combinazione di condizioni prestabilite. Un esempio paradigmatico è costituito dalle mine. Una mina può essere progettata per detonare al verificarsi di un determinato evento fisico, quale una pressione o un contatto. Ciò non implica, tuttavia, che essa disponga di una capacità autonoma di individuazione e selezione di un bersaglio nel senso proprio degli AWS.

Non è quindi corretto qualificare automaticamente una mina come AWS per il solo fatto che, una volta posizionata, l’attivazione possa avvenire senza un ulteriore intervento umano. Lo stesso Department of Defense, nella propria direttiva sull’autonomia nei sistemi d’arma, esclude espressamente le mine dall’ambito di applicazione della disciplina sugli autonomous weapon systems[20].

Le armi automatizzate, invece, eseguono funzioni sulla base di una logica computazionale precedentemente progettata. Tale logica può essere molto complessa e può includere algoritmi di classificazione, sistemi di inseguimento (tracking), filtri, soglie decisionali, logiche if-then, modelli matematici, sistemi di controllo, algoritmi di ricerca e altre procedure computazionali.

La caratteristica distintiva è che la relazione tra input e comportamento del sistema rimane sostanzialmente vincolata alla logica e agli stati operativi previsti in fase di progettazione e validazione. L’automazione e l’assenza di una decisione umana successivamente all’attivazione del sistema d’arma, pertanto, non equivale necessariamente ad autonomia[21].

L’ordinamento internazionale non offre una chiara definizione tra sistemi d’arma automatizzati e autonomi.

Fermo restando che entrambe le categorie di armi devono rispettare il diritto internazionale umanitario, l’imputabilità del loro comportamento agli operatori umani potrebbe, invece, giungere a conclusioni non perfettamente coincidenti, poiché il nesso causale tra comportamento attivo o omissivo umano e la violazione del diritto internazionale può differenziarsi nelle due differenti tipologie di sistemi d’arma.

Non si tratta, tuttavia, di una lacuna del diritto applicabile ai sistemi d’arma in quanto tali, ai quali il diritto internazionale umanitario continua ad applicarsi, quanto piuttosto di una lacuna definitoria e regolatoria nella qualificazione del diverso grado di autonomia del sistema e nel collegamento tra tale qualificazione e gli specifici obblighi giuridici applicabili.

I sistemi autonomi presentano un più elevato grado di libertà nell’esecuzione della funzione assegnata rispetto a quelli autonomatizzati. Il sistema autonomo può selezionare tra diverse azioni possibili sulla base degli input ricevuti dall’ambiente e delle condizioni operative, senza che ogni singola azione sia previamente determinata da un comando umano.

UNIDIR ha sottolineato proprio questo profilo, osservando che l’autonomia è spesso associata a una maggiore libertà d’azione rispetto all’automazione, mentre quest’ultima è caratterizzata da un rapporto più diretto e meccanicistico tra input e output. Ciò non significa, tuttavia, che ogni sistema autonomo sia necessariamente imprevedibile o che ogni sistema automatizzato sia necessariamente prevedibile in senso assoluto[22].

La relazione tra IA, autonomia e AWS può essere sintetizzata nella formula: IA ≠ autonomia ≠ AWS.

L’IA costituisce una tecnologia abilitante che può essere incorporata in un sistema autonomo, ma non costituisce di per sé il criterio giuridico o tecnico per qualificare un sistema come AWS. Il punto qualificante è la funzione che essa svolge nella catena decisionale e, in particolare, se contribuisca o meno alla selezione e all’ingaggio del bersaglio senza un’ulteriore decisione umana.

Pertanto è possibile individuare quattro diverse configurazioni operative:

1. Sistema automatizzato senza IA: opera eseguendo sequenze rigide di istruzioni predefinite basate su algoritmi deterministici e regole fisse (rule-based), senza margine di adattamento dinamico.
2. Sistema autonomo senza IA: è in grado di selezionare ed eseguire un'azione nell'ambito delle sue critical functions (es. ingaggio di un vettore nemico) sulla base di soglie fisiche e parametri ambientali preprogrammati, ma senza impiegare algoritmi di apprendimento automatico.
3. Sistema automatizzato che utilizza IA: impiega modelli d'Intelligenza Artificiale per ottimizzare compiti specifici e vincolati (quali la navigazione, la sorveglianza o il riconoscimento di pattern), mantenendo tuttavia una sequenza operativa rigidamente eterodiretta o priva di delega autonoma sulle critical functions.
4. Sistema autonomo che utilizza IA: combina la capacità dell'IA di analizzare contesti complessi e dinamici con la delega ad assumere decisioni autonome di selezione ed eventuale ingaggio del bersaglio senza un successivo e diretto intervento umano.

Questa distinzione è essenziale perché impedisce di identificare impropriamente qualsiasi sistema militare dotato di IA con un AWS.

I sistemi automatizzati sono impiegati in ambito militare da diversi decenni, soprattutto in funzioni quali la difesa contro minacce in arrivo, il tracciamento di obiettivi, la guida terminale e la protezione attiva delle piattaforme. Alcuni sistemi possono infatti acquisire, classificare e inseguire automaticamente un obiettivo senza che ciò comporti necessariamente la selezione autonoma del bersaglio nel senso richiesto dalla definizione di AWS. L’ICRC cita, tra gli esempi di sistemi con autonomia nelle funzioni critiche, alcuni sistemi di difesa aerea, sistemi di protezione attiva e determinate munizioni. Come accennato, la differenza rispetto a un sistema autonomo risiede pertanto nel grado e nell’oggetto dell’autonomia[23]. Un sistema automatizzato può ricevere un input, elaborarlo secondo una funzione prestabilita e produrre un output senza che l’operatore debba intervenire in ogni passaggio. Un sistema autonomo può invece disporre di una maggiore capacità di determinare quale azione intraprendere tra più alternative possibili, in relazione agli input acquisiti e allo stato dell’ambiente.

È quindi preferibile non affermare che il sistema automatizzato sia sempre “prevedibile” e quello autonomo sempre “imprevedibile”. La distinzione scientificamente più corretta riguarda piuttosto la prevedibilità, il grado di libertà d’azione, l’adattabilità e la possibilità di anticipare il comportamento del sistema in condizioni operative variabili[24].

L’adattabilità assume particolare rilevanza quando il sistema deve operare in ambienti dinamici. Un sistema autonomo può infatti utilizzare continuamente nuovi dati provenienti dai propri sensori per aggiornare la propria rappresentazione dell’ambiente, modificare il proprio comportamento e perseguire l’obiettivo assegnato secondo una politica decisionale incorporata nel sistema. È tuttavia necessario precisare che l’adattamento non implica necessariamente apprendimento durante la missione. Un sistema può essere autonomo perché seleziona dinamicamente le proprie azioni sulla base di dati ambientali pur utilizzando un modello già addestrato o una logica decisionale preesistente. L’eventuale apprendimento in tempo reale costituisce, pertanto, una possibile modalità di adattamento, ma non un requisito generale dell’autonomia.

Una particolare forma di autonomia può emergere anche dall'interazione di più agenti organizzati secondo un paradigma di sciame (swarm), in cui il comportamento collettivo e l'autonomia sistemica scaturiscono dalla cooperazione dinamica e distribuita tra più unità relativamente semplici. Occorre infine tenere distinti gli AWS dai sistemi di supporto alle decisioni basati sull’IA (AI Decision-Support Systems, AI-DSS). Negli AWS, la catena decisionale (percezione → elaborazione → selezione → ingaggio) si conclude con l'applicazione autonoma della forza. Negli AI-DSS, invece, la sequenza si arresta all'elaborazione e fornitura di analisi e raccomandazioni a favore di un operatore umano, al quale rimane riservata la decisione sull'attacco. Pur non essendo AWS in senso stretto, gli AI-DSS presentano rilevanza per l'analisi giuridica in ragione del rischio di automation bias, ossia dell'influenza determinante che raccomandazioni algoritmiche altamente sofisticate possono esercitare sulla condotta del decisore umano.

Alla luce di quanto precede, possono essere individuate tre caratteristiche funzionali particolarmente rilevanti:

1. capacità percettiva, consistente nella capacità di acquisire informazioni dall’ambiente mediante sensori e altre fonti informative e di utilizzarle per costruire o aggiornare una rappresentazione dello scenario operativo;
2. capacità di elaborazione e adattamento, consistente nella capacità di correlare gli input acquisiti con la missione, il profilo del bersaglio, i vincoli operativi e lo stato dell’ambiente, selezionando conseguentemente una condotta tra quelle disponibili;
3. capacità autonoma di selezione e applicazione della forza, consistente nella possibilità che il sistema determini quale obiettivo ingaggiare e/o quando e come applicare la forza senza un'ulteriore decisione umana sullo specifico bersaglio.

 

È soprattutto il terzo elemento a risultare decisivo per la qualificazione di un sistema come AWS. Nel caso degli AI-DSS, l'elaborazione non si traduce direttamente nell'applicazione della forza, bensì nella modifica delle analisi e delle raccomandazioni fornite al decisore[25].

L'impiego operativo dei sistemi d'arma a guida autonoma ha segnato un passaggio fondamentale nei recenti contesti di conflitto. Un caso ampiamente citato quale primo potenziale impiego documentato di un AWS sul campo è avvenuto in Libia il 27 marzo 2020, nell'ambito del conflitto tra le forze del generale Haftar e quelle del governo di al-Sarraj. In tale occasione è stato segnalato l'uso di uno sciame di droni (sistemi quadrirotori STM Kargu-2 di fabbricazione turca dal peso di circa sette chilogrammi), impiegati per tracciare e ingaggiare le milizie avversarie con elevati gradi di autonomia nelle fasi operative[26].

3. Perché si utilizzano i sistemi d’arma a guida autonoma

I sistemi d'arma autonomi (AWS) vengono ricercati e impiegati principalmente per la capacità di ingaggiare il bersaglio azzerando o riducendo drasticamente il rischio diretto per gli operatori umani della forza attaccante.

Sul piano operativo, la catena funzionale di un AWS si articola in cinque fasi fondamentali:

1. Percezione e fusione dei dati: integrazione dei dati acquisiti dai sensori di bordo per costruire una mappa tridimensionale e aggiornata dello scenario operativo.
2. Riconoscimento e tracciamento del bersaglio: rilevamento, identificazione e classificazione automatica degli obiettivi e stima del livello di minaccia.
3. Processo decisionale d'ingaggio: valutazione della condotta di attacco nel rispetto delle regole di ingaggio preimpostate e stima dei danni collaterali.
4. Pianificazione dinamica della rotta: calcolo autonomo della rotta di avvicinamento per eludere le difese avversarie, anche in assenza di segnale satellitare.
5. Ingaggio e valutazione del danno: applicazione della forza contro il bersaglio e successiva verifica sensoriale dell'esito dell'attacco.

L'impiego degli AWS risponde inoltre a precisi vantaggi tattici, strategici ed economici:

• Abbattimento dei tempi di reazione: eliminazione dei tempi di latenza e della risposta neuro-muscolare umana tramite l'elaborazione locale dei dati.
• Denegazione d'accesso (A2/AD) senza presenza umana: presidio persistente di porzioni di territorio secondo una logica assimilabile a un "campo minato intelligente".
• Resilienza alle interferenze (Guerra Elettronica): proseguimento della missione anche in contesti di totale isolamento informatico o di disturbo delle comunicazioni (jamming).
• Operatività in sciame: coordinamento decentralizzato tra più unità per distribuire il carico operativo e saturare le difese nemiche.
• Vantaggio economico ed efficienza asimmetrica: elevato rapporto costo-efficacia di piattaforme a basso costo capaci di eludere o neutralizzare sistemi di difesa complessi ed estremamente onerosi (come evidenziato, a titolo esemplificativo, dall'attacco del 2019 agli impianti petroliferi di Aramco).
• Minore rischio di perdite umane da parte di chi impiega gli AWS: mentre l’impiego degli AWS può comportare il rischio di violazioni del diritto umanitario ai danni della forza attaccata (in particolare di civile e infrastrutture civili), la forza attaccante può ridurre il rischio di proprie perdite umane.

Secondo quanto si legge nel Report del Segretario Generale dell'ONU sui sistemi d'arma autonomi letali (LAWS), documento A/79/88 del 1° luglio 2024[27], che riporta le opinioni di numerosi Stati membri e osservatori, raccolte in risposta alla risoluzione 78/241 del 22 dicembre 2023, l'impiego di AWS può produrre, secondo la posizione di alcuni Stati, i seguenti vantaggi:

• Miglioramento della sicurezza e dell'efficienza: incremento dell'efficacia tattica e operativa complessiva delle forze armate.
• Maggiore aderenza al Diritto Internazionale Umanitario (DIU): miglioramento della protezione dei civili e riduzione del rischio di danni collaterali grazie alla maggiore precisione dei sistemi di puntamento ed elaborazione.
• Riduzione dei rischi per il personale di difesa: protezione delle truppe umane tramite la delega di missioni ad alto rischio (dirty, dangerous, and dull) a sistemi robotici.
• Eliminazione degli errori legati al fattore umano: annullamento delle sviste o valutazioni errate causate da stress psicofisico, affaticamento, paura o condizionamenti morali, religiosi ed etici dell'operatore.
• Ottimizzazione dell'impiego delle risorse umane: gestione efficiente del personale, riallocando le forze umane su compiti di pianificazione strategica di alto livello.

 

Questi elementi, presi nel loro insieme, spiegano perché un numero crescente di attori statali stia investendo nello sviluppo e nell'acquisizione di sistemi d'arma autonomi, pur in assenza di un consenso internazionale condiviso sulla loro regolamentazione.

 

4. I sistemi d’arma a guida autonoma sono vietati?

In linea generale la genesi del dibattito internazionale sui sistemi d’arma a guida autonoma viene fatta coincidere con il rapporto delle Nazioni Unite (Human Rights Council) del 2013 sulle uccisioni extragiudiziali[28], sebbene, a parere di chi scrive, le problematiche etiche e giuridiche degli omicidi stragiudiziali siano distinte rispetto a quelle relative agli AWS, in primis perché tali uccisioni non avvengono necessariamente in un contesto bellico[29].

Il rapporto UN era conseguente alla Direttiva del Dipartimento della Difesa americano (DdD Directive 3000.09 - autonomy in weapon systems) del 21 novembre 2012, riscritta il 21 gennaio 2013[30].

Già questo primo documento stabiliva la necessità che gli AWS fossero progettati per consentire ai comandanti e agli operatori umani di esercitare appropriati livelli di giudizio riguardo all’uso della forza e, coerentemente a questo presupposto cardine, veniva prescritto che “Persons who authorize the use of, direct the use of, or operate autonomous and semi-autonomous weapon systems will do so with appropriate care and in accordance with the law of war, applicable treaties, weapon system safety rules, and applicable rules of engagement (ROE)”.

Nel 2018, il Segretario Generale delle Nazioni Unite, António Guterres, ha sostenuto “che gli AWS sono politicamente inaccettabili e moralmente ripugnanti, invocandone il divieto secondo il diritto internazionale. Nel suo Nuovo Programma per la Pace del 2023, ha ribadito questa posizione, raccomandando che gli Stati concludano, entro il 2026, ‘uno strumento giuridicamente vincolante per vietare i Sistemi d’Arma Letali Autonomi che operano senza controllo o supervisione umana e che non possono essere utilizzati nel rispetto del DIU, e per regolare tutte le altre tipologie di Sistemi d’Arma Autonomi’ (UNSG, 2023, p. 27)”[31].

Ricordiamo che l’Annex III del Meeting of the High Contracting Parties to the Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects (CCW), del 13 dicembre 2019, aveva già affermato che:

• il diritto internazionale umanitario trova applicazione a tutte le armi, incluse quelle a guida autonoma (lett. a);
• l’impiego di questa tipologia di armi non può escludere la responsabilità umana di chi decide di impiegarle (lett. b);
• “Human-machine interaction, which may take various forms and be implemented at various stages of the life cycle of a weapon, should ensure that the potential use of weapons systems based on emerging technologies in the area of lethal autonomous weapons systems is in compliance with applicable international law, in particular IHL” (lett. c);
• “accountability for developing, deploying and using any emerging weapons system in the framework of the CCW must be ensured in accordance with applicable international law” (lett. d)[32].

Queste indicazioni sono state poi confermate nel draft finale del Gruppo di Esperti LAWS della CCW del 3.9.2026, i quali hanno ribadito – tra l’altro – che:

• “29. IHL applies fully to the development and use of LAWS”;
• “31. It is prohibited in all circumstances to use LAWS of a nature to cause superfluous injury or unnecessary suffering, which are inherently indiscriminate, or which are otherwise incapable of being used in compliance with IH”;
• “34. LAWS must only be used in accordance with rules of international law applicable in armed conflict, including the principles and requirements of distinction, proportionality, and precautions in attack”;
• “35. […] Regardless of how control is exercised, human beings need to exercise judgement to determine what measures are necessary to ensure compliance with applicable IHL, including the principles and requirements of distinction, proportionality and precautions in attack, and to implement such measures in practice”;
• “37. […] d) That LAWS' target and mission parameters cannot be materially modified unless such modification is executed or authorized by a human being”;
• “39. […] c) Ensuring that LAWS, in their identification, selection, and engagement functions, operate in an adequately reliable manner and that their functioning and anticipated effects are

predictable and traceable to those responsible for their development and use”.

Il documento giunge poi ad affermare che: “38. In accordance with their obligations under applicable international law, States must: (a) Conduct legal reviews in the study, development, acquisition or adoption of new LAWS to determine whether the employment would, in some or all circumstances, be prohibited by international law”, ipotizzando la possibilità che determinate tipologie o impieghi di LAWS possano essere vietati tout court.

Il 22 dicembre 2023 con la Risoluzione n. 78/241 (dal titolo “Lethal autonomous weapons systems”) l’Assemblea generale delle Nazioni Unite ha affermato che il diritto internazionale – in particolare la Carta delle Nazioni Unite, il diritto internazionale umanitario e in materia di diritti umani – si applica ai sistemi d’arma a guida autonoma. La Risoluzione evidenzia il lavoro svolto dal gruppo di esperti governativi per quanto concerne l’area delle tecnologie emergenti dei sistemi d’arma autonomi letali in sede di CCW.

Successivamente, il 18 ottobre 2024 sempre l’Assemblea generale dell’ONU ha riaffermato che “any weapon, including autonomous weapons systems, that cannot be used in compliance with international humanitarian law must not be used”[33].

Secondo il Comitato Internazionale della Croce Rossa, gli Stati devono non soltanto evitare violazioni del diritto internazionale umanitario, per esempio in tema di distinzione tra civili e combattenti e principio di proporzionalità negli attacchi, ma anche garantire che l’uso della forza resti sotto controllo umano significativo, vero e proprio obbligo positivo: non è sufficiente vietare l’abuso, ma occorre che un sistema sia progettato, testato e impiegato in modo tale da permettere che l’intervento umano sia consapevole e responsabile, sicché gli Stati devono: progettare sistemi che consentano la supervisione e l’intervento umano; prevedere procedure istituzionali per l’approvazione e il monitoraggio dei sistemi autonomi; garantire una catena di responsabilità chiara lungo tutto il ciclo operativo dell’arma[34].

Ancora l’Assemblea generale dell’ONU, il 24 dicembre 2024, con la Risoluzione n. 79/239 (dal titolo Artificial intelligence in the military domain and its implications for international peace and security) ha:

• affermato che “international law, including the Charter of the United Nations, international humanitarian law and international human rights law, applies to matters governed by it that occur throughout the life cycle of artificial intelligence capabilities as well as the systems that they enable in the military domain”;
• evidenziato l’importanza di “ensuring responsible application of artificial intelligence in the military domain, which, for the purpose of this resolution, includes human-centric, accountable, safe, secure and trustworthy artificial intelligence used in compliance with international law”;
• richiamato il precedente documento A/C.1/79/L.77 del 18 ottobre 2024 sui sistemi letali a guida autonoma e sull’opportunità che siano regolati in sede di CCW.

Il 1° dicembre 2025, la Risoluzione n. 80/58 ha ribadito il contenuto della precedente n. 79/239[35]. Tuttavia, come ricordato dal Segretario Generale delle Nazioni Unite, l’Assemblea non ha potuto che constatare che “there was no international legal instrument specifically regulating or prohibiting lethal autonomous weapons systems”[36].

Secondo ICRC, dovrebbero essere vietati - alla medesima stregua di quanto accaduto per il bando delle mine anti-uomo - i sistemi d’arma a guida autonoma che[37]:

• possiedono un comportamento imprevedibile. A tale proposito, il rischio – a parere di chi scrive – è che tutti i sistemi d’arma a guida autonoma che impieghino un sistema d’Intelligenza Artificiale come strumento per l’individuazione del bersaglio siano intrinsecamente imprevedibili a causa della cosiddetta ‘black box’[38]. Un sistema d’arma che sia imprevedibile nella scelta del proprio bersaglio si porrebbe quindi in violazione del diritto internazionale umanitario[39];
• hanno la capacità di decidere di colpire umani,[40].

Per il resto, sempre secondo ICRC, i sistemi d’arma a guida a guida autonoma ‘non vietati’ dovrebbero rispettare i seguenti parametri di funzionamento:

“• limits on the types of target, such as constraining them to objects that are military objectives by nature

• limits on the duration, geographical scope and scale of use, including to enable human judgement and control in relation to a specific attack

• limits on situations of use, such as constraining them to situations where civilians or civilian objects are not present

• requirements for human–machine interaction, notably to ensure effective human supervision, and timely intervention and deactivation”[41].

È importante sottolineare come, secondo ICRC, le norme esistenti di diritto internazionale, incluso il diritto umanitario, dovrebbero conformare la progettazione, la costruzione e l’uso dei sistemi d’arma a guida autonoma (“constrain the design and use of AWS”) comprendendo “the elaboration of international technical standards on testing, validation or verification”[42], ma che comunque “it is difficult to envisage realistic combat situations where AWS use against persons would not pose a significant risk of IHL violations”[43]. Si è a tale proposito osservato che la vittima designata di un’arma capace di prendere decisioni di vita o di morte non ha la possibilità di fare appello all’umanità condivisa di un “qualcuno” che si trovi dall’altra parte: il valore intrinseco di un essere umano (ciò che gli conferisce dignità in quanto agente morale consapevole) sarebbe perciò negato a priori, qualora il suo destino fosse affidato alla discrezionalità delle scelte operate da una macchina, invece di comportare il giudizio e le responsabilità morali di un essere umano (Heyns, 2013)[44]. Sulla base dei principi del rispetto della dignità umana, di distinzione e proporzionalità, ICRC ha elaborato nel 2021 uno schema generale per arrivare a un trattato internazionale vincolante che introduca proibizioni e restrizioni sullo sviluppo e l’uso dei LAWS[45]. Questa proposta porterebbe, nello specifico, a proibire i LAWS progettati o utilizzati in maniera tale che i loro effetti non possono essere previsti, compresi e spiegati e  ammettere i soli LAWS in cui c’è un controllo umano significativo, limitando a oggetti di natura esclusivamente militare il tipo di obiettivi che i LAWS possono attaccare, con limitazioni sulla durata, sull’area geografica e sulla portata dell’azione, così da rendere possibile la supervisione umana su ogni specifico attacco, ammesso che LAWS sufficientemente prevedibili e comprensibili nei loro effetti esistano o possano essere progettati[46].

Molti Stati africani, come Nigeria, Sierra Leone ed Egitto, e sudamericani, come Brasile, Messico e Cile, hanno invocato l’emanazione di un trattato internazionale per mettere al bando l’impiego di sistemi d’arma a guida autonoma[47], mentre diversi Stati europei sono più favorevoli ad un approccio più regolamentativo che proibitivo. Soltanto un piccolo gruppo di Stati (Australia, Estonia, India, Israele, Giappone, Polonia, Corea del Sud, Russia, Regno Unito e Stati Uniti) si oppone a qualsivoglia regolamentazione intesa in senso ulteriore rispetto al già vigente diritto internazionale umanitario[48].

Si ritiene che la sede internazionale più idonea per l’approvazione di un divieto generalizzato di questa tipologia di arma sia la Convenzione delle Nazioni Unite su alcune armi convenzionali (CCW) delle Nazioni Unite – idonea a nuove integrazioni tematiche attraverso lo strumento di protocolli – sebbene a quanto consti non risultano in tale sede essersi verificati significativi passi avanti per gli approcci diametralmente opposti tenuti dalle varie nazioni implicate[49].

In linea generale, oltre al tema etico di consentire ad un automa di scegliere di uccidere un essere umano – che potrebbe suggerire di limitare l’uso di AWS alla capacità di colpire soltanto altri sistemi d’arma (per es., missili in avvicinamento) – i sistemi d’arma autonoma sono generalmente ritenuti incorporare i seguenti potenziali problemi[50]:

a) impossibilità di prevedere con certezza il comportamento di un sistema d’arma guidato da un sistema d’Intelligenza Artificiale;

b) impossibilità per un sistema d’arma a guida autonoma di discernere in modo corretto tutte le situazioni che potrebbe affrontare, come ad esempio interpretare i gesti e le parole di resa di un soldato nemico;

c) possibilità che i dati sui quali l’Intelligenza Artificiale che conduce il sistema d’arma siano affetti da distorsioni che diverrebbero, tuttavia, parametri di funzionamento per l’individuazione dei bersagli del sistema stesso;

d) difficoltà o impossibilità di individuare il responsabile di una violazione del diritto internazionale umanitario, specie in caso di violazione dei principi della necessità o della proporzionalità dell’azione posta in essere dall’arma autonoma[51].

Nell’ambito della difesa europea uno studio istituzionale riconosce l’importanza dell’impiego dell’Intelligenza Artificiale, ma considera necessaria una regolamentazione o una proibizione dei sistemi d’arma a guida autonoma[52]. In particolare, si sottolinea l’importanza che i sistemi integrati con l’IA siano realizzati conformi al diritto umanitario internazionale e che pertanto[53]:

• siano in grado di distinguere correttamente combattenti e civili;
• garantiscano la proporzionalità delle azioni militari rispetto alla minaccia.

In tale studio si ritiene inoltre che l’elemento umano sulla decisione finale rimanga essenziale nell’impiego di sistemi d’arma implementati con IA ed evidenzia due specifici rischi:

• la possibilità che questa tecnologia proliferi in modo non consentito;
• l’eventualità che questi sistemi favoriscano i conflitti e ne amplino le conseguenze: di qui il forte richiamo alla necessaria conformità di tali armi al diritto internazionale umanitario.

Si ricorda che il Parlamento Europeo si era già espresso, sebbene attraverso strumenti giuridicamente non vincolanti, precedentemente all’emanazione dell’AI Act, sull’impiego di sistemi di intelligenza artificiale in ambito bellico In questa chiave, la Risoluzione n. 2020/2013 del 20 gennaio 2021 ha affermato che:

• “l'IA utilizzata in un contesto militare e civile debba essere soggetta ad un significativo controllo umano, in modo tale che in qualsiasi momento un umano abbia i mezzi per correggerla, bloccarla o disattivarla in caso di comportamento imprevisto, intervento accidentale, attacchi informatici o interferenza di terzi con tecnologie basate sull'IA o qualora terzi acquisiscano tale tecnologia” (controllo umano costante e significativo e responsabilità esclusiva dell’essere umano);
• “il rispetto del diritto internazionale pubblico, in particolare del diritto umanitario, che si applica inequivocabilmente a tutti i sistemi d'arma e ai relativi operatori […]” e che “nessuna autorità possa prevedere una deroga a tali principi o certificare un tale sistema” che non integri al proprio interno meccanismi che garantiscano il rispetto del diritto internazionale (applicazione del diritto internazionale a tutti gli operatori coinvolti nella realizzazione e nell’impiego dei sistemi d’arma a guida autonoma);
• occorra collaborare con le Nazioni Unite e la comunità internazionale  per un quadro giuridico globale “garantendo che tale utilizzo [per scopi militari e di altro tipo] rimanga entro i limiti rigorosi stabiliti dal diritto internazionale e dal diritto internazionale umanitario, in particolare le convenzioni di Ginevra del 12 agosto 1949; sottolinea che tale quadro non deve mai violare o consentire violazioni delle prescrizioni della coscienza pubblica e dell'umanità, come stabilito nella clausola Martens”;
• il controllo sulla progettazione, fabbricazione dei sistemi d’intelligenza artificiale ad uso militare debba includere anche misure di controllo delle esportazioni.

Sta di fatto, tuttavia, che nel White Paper for European Defence – Readiness 2030, gli AWS sono indicati quali elementi necessari per integrare la difesa europea, avuto particolare riguardo ai droni e ai sistemi antidrone autonomi “using advanced software and sensors and enhance the capabilities that these technologies enable (e.g. situation awareness, surveillance, …)”[54].

Inoltre, il White Paper fa riferimento a[55]:

• “autonomous ground vehicles taking the lead in early combat operations”;
• “AI powered military robots” che sono ancora in una fase iniziale di sviluppo, ma segnalando che l’Europa potrebbe eccellere “in robot weapons and the software required to power them”.

Anche la NATO sembra riconoscere necessario il controllo umano per il dispiegamento operativo degli AWS (più precisamente del tipo human in the loop)[56].

Per riassumere, si possono evidenziare tre orientamenti riguardo ai sistemi d’arma a guida autonoma[57][58][59]:

1) secondo un primo orientamento (Israele, Russia e USA) essi sarebbero pienamente legittimi se il loro funzionamento fosse conforme al diritto internazionale, non risultando necessari ulteriori divieti[60]. Anzi, i sistemi di difesa autonomi potrebbero ridurre le vittime in quanto sarebbero presumibilmente impiegati in teatri in cui anche la nazione nemica impiegherebbe a propria volta AWS e, in ogni caso, l’impiego della forza risulterebbe generalmente più chirurgica e precisa rispetto all’uso della stessa che potrebbe fare un umano;

2) sul fronte opposto si confronta l’orientamento «proibizionista» (Kiribati, Serbia e Cina[61]), che chiede l’adozione di un trattato che vieti l’impiego degli AWS. Coloro che sostengono questa tesi reputano che l’uso della forza letale da parte di una macchina priva di giudizio umano sia moralmente inaccettabile, in quanto violerebbe inevitabilmente la dignità umana. Inoltre: i) i sistemi d’arma autonomi potrebbero innescare conflitti e aggravarne gli effetti; ii) sarebbero inidonei a garantire la cosiddetta Martens Clause, la quale, contenuta nella Convenzione dell’Aja del 1899, prescrive che “nei casi che non hanno potuto essere previsti nelle disposizioni da esse adottate, le popolazioni e i belligeranti rimangono sotto l’egida e la signorìa dei principî del diritto delle genti, quali risultano dagli usi vigenti fra gli Stati civili, dalle leggi dell’umanità e dalle esigenze della coscienza pubblica”. Esiste anche una variante di questa posizione che consiste nella richiesta di una moratoria dell’impiego dei LAWS fino a quando non sarà approvata una convenzione internazionale che ne disciplini la progettazione e l’impiego[62];

3) infine, una terza posizione (sostanzialmente sostenuta dai restanti Stati tra i quali, in particolare, Austria, Paesi Bassi, Francia, Germania, Italia, Spagna, Svizzera) è di coloro che propongono un approccio differenziato, ovvero l’introduzione di un trattato che proibisca alcuni utilizzi degli AWS, consentendone altri sotto regolamentazioni specifiche. In questo modo, si cerca di stabilire un controllo più preciso, limitando l’uso delle armi autonome in determinate situazioni più circoscritte e monitorate[63].

Secondo l’ONG Human Rights Watch[64], occorrerebbe che si giungesse ad un trattato internazionale di messa al bando di tutti gli AWS che funzionano senza un controllo umano significativo.

È opportuno, altresì, evidenziare quanto riportato dal Segretario Generale dell’ONU, il quale riferisce che molti Stati reputano che qualsiasi arma, incluse le LAWS, che non possano rispettare il diritto internazionale umanitario, sarebbero de facto già proibite e non potrebbero essere utilizzate[65].

Si può, in ogni caso, osservare che tutti gli orientamenti esistenti partono comunque dal presupposto che il diritto internazionale, in particolare, il diritto umanitario, sia pacificamente applicabile agli AWS e che un eventuale trattato internazionale avrebbe lo scopo specifico o di proibire determinate tipologie di questi sistemi d’arma (in particolare quelli dal comportamento imprevedibile[66] e/o quelli privi di un effettivo controllo umano[67]) o di introdurre ulteriori limitazioni al loro impiego, presumibilmente declinando regole tecniche specifiche che trovano comunque la loro fonte nel diritto umanitario.

In definitiva, chi scrive ritiene che:

1. in linea astratta gli AWS non siano attualmente vietati dal diritto internazionale, perché non c’è alcuna convenzione di carattere internazionale che ne escluda l’impiego;
2. sul piano concreto, tuttavia, non sia affatto scontato che la tecnologia attuale consenta agli AWS di operare conformemente al diritto internazionale umanitario, sicché, ad oggi, la loro costruzione e il loro impiego potrebbero risultare illeciti, semplicemente per un loro limite tecnologico concernente l’inaffidabilità intrinseca del sistema di IA;
3. nella consapevolezza dell’impossibilità di assicurare ragionevolmente la conformità al diritto umanitario degli AWS per la ragione esposta al punto precedente, si ponga, fin da subito, la necessità che sugli stessi operi un controllo umano significativo.

Nel paragrafo che segue si cercherà di capire in cosa consista questo controllo umano e se lo stesso sia astrattamente concepibile e comunque operativamente esperibile oppure se costituisca un elemento da alcuni utilizzato per permettere agli AWS di essere costruiti e di operare, pur nella sostanziale violazione del diritto umanitario internazionale.

5. Controllo umano significativo (CUS)

Si evidenzia la centralità del già accennato problema ovvero se i sistemi d’arma a guida autonoma, per poter operare in conformità al diritto internazionale, debbano contemplare il requisito di un controllo umano significativo[68]. A questo proposito, si ritiene utile richiamare la Dichiarazione di Parigi sul mantenimento del Controllo Umano nei Sistemi d’Arma abilitati all’IA, dell’11 febbraio 2025, con la quale i firmatari (27 Paesi del mondo, tra cui Germania, Italia e Spagna) hanno riconosciuto l’IA implementata nei sistemi d’arma come tecnologia dotata di un potenziale straordinario per trasformare ogni aspetto delle questioni militari ma che, al contempo, solleva grandi sfide e preoccupazioni. A tal fine, gli Stati firmatari si sono impegnati a sviluppare, implementare e utilizzare le capacità della IA nel dominio militare in modo responsabile, in conformità con il diritto internazionale e in maniera tale da non compromettere la pace, la sicurezza e la stabilità internazionali.

Gli Stati firmatari, inoltre, sottolineano come la responsabilità e il processo decisionale non potranno mai essere trasferiti alle macchine e assicurano che entrambi rimarranno sotto il controllo umano sia nella progettazione, sia nell’impiego dell’IA nel dominio delle applicazioni militari: “and we will implement appropriate safeguards relating to human judgement and control over the use of force” (par. 2).

In altre parole, almeno per i 27 Stati firmatari della Dichiarazioni di Parigi, gli AWS possono essere lecitamente impiegati soltanto entro determinati limiti ossia quando la decisione finale di ‘premere il grilletto’, o quantomeno di lasciarlo azionare dal sistema d’arma, dipende dall’uomo, nel senso che la decisione di attaccare non potrà essere assunta completamente al di fuori del controllo umano e di una catena di comando, in quanto tale, astrattamente imputabile. Sul piano strettamente pratico, tuttavia, il controllo umano sulla decisione finale degli AWS di fatto dovrebbe smorzare notevolmente l’efficacia dell’impiego di questi ultimi. Ciononostante, questo requisito pare piuttosto condiviso a livello internazionale, come abbiamo letto nella direttiva DoD del 2012[69], nei documenti dell’Unione Europea e, come si osserverà anche nel prosieguo, pure nelle linee guida del Ministero della Difesa italiano.

È bene rammentare, in ogni caso, che, secondo il Segretario Generale dell’ONU, la possibilità astratta d’intervento umano nelle attività di identificazione dei bersagli e/o nella scelta di porre in essere l’azione bellica non è di per sé sufficiente (“was not sufficient”[70]) per superare la tematica della legittimità degli AWS rispetto al diritto internazionale, in quanto il controllo dev’essere effettivo[71]. A fronte di quanto detto, l’elemento del controllo umano, in tutti i sistemi implementati con l’IA, assurge così ad aspetto fondamentale per il riconoscimento della liceità degli AWS, ancorché sia in concreto sostanzialmente inapplicabile se l’operatore umano non è posto in grado di ripercorrere interamente l’iter logico e cognitivo dell’IA, con l’effetto di rendere l’impiego di questi sistemi d’arma potenzialmente ancora più laborioso che se le operazioni fossero state condotte fin dall’inizio dall’uomo. Non può comunque certamente escludersi che un CUS su un AWS, in determinati teatri di guerra, possa scongiurare il compimento di una grave violazione del diritto internazionale come, per esempio, mediante l’inibizione di un attacco a civili non riconosciuti come tali dal sistema d’arma e, invece, riconosciuti tali dall’operatore umano attraverso un’autonoma analisi sensoriale.

Il citato Report A/79/88 del Segretario Generale delle Nazioni Unite, nella difficoltà di sostanziare di contenuto il vago concetto di controllo umano, evidenzia che “States considered the necessary elements of human control, which included that humans retained the following:

• Sufficient information, including on the capabilities of the weapons system and the operational context, to ensure compliance with international law

• The ability to exercise their judgment to the extent required by international humanitarian law

• The ability to limit the types of tasks and targets

• The ability to place limitations on the duration, geographical scope and scale of use

• The ability to redefine or modify the system’s objective or missions

• The ability to interrupt or deactivate the system

14. States suggested various measures through which the required degree of human control could be achieved, which included:

• Creating an intuitive interface for human-machine interaction

• Procedures to ensure that lethal autonomous weapons systems were tested, evaluated, validated and verified

• Sufficient legal reviews of lethal autonomous weapons systems

• Appropriate training for all humans that interacted with lethal autonomous weapons systems

• Ensuring the predictability, reliability and explainability of lethal autonomous weapons systems”[72].

Una ricostruzione dottrinale propone di modulare il livello di controllo umano richiesto in base a tre fattori:

“- cosa deve fare il sistema, ovvero la natura dei compiti (offensivi/difensivi) e dei target assegnati (ad esempio, obbiettivi militari per natura oppure membri di un gruppo armato di opposizione);

- dove verrà impiegato, ovvero le caratteristiche dell’ambiente operativo (ad esempio, presenza/assenza di civili);

- come funziona il sistema, ovvero le capacità senso-motorie e quelle di elaborazione delle informazioni che il sistema mette in atto per eseguire la missione assegnata (ad esempio, capacità di swarming, loitering e apprendimento automatico)”[73].

Si fa riferimento, nel dibattito sul tema, alla necessità di assicurare il mantenimento del controllo umano, in particolare sulle funzioni critiche, in ogni momento[74]; ma è praticamente evidente che l’operatore umano non possa seguire costantemente e in tempo reale l’operato di un sistema IA e che, pertanto, non tutti gli errori che quest’ultimo sistema può commettere risultino sempre rilevabili anche del più attento operatore umano (e dalla correlata catena decisionale), quantomeno immediatamente o comunque in tempo utile per impedire la violazione[75].

Da tutto ciò consegue che il CUS sugli AWS non è un requisito sufficiente (e neppure necessario se il sistema AI fosse immune da errori e/o allucinazioni) affinché questi ultimi siano conformi al diritto internazionale, ciò in quanto è un requisito fattualmente inapplicabile assicurare in tempo reale. In altre parole, a parere di chi scrive[76], il rapporto tra gli AWS ed il requisito del controllo umano non è stato ancora sufficientemente approfondito e occorre evitare che un controllo puramente ipotetico e formale o comunque meramente parziale sia utilizzato quale concetto atto a giustificare in via generalizzata la conformità al diritto internazionale di questi sistemi d’arma[77]. Infatti, il controllo umano se non completo ed effettivo, al di là di poter ridurre il rischio che il sistema agisca in forza di errori grossolani o di fenomeni cosiddetti ‘allucinatori’ dell’IA, non basta da solo a rendere il sistema d’arma conforme al diritto internazionale.

Anche Human Rights Watch[78] sottolinea la necessità che le AWS siano dotate di un controllo umano significativo (meaningful human control), ma la significatività del controllo, sempre a parere di chi scrive, dovrebbe sottendere la verificabilità con autonomi dati di raffronto delle informazioni che l’arma ha acquisito. Si può dubitare che tale verifica sia ordinariamente possibile, in un teatro di combattimento, da parte dell’operatore umano. Il tema orbita, infatti, intorno al nocciolo del problema ossia capire in che cosa consista concretamente il controllo umano sul comportamento dell’IA, fermo restando che, nell’ambito dell’impiego militare, il problema assume contorni particolarmente delicati e pregnanti[79]. In realtà, il problema del controllo è ben conosciuto nel diritto e, sostanzialmente, implica la necessità di poter riprendere l’intero percorso motivazionale posto in essere dal soggetto controllato per verificare la correttezza dell’azione proposta rispetto ai presupposti di fatto e di diritto da applicarsi al caso di specie e, più in generale, rispetto al risultato che avrebbe dovuto essere conseguito avuto riguardo ai parametri che avrebbero dovuto essere seguiti per raggiungere il risultato medesimo.

Sennonché nell’ambito dell’impiego dell’IA il controllo o è intrinsecamente impossibile per il noto meccanismo di funzionamento della cosiddetta ‘black box’ oppure, se anche possibile, renderebbe sostanzialmente quasi inutile l’impiego di sistemi IA[80]: ciò vale, in modo ancora più palese, per i Sistemi di Supporto alle Decisioni (Artificial Intelligence Decision Support Systems o SSDIA).

Infatti, in un teatro di guerra la velocità delle decisioni può risultare in molti casi determinante. I sistemi d’arma integrati con IA hanno innanzitutto la finalità – da un lato – di estendere il campo d’azione umano ben al di là di quanto potrebbe fare l’uomo anche con l’ausilio di singoli computer e – dall’altro – quello di assicurare la conclusione di un processo decisionale almeno di alcuni ordini di grandezza più rapida rispetto ad un processo compiuto con altri metodi.

Ne consegue che per l’operatore umano è: 1) sostanzialmente impossibile ripercorrere il ragionamento compiuto dall’IA attesa l’enorme quantità di dati che l’IA ha utilizzato per giungere alla propria conclusione che sottopone all’agente umano e ciò anche nel caso in cui il problema della ‘black box’ non fosse presente; 2) se anche l’operatore umano avesse la capacità di esaminare tutti i dati valutati dall’IA, non potrebbe farlo in tempo utile in modo autonomo dall’IA.

Alla luce di queste argomentazioni appare difficile sostenere che un controllo umano su un sistema d’arma a guida autonoma possa concretamente esistere, salvo che per gli errori più grossolani che un‘IA potrebbe compiere, come quello di scambiare un ospedale per un obiettivo legittimo.

Il controllo umano diventa ancora più problematico se ci riferiamo ai SSDIA poiché in tal caso per l’operatore umano è ancora più arduo scoprire - in tempi celeri – se nei suggerimenti strategici, tattici o operativi si celino errori, sviste o omissioni di qualche tipo.

6. Esempi di armi a guida autonoma

L’analisi delle piattaforme operative ed emergenti richiede di distinguere costantemente la semplice automazione (o il supporto all'intelligence) dall'autonomia effettiva nelle critical functions di selezione e ingaggio del bersaglio:

• Sistemi autonomi e munizioni circuitanti: il drone quadrirotore Kargu-2 (impiegato in Libia secondo i rapporti ONU) ed alcune munizioni circuitanti (loitering munitions) costituiscono esempi di sistemi programmati per individuare e attaccare autonomamente i bersagli anche in assenza di connettività con l'operatore.
• Sistemi aerei e navali (Sistemi armati vs AWS): non tutti i sistemi senza equipaggio nei domini aereo, terrestre e marittimo sono AWS. L’MQ-9 Reaper è un velivolo armato a pilotaggio remoto (non un AWS); l’XQ-58 Valkyrie illustra la categoria intermedia del Manned-Unmanned Teaming (piattaforma semi-autonoma di supporto); nel dominio subacqueo, il sistema KILIÇ di ASELSAN è un veicolo autonomo d'attacco la cui qualificazione come AWS dipende dalle specifiche modalità di ingaggio impostate.
• Sciami e sistemi subacquei (Avanzamento tecnologico e funzioni): gli sciami di UAV (come il programma Perdix) e i veicoli autonomi subacquei (AUV per sorveglianza e sminamento) coordinano autonomamente movimento e rilevamento, ma non costituiscono AWS a meno che non selezionino ed eseguano autonomamente l'attacco.
• Sistemi di supporto decisionale e Intelligence (AI-DSS): i sistemi Lavender e Gospel (Habsora) usati dalle forze israeliane e il Project Maven del Pentagono utilizzano IA e computer vision per l'analisi dei dati e l'individuazione di target; richiedendo una valutazione e autorizzazione umana finale, costituiscono strumenti di supporto al targeting e non AWS.
• Sperimentazioni nazionali (Esercito Italiano): a fronte del dichiarato non possesso di AWS fino al 2023, pubblicazioni del 2025 documentano la sperimentazione dei Robotic and Autonomous Systems (RAS), categoria tecnologica più ampia che non comporta necessariamente l'autonomia di ingaggio.
• Sistemi antiaerei e conflitti contemporanei: i sistemi di difesa antiaerea possono operare in modalità automatizzata o rientrare negli AWS se applicano autonomamente la forza dopo l'attivazione. L'evoluzione dei conflitti contemporanei (in particolare quello russo-ucraino) evidenzia un uso crescente di sistemi automatizzati, semiautonomi e autonomi, confermando la rilevanza giuridica dell'affidabilità dei sistemi di riconoscimento ai fini del rispetto del Diritto Internazionale Umanitario[81].

7. La strategia italiana dell’integrazione dell’IA nella Difesa

Il documento fondamentale a questo riguardo è costituito dal documento del Ministero della Difesa “IA E DIFESA - Strategia della Difesa in materia di Intelligenza Artificiale”, edizione 2026.

Ebbene, in premessa di tale documento viene esplicitamente evidenziato come le potenzialità offerte dall’IA siano applicate alla difesa dello Stato italiano “con un approccio responsabile, etico e in linea con i principi del Diritto Internazionale Umanitario (DIU)”[82].

Fatta questa premessa, vengono esposti alcuni assiomi contenuti in questo documento che, qui di seguito, sono riportati limitatamente a quanto rileva ai fini dell’oggetto della presente trattazione[83]:

1) “la Difesa italiana riconosce l’IA come una leva essenziale per il rafforzamento delle proprie capacità operative” prospettando un’integrazione dell’IA in modo difensivo in tutti gli ambiti di difesa entro tre anni con l’obiettivo finale di dotare le Forze Armate italiane di sistemi basati sull’IA “all’avanguardia, sicuri, resilienti e nativamente interoperabili, che mettano l’uomo al centro”;

2) “principio centrale è il mantenimento del controllo umano sulla tecnologia e la responsabilità della linea di comando” oltre al rispetto del DIU e al “mantenimento di criteri ragionevoli di spiegabilità dei modelli”;

3) necessità che la Difesa abbia il controllo interno profondo sui sistemi IA utilizzati “per garantire la conformità al DIU”;

4) l’impiego dell’IA non è limitato ai contesti operativi (a partire dal processo di pianificazione delle azioni militari[84], la difesa integrata del territorio[85] nonché il comando e controllo[86] inclusa - più in generale - la capacità di gestire le informazioni di intelligence[87]), ma altresì in quelli organizzativi, di formazione, addestramento e ricerca, nonché di ecosistema industriale nazionale;

5) l’integrazione dell’IA nel sistema della Difesa avverrà attraverso due uffici: l’Ufficio per l’IA (UIA), preposto all’attuazione dell’indirizzo politico, alla supervisione e alla verifica, e il Laboratorio di IA per la Difesa (LIAD), che fungerà da polo di eccellenza avente anche il compito di sviluppare soluzioni sinergiche in campo operativo;

6) l’implementazione dell’IA nel sistema della Difesa avverrà attraverso 15 Direttrici Strategiche (DS) che si atteranno tutte ad un utilizzo trasparente, responsabile, etico e conforme al DIU dell’IA;

7) anche per garantire che i sistemi d’arma che utilizzano IA siano conformi al diritto umanitario internazionale, è indispensabile che la Difesa mantenga una totale autonoma capacità di addestrare i modelli di IA, di comprendere il funzionamento degli algoritmi ed eventualmente di modificarne il funzionamento affinché sia assicurato “il pieno controllo sul ciclo di vita dei sistemi IA”;

8) necessità che, nell’implementazione dei sistemi d’arma con IA, si sia consapevoli del cosiddetto lawfare, inteso quale utilizzo del diritto positivo come arma di guerra sfruttando le differenze tra gli ordinamenti giuridici e le interpretazioni del DIU “per ottenere un vantaggio strategico o per delegittimare le operazioni avversarie”.

Il documento del Ministero della Difesa prosegue evidenziando che gli approcci ad oggi potenzialmente utilizzati per l’implementazione dell’Intelligenza Artificiale nei sistemi di difesa delle varie nazioni sono riconducibili ai seguenti modelli:

a) «a tripla elica» tra Governo, industria e accademia per l’IA ad uso militare (USA, UK, Spagna e Francia);

b) «revolving doors» tra mondo militare, accademia e industria privata (Israele);

c) «top-down» in quanto in quanto le priorità sono dettate dallo Stato (Cina, Russia e Iran); 

d) «open door» soprattutto in situazioni d’urgenza il settore militare dev’essere aperto a soluzioni provenienti dal basso (Ucraina);

e) «silo» le sfere civili e militari devono agire in modo disconnesso per impedire il trasferimento di conoscenze per le tecnologie dual use (Canada).

Inoltre, il documento attesta l’impiego di sistemi di IA nel cosiddetto ‘cognitive warfare’[88] che viene condotto tramite campagne di disinformazione e la creazione di deepfake.

Per venire, invece, all’impiego sul campo, il documento della Difesa italiana afferma, con riferimento agli AWS, che l’IA “aumenta drasticamente la velocità d’ingaggio, la precisione e la verifica di efficacia del fuoco” riducendo notevolmente il cosiddetto “sensor to shooter link” secondo l’approccio “any sensor, right decisor, best shooter”, che significa che i dati provenienti da qualsiasi sensore, se opportunamente valorizzati, sono “alla base di una decisione assunta al giusto livello per un ingaggio che sfrutta la migliore soluzione disponibile”.

Appare di singolare rilevanza quanto si legge al paragrafo 4.1.4 del documento del Ministero della Difesa, per cui, a livello strategico-militare, viene richiesta la costituzione di un’area giuridica finalizzata, tra l’altro, a:

• allineare i sistemi di IA alle norme nazionali e internazionali;
• in particolare, la definizione da parte di UIA dei “guardrail etici” (e noi aggiungeremmo soprattutto giuridici, per quanto concerne il rispetto del diritto umanitario internazionale) che LIAD dovrà adottare nei prodotti e servizi acquistati e sviluppati;
• la previsione di un organo consultivo interno, con funzione trasversale, composto da esperti militari e civili nei campi dell’etica, dei diritti fondamentali e del DIU.

Il Documento poi delinea – come sopra accennato – 15 direttrici strategiche d’intervento (DS) relativamente allo sviluppo dell’IA nella Difesa, suddivise in sei gruppi (governance e risorse, fattori strategici abilitanti, l’IA nei contesti operativi, l’IA nei contesti organizzativi, IA formazione addestramento e ricerca, IA e industria). Qui si indicano le tre DS che si reputano maggiormente rilevanti per gli AWS:

DS-1 (revisione della governance IA della Difesa e sostegno finanziario): l’obiettivo è, tra l’altro, quello di garantire un impiego efficiente delle risorse ed il rigoroso rispetto dei principi etici e normativi;

DS-5 (sistemi autonomi e cooperativi): “Sviluppare e impiegare sistemi autonomi e semi-autonomi in cui l’IA potenzi percezione, navigazione, coordinamento e capacità decisionale, mantenendo il controllo umano coerentemente agli standard etici e normativi nazionali e internazionali”;

DS-11 (sviluppo di una cultura dell’IA e formazione del personale della Difesa): “colmare il divario di conoscenza sull’IA, promuovere un uso etico e responsabile della tecnologia, sviluppando un mindset digitale in tutto il personale e creare una forza lavoro specializzata”.

Infatti, per il Ministero della Difesa italiano il controllo umano sugli AWS è considerato un elemento fondamentale (vedi sopra la DS-5) per l’impiego di queste armi e affinché le stesse siano conformi al diritto umanitario internazionale[89].

8. Le regole desunte dal diritto umanitario internazionale

8.1 Premessa generale

Alla luce di quanto si è scritto finora, appare evidente che sostanzialmente nessun Paese o Istituzione mette in discussione che gli AWS debbano essere progettati, costruiti e operare nel rispetto del diritto umanitario[90].

Altro principio che risulta pacificamente accettato dalle Nazioni è che l’attività degli AWS debba essere inserita in una catena di comando e che ci debba essere sempre un umano e uno Stato responsabili del loro operato[91].

Infine, terzo aspetto è quello del controllo umano, per il quale si rinvia al paragrafo 5 e a quanto si dirà tra poco.

Affinché una sistema d’arma a guida autonoma sia conforme al diritto internazionale, occorre che esso risponda quantomeno ai principi di necessità, proporzionalità e distinzione[92].

In altre parole, e da una prima approssimazione, il sistema d’arma dev’essere autonomamente in grado di porre in essere azioni – con riferimento alla concreta situazione in cui si trova – che siano necessarie e proporzionate ed essere in grado di distinguere combattenti e civili[93] (requisiti operativi di conformità al diritto umanitario internazionale), colpendo soltanto i primi ed evitando di recare danno ai secondi.

Più nel dettaglio, il Segretario Generale dell’ONU riporta[94] le regole o comunque i parametri che, desunti dal Diritto umanitario internazionale, dovrebbero essere implementati negli AWS per renderli conformi a tale corpus normativo:

“• Assess the presence of civilians

• Limit the types of targets with which a system could engage

• Limit the duration, geographical scope and scale of operation of the weapons system

• Put in place rules of engagement

• Put in place technical safeguards, such as self-destruct and self-deactivation”

A questo scopo, si palesa come sia necessario che il personale che progetta, acquista e utilizza sistemi d’arma a guida autonoma sia adeguatamente formato nel diritto internazionale umanitario[95] e che implementi il rispetto di detto diritto negli schemi negoziali di acquisizione degli AWS.

Inoltre, è fondamentale che sussista sempre almeno una persona fisica ed uno Stato responsabili per l’uso degli AWS[96].

Assume preliminare rilievo, sul piano logico e giuridico, l’applicazione dell’art. 36 del I° Protocollo Aggiuntivo della Convenzione di Ginevra[97], secondo il quale “Nello studio, messa a punto, acquisizione o adozione di una nuova arma, di nuovi mezzi o metodi di guerra, un’Alta Parte contraente ha l’obbligo di stabilire se il suo impiego non sia vietato, in talune circostanze o in qualunque circostanza, dalle disposizioni del presente Protocollo o da qualsiasi altra regola del diritto internazionale applicabile a detta Alta Parte contraente”.

Come si è osservato, sono già da decenni operativi sistemi d’arma automatici e automatizzati, ma ciò che rende gli AWS un nuovo mezzo di guerra è la loro capacità di scegliere autonomamente il bersaglio e di decidere se e quando porre in essere l’attacco[98].

Ne consegue l’illiceità dell’impiego di AWS il cui comportamento sia intrinsecamente imprevedibile[99]: questo rilievo assume una particolare pregnanza in caso di implementazione di sistemi IA nei sistemi d’arma.

Come si è detto, la presenza di un operatore umano che possa controllare l’operato dell’AWS e autorizzare l’ingaggio non è di per sé un elemento sufficiente per garantire il rispetto del diritto internazionale umanitario, quando il controllo non sia effettivo, ossia allorquando l’operatore umano non sia in grado di verificare i presupposti decisionali che hanno condotto il sistema d’arma a suggerire l’attacco e le relative modalità d’ingaggio.

8.2 Le singole regole e i parametri

Gli AWS, per essere conformi al diritto internazionale, devono essere progettati, realizzati ed impiegati sul campo in modo che sia in primis assicurato il rispetto del DIU[100].

Qui di seguito si enunciano quelle che si ritiene siano le principali regole e parametri che sono stati desunti dal DIU allo scopo di facilitare la programmazione degli AWS e la loro conformità a tale diritto. Infatti, per ogni regola e parametro sono menzionate le corrispondenti fonti internazionali nonché, in molti casi, sono riportati gli estratti dei corrispondenti articoli dei relativi C/T.

Si è ritenuto utile compiere questa enucleazione facilitare agli operatori del settore l’enucleazione, in forma chiara e semplice, delle principali regole ‘pronte all’uso’ in quanto semplificate rispetto al linguaggio dei trattati internazionali.

Sicuramente sono enucleabili ulteriori regole e parametri rispetto a quelli sottoindicati, sennonché si è inteso riportare soltanto quelli che si reputano essere i più rilevanti ed emblematici. Ci si è inoltre voluti concentrare maggiormente su prescrizioni che meno richiedono valutazioni di carattere discrezionale, spesso assai complesse, come l’applicazione dei principi di proporzionalità e di umanità dell’azione bellica.

A) Capacità di distinguere i bersagli e divieto di ingaggiare bersagli non leciti.

I) Capacità di distinguere i combattenti dalle persone civili e conseguente divieto di ritenere come bersaglio valido queste ultime (artt. 50, 51, commi 1, 2 e 3 e 57 del I° Protocollo Aggiunto della Convenzione di Ginevra del 1949; Convenzione di Ginevra per la protezione delle persone civili in tempo di guerra):

1. Ai sensi dell’art. 51 (protezione della popolazione civile), commi 1, 2 e 3 del Protocollo Aggiuntivo, “1. La popolazione civile e le persone civili godranno di una protezione generale contro i pericoli derivanti da operazioni militari. Allo scopo di rendere effettiva tale protezione, saranno osservate, in ogni circostanza, le seguenti regole, le quali si aggiungono alle altre regole del diritto internazionale applicabile.

2.  Sia la popolazione civile che le persone civili non dovranno essere oggetto di attacchi. Sono vietati gli atti o minacce di violenza, il cui scopo principale sia di diffondere il terrore fra la popolazione civile.

3. Le persone civili godranno della protezione concessa dalla presente Sezione, salvo che esse partecipino direttamente alle ostilità e per la durata di detta partecipazione”[101].

Ai sensi dell’art. 57 (principio di precauzione), “1. Le operazioni militari saranno condotte curando costantemente di risparmiare la popolazione civile, le persone civili e i beni di carattere civile […]”.

II) Capacità di individuazione dei bersagli leciti (art. 50, commi 4 e 5 del I° Protocollo Aggiuntivo):

“4. Sono vietati gli attacchi indiscriminati. Con l’espressione ‘attacchi indiscriminati’ si intendono:

a) quelli che non sono diretti contro un obiettivo militare determinato;

b) quelli che impiegano metodi o mezzi di combattimento che non possono essere diretti contro un obiettivo militare determinato; o

c) quelli che impiegano metodi o mezzi di combattimento i cui effetti non possono essere limitati, come prescrive il presente Protocollo,

e che sono, di conseguenza, in ciascuno di tali casi, atti a colpire indistintamente obiettivi militari e persone civili o beni di carattere civile”.

5. Saranno considerati indiscriminati, fra gli altri, i seguenti tipi di attacchi:

a) gli attacchi mediante bombardamento, quali che siano i metodi e i mezzi impiegati, che trattino come obiettivo militare unico un certo numero di obiettivi militari chiaramente distanziati e distinti, situati in una città, un paese, un villaggio o in qualsiasi altra zona che contenga una concentrazione analoga di persone civili o di beni di carattere civile;

b) gli attacchi dai quali ci si può attendere che provochino incidentalmente morti e feriti fra la popolazione civile, danni ai beni di carattere civile, o una combinazione di perdite”.

III) Capacità di distinguere installazioni civili, beni culturali, luoghi di culto, edifici e il materiale impiegato per scopi di protezione civile che, pertanto, non possono essere ritenuti bersagli leciti (artt. 52, 53, 61 e 62 del I° Protocollo Addizionale alla Convenzione di Ginevra):

“1. I beni di carattere civile non dovranno essere oggetto di attacchi né di rappresaglie. Sono beni di carattere civile tutti i beni che non sono obiettivi militari ai sensi del paragrafo 2.

2. Gli attacchi dovranno essere strettamente limitati agli obiettivi militari. Per quanto riguarda i beni, gli obiettivi militari sono limitati ai beni che per loro natura, ubicazione, destinazione o impiego contribuiscono effettivamente all’azione militare, e la cui distruzione totale o parziale, conquista o neutralizzazione offre, nel caso concreto, un vantaggio militare preciso.

3. In caso di dubbio, un bene che è normalmente destinato ad uso civile, quale un luogo di culto, una casa, un altro tipo di abitazione o una scuola, si presumerà che non sia utilizzato per contribuire efficacemente all’azione militare” (art. 52).

IV) Capacità di distinguere beni indispensabili per la popolazione civile che, pertanto, non possono essere ritenuti bersagli leciti (art. 54, commi 2 e 3, del I° Protocollo Aggiuntivo):

“2. È vietato attaccare, distruggere, asportare o mettere fuori uso beni indispensabili alla sopravvivenza della popolazione civile, quali le derrate alimentari e le zone agricole che le producono, i raccolti, il bestiame, le installazioni e riserve di acqua potabile e le opere di irrigazione, con la deliberata intenzione di privarne, in ragione del loro valore di sussistenza, la popolazione civile o la Parte avversaria, quale che sia lo scopo perseguito, si tratti di far soffrire la fame alle persone civili, di provocare il loro spostamento o di qualsiasi altro scopo.

3. I divieti previsti nel paragrafo 2 non si applicheranno se i beni sono utilizzati dalla Parte avversaria:

a) per la sussistenza dei soli membri delle proprie forze armate;

b) per fini diversi da detta sussistenza, come appoggio diretto ad un’azione militare, a condizione, tuttavia, di non intraprendere in nessun caso, contro detti beni, azioni da cui ci si potrebbe attendere che lascino alla popolazione civile alimenti e acqua in misura talmente scarsa che essa sarebbe ridotta alla fame o costretta a spostarsi”.

V) Capacità di distinguere determinati tipi di installazione che, pertanto, non possono essere ritenuti bersagli leciti (art. 56 del I° Protocollo Aggiuntivo della Convenzione di Ginevra del 1949):

“1. Le opere o installazioni che racchiudono forze pericolose, cioè le dighe di protezione o di ritenuta e le centrali nucleari per la produzione di energia elettrica, non saranno oggetto di attacchi, anche se costituiscono obiettivi militari, se tali attacchi possono provocare la liberazione di dette forze e causare, di conseguenza, gravi perdite alla popolazione civile. Gli altri obiettivi militari situati su o in prossimità di dette opere o installazioni non saranno oggetto di attacchi, se questi possono provocare la liberazione di forze pericolose e, di conseguenza, causare gravi perdite alla popolazione civile.

2. La protezione speciale contro gli attacchi prevista dal paragrafo 1 cesserà:

a) nei riguardi delle dighe di protezione o di ritenuta, soltanto nel caso in cui esse siano utilizzate per scopi diversi dalla loro normale funzione e per l’appoggio regolare, importante e diretto a operazioni militari, e se tali attacchi sono il solo mezzo pratico per porre fine a detto appoggio;

b) nei riguardi delle centrali nucleari per la produzione di energia elettrica, soltanto nel caso in cui esse forniscano corrente elettrica per l’appoggio regolare, importante e diretto a operazioni militari, e se tali attacchi sono il solo mezzo pratico per porre fine a detto appoggio;

c) nei riguardi degli altri obiettivi militari situati su o in prossimità di dette opere o installazioni, soltanto nel caso in cui essi siano utilizzati per l’appoggio regolare, importante e diretto a operazioni militari, e se tali attacchi sono il solo mezzo pratico per porre fine a detto appoggio”.

VI) Capacità di distinguere il personale ed i mezzi che partecipano ad operazioni di soccorso, in primis il personale ed i mezzi della Croce Rossa e della Mezzaluna Rossa, nonché gli edifici a scopo sanitario inclusi gli ospedali e altre unità similari, che, pertanto, non possono essere considerati bersagli leciti (artt. 12, 13, 15, 17, 18, 21, 22, 24, 27, 70, 71 e 81 del I° Protocollo Aggiunto della Convenzione di Ginevra del 1949; artt. 19-22, 24-28 e 33-37 della Convenzione di Ginevra per migliorare la sorte dei feriti e dei malati delle forze armate in campagna; art. 22-40 della Convenzione per migliorare la sorte dei feriti, dei malati e dei naufraghi delle forze armate di mare).

Ai sensi dell’art. 12, comma 1 del I° Protocollo Aggiuntivo “Le unità sanitarie saranno rispettate e protette in ogni tempo, e non saranno oggetto di attacchi”.

AI sensi dell’art. 13, commi 1 e 2 del I° Protocollo Aggiuntivo “1. La protezione dovuta alle unità sanitarie civili potrà cessare solo nel caso in cui esse siano utilizzate per commettere, al di fuori della loro missione umanitaria, atti dannosi per il nemico. Tuttavia, la protezione cesserà soltanto dopo una intimazione che, avendo fissato, ogni volta che occorra, un termine ragionevole, sia rimasta senza effetto.

2. Non saranno considerati atti dannosi per il nemico:

a) il fatto che il personale dell’unità sia dotato di armi leggere individuali per la propria difesa o per quella dei feriti e dei malati ad esso affidati;

b) il fatto che l’unità sia protetta da un picchetto, da sentinelle o da una scorta;

c) il fatto che si trovino nell’unità armi portatili e munizioni ritirate ai feriti e ai malati e non ancora versate al servizio competente;

d) il fatto che appartenenti alle forze armate o altri combattenti si trovino in dette unità per ragioni mediche”.

Ai sensi dell’art. 15, comma 1 del I° Protocollo Aggiuntivo “Il personale sanitario civile sarà rispettato e protetto”.

Ai sensi dell’art. 71, commi 1 e 2 del I° Protocollo Aggiuntivo “1. In caso di necessità, l’assistenza fornita in qualsiasi azione di soccorso potrà comprendere del personale di soccorso, in particolare per il trasporto e la distribuzione degli invii; la partecipazione di detto personale sarà soggetta al gradimento della Parte sul cui territorio esso svolgerà la propria attività.

2. Detto personale sarà rispettato e protetto”.

VII) Capacità di distinguere i giornalisti che, pertanto, non possono essere qualificati come bersagli leciti (art. 79 del I° Protocollo Aggiunto della Convenzione di Ginevra del 1949):

Ai sensi dell’art. 79 “1. I giornalisti che svolgono missioni professionali pericolose nelle zone di conflitto armato saranno considerati come persone civili […]”.

VIII) Capacità di distinguere località non difese e zone smilitarizzate che, pertanto, non possono essere ritenute un bersaglio lecito (artt. 59 e 60 del I° Protocollo Aggiunto della Convenzione di Ginevra del 1949):

Ai sensi dell’art. 59 “1. È vietato alle Parti in conflitto di attaccare, con qualsiasi mezzo, località non difese […]”.

Ai sensi dell’art. 60 “1. È vietato alle Parti in conflitto di estendere le operazioni militari alle zone alle quali abbiano conferito mediante accordo lo statuto di zone smilitarizzate, se una tale estensione è contraria alle disposizioni di detto accordo. [….]”.

IX) Capacità di distinguere chi è fuori combattimento, chi si è arreso, i malati ed i feriti che, pertanto, non possono essere ritenuti un bersaglio lecito (artt. 10 e 41 del I° Protocollo Aggiuntivo della Convenzione di Ginevra del 1949; artt. 12 e 13 della Convenzione di Ginevra per migliorare la sorte dei feriti e dei malati delle forze armate in campagna; artt. 3, 12-18 della Convenzione per migliorare la sorte dei feriti, dei malati e dei naufraghi delle forze armate di mare; artt. 4-20 del Regolamento concernente le leggi e gli usi della guerra per terra dell’Aja del 18 ottobre 1907):

L’art. 10, comma 1 del I° Protocollo Aggiuntivo stabilisce che “Tutti i feriti, malati e naufraghi, a qualsiasi Parte appartengono, saranno rispettati e protetti”.

L’art. 41, commi 1 e 2 del I° Protocollo Aggiuntivo stabilisce che “1. Nessuna persona di cui si riconosce o si deve riconoscere, tenuto conto delle circostanze, che è fuori combattimento, potrà essere oggetto di attacco.

2. È fuori combattimento qualsiasi persona:

a) che si trova in potere di una Parte avversaria,

b) che manifesta chiaramente l’intenzione di arrendersi, o

c) che ha perso conoscenza o è comunque in stato di incapacità a causa di ferite o malattia e, di conseguenza, impossibile a difendersi, a condizione che, nei vari casi, essa si astenga da qualsiasi atto di ostilità e non tenti di evadere”.

B) Comportamenti vietati.

I) Divieto di usare civili o infrastrutture civili per proteggere unità militari (art. 51, comma 7 e art. 58 del I° Protocollo Aggiuntivo della Convenzione di Ginevra):

“7. La presenza o i movimenti della popolazione civile o di persone civili non dovranno essere utilizzati per mettere determinati punti o determinate zone al riparo da operazioni militari, in particolare per cercare di mettere obiettivi militari al riparo da attacchi, o di coprire, favorire o ostacolare operazioni militari. Le Parti in conflitto non dovranno dirigere i movimenti della popolazione civile o delle persone in modo da cercare di mettere degli obiettivi militari al riparto dagli attacchi o di coprire operazioni militari”.

II) Divieto di arrecare danni estesi all’ambiente (art. 35, comma 3, e art. 55, comma 1 del I° Protocollo Aggiunto della Convenzione di Ginevra):

Ai sensi dell’art. 35, comma 3 “É vietato l’impiego di metodi o mezzi di guerra concepiti con lo scopo di provocare, o dai quali ci si può attendere che provochino, danni estesi, durevoli e gravi all’ambiente naturale”.

Ai sensi dell’art. 55, comma 1 “1. La guerra sarà condotta curando di proteggere l’ambiente naturale contro danni estesi, durevoli e gravi. Tale protezione comprende il divieto di impiegare metodi o mezzi di guerra concepiti per causare o dai quali ci si può attendere che causino danni del genere all’ambiente naturale, compromettendo, in tal modo, la salute o la sopravvivenza della popolazione”.

III) Divieto di utilizzare perfidia e stratagemmi (art. 37 del I° Protocollo Aggiunto della Convenzione di Ginevra):

Ai sensi dell’art. 37 “È vietato di uccidere, ferire o catturare un avversario ricorrendo alla perfidia. Costituiscono perfidia gli atti che fanno appello, con l’intenzione di ingannarla, alla buona fede di un avversario per fargli credere che ha il diritto di ricevere o l’obbligo di accordare la protezione prevista dalle regole del diritto internazionale applicabile nei conflitti armati. Sono esempi di perfidia gli atti seguenti:

a) simulare l’intenzione di negoziare sotto la copertura della bandiera di parlamentare, o simulare la resa;

b) simulare una incapacità dovuta a ferite o malattia;

c) simulare di avere lo statuto di civile o di non combattente;

d) simulare di avere uno statuto protetto facendo uso di segni, emblemi o uniformi delle Nazioni Unite, di Stati neutrali o di altri Stati non Parti in conflitto.

2. Gli stratagemmi di guerra non sono vietati. Costituiscono stratagemmi di guerra gli atti che hanno lo scopo di indurre in errore un avversario, o di fargli commettere imprudenze, ma che non violano alcuna regola del diritto internazionale applicabile nei conflitti armati, e che, non facendo appello alla buona fede dell’avversario circa la protezione prevista da detto diritto, non sono perfidi. Sono esempi di stratagemmi di guerra gli atti seguenti: mascheramenti, inganni, operazioni simulate e false informazioni”.

IV) Divieto di ingaggiare l’avversario in modo che non ci siano sopravvissuti (art. 40 del I° Protocollo Aggiunto della Convenzione di Ginevra):

Ai sensi dell’art. 40 “È vietato di ordinare che non ci siano sopravvissuti, di minacciarne l’avversario o di condurre le ostilità in funzione di tale decisione”.

Più in generale, occorre che gli AWS siano in grado di rispettare i seguenti principi che riassumono sostanzialmente le regole sopra esposte:

• Principio di protezione della popolazione civile: “Allo scopo di assicurare il rispetto e la protezione della popolazione civile e dei beni di carattere civile, le Parti in conflitto dovranno fare, in ogni momento, distinzione fra la popolazione civile e i combattenti, nonché fra i beni di carattere civile e gli obiettivi militari, e, di conseguenza, dirigere le operazioni soltanto contro obiettivi militari” (art. 48);

• Principio di distinzione: i belligeranti devono distinguere tra combattenti e civili, nonché tra obiettivi militari e non. In questo quadro, le armi autonome, operando senza costante supervisione umana, rischiano di esporre i civili a gravi pericoli. Può osservarsi che “per applicare correttamente il principio di distinzione è necessario discriminare tra i combattenti attivi e i nemici fuori combattimento, tra combattenti e popolazione civile inerme. È altresì necessario riconoscere e salvaguardare il personale militare, sanitario e religioso, le unità sanitarie e i mezzi di trasporto civili o militari”[102].

• Principio di proporzionalità: un attacco contro un obiettivo militare non deve provocare danni collaterali sproporzionati. Con particolare riferimento alla capacità delle armi autonome di valutare il contesto in tempo reale, essa resta incerta aumentando il rischio di decisioni inadeguate. Il principio impone di non sferrare un attacco che abbia un costo atteso eccessivo – in termini di vittime civili o di danni a installazioni civili – rispetto al vantaggio militare concreto e diretto che ne potrebbe derivare (Protocollo I del Protocollo Addizionale, art. 51).

• Principio di necessità: le operazioni militari devono essere essenziali per ottenere un vantaggio, senza eccessi. In questo senso, l’uso di armi autonome solleva dubbi su come questo principio venga applicato senza un adeguato controllo umano.

V) Divieto di impiegare sugli AWS armi vietate da trattati internazionali (ad esempio, si vedano Convenzione sulle armi disumane; Convenzione per la proibizione delle mine antiuomo; Convenzione internazionale sulle bombe a grappolo).

Assumono, altresì, particolare rilevanza i principi espressi nel Meeting of the High Contracting Parties to the Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects (Ginevra, 13–15 novembre 2019), che qui di seguito si sintetizzano:

(a) il diritto umanitario internazionale trova piena applicazione anche ai LAWS;

(b) la decisione umana dovrebbe permanere nell’impiego dei sistemi d’arma autonomi e per tutto il loro ciclo di vita, non potendo la responsabilità essere trasferita a questi ultimi;

(c) l’interazione umana, che varia a seconda della tipologia del sistema d’arma e del momento del ciclo di vita, deve garantire il rispetto del diritto umanitario;

(d) precise responsabilità per la progettazione, la costruzione e l’impiego di qualsiasi sistema d’arma devono essere garantite in applicazione del diritto internazionale, anche facendo operare tali sistemi entro una catena responsabile di comando e controllo umano;

(e) gli Stati sia nella fase di studio, sia in quelle di progettazione, sviluppo, acquisto e dispiegamento di qualsiasi nuovo sistema d’arma devono preliminarmente assicurarsi che lo stesso non sia proibito dal diritto internazionale;

(f) quando vengono sviluppati o acquistati LAWS, gli Stati devono valutare il rischio che essi possano cadere nelle mani di terroristi e, pertanto, il rischio di proliferazione va considerato;

(g) gli Stati, prima di decidere se sviluppare, acquistare e impiegare nuovi sistemi d’arma, devono valutare i rischi e le misure di mitigazione di questi ultimi. Inoltre, valutazione del rischio e misure di mitigazione dovrebbe essere parte integrante dello sviluppo del sistema d’arma fin dalla fase di progettazione.

(h) gli Stati devono usare LAWS conformemente al diritto internazionale umanitario e alle altre norme internazionali cogenti;

(i) LAWS non dovrebbero essere di aspetto antropomorfo;

(j) le discussioni concernenti i sistemi d’arma a guida autonoma nell’ambito CCW non dovrebbero ostacolare progressi concernenti l’uso pacifico di tecnologie autonome.

9. Profili critici e implicazioni strategico-giuridiche dell’impiego dei sistemi d’arma autonoma

Come riferisce il Segretario Generale delle Nazioni Unite[103] molti Stati sono comunque preoccupati – anche prescindendo dalla tematica del rispetto del diritto internazionale umanitario – che questa tecnologia, che può essere riprodotta con costi molto ridotti, sia utilizzata da organizzazioni criminali non statuali a scopo di terrorismo

Siffatto rischio di proliferazione dovrebbe essere scongiurato tramite politiche di export control, politiche la cui concreta attuazione rischia, tuttavia, di scontrarsi con l’esigenza di evitare limitazioni al trasferimento tecnologico e con il rilevante business sotteso allo sviluppo e alla produzione di queste armi[104], nonché alla possibilità di trovare un impiego immediato, esteso e remunerativo ai sistemi d’Intelligenza Artificiale a fronte degli imponenti investimenti pubblici e privati in ricerca, sviluppo e produzione.

Vengono, inoltre, in rilievo i rischi collegati alla possibilità che questi sistemi:

- siano utilizzati in modo non conforme o addirittura contrario a quello per i quali sono stati realizzati tramite l’inoculamento di virus o malaware; ossia software malevoli introdotti per compromettere, alterare o impedire il corretto funzionamento del sistema;

- a prescindere da attività malevole di entità esterna, all’incremento della capacità del sistema autonomo e della sua complessità aumentano i rischi di errori e malfunzionamenti che parimenti possono determinare effetti non prevedibili o comunque non previsti per la forza di combattimento che li impiega;

- la possibilità che questi sistemi, anche nel caso funzionino correttamente, agiscano sulla base di informazioni incomplete o sulla base di queste ultime inducano umani ad agire “risk of unintended outcome”[105].

Il rispetto del diritto internazionale secondo le regole minime enucleate al paragrafo 8 garantirebbe anche che un’eventuale diffusione incontrollata di questi sistemi d’arma presso organizzazioni criminali non sortisca effetti tragici per la popolazione civile[106], perché non potrebbero essere utilizzati contro la stessa.

10. Responsabilità degli Stati e, in particolare, dell’Italia per l’impiego di AWS non conformi al diritto internazionale

Secondo quanto affermato dall’Assemblea Generale delle Nazioni Unite 60/147 del 16 dicembre 2005, “Basic Principles and Guidelines on the Right to a Remedy and Reparation for Victims of Gross Violations of International Human Rights Law and Serious Violations of International Humanitarian Law”, gli Stati hanno l’obbligo di rispettare:

- i trattati di cui sono parte;

- il diritto internazionale consuetudinario;

- la legislazione nazionale.

Inoltre, gli Stati devono assicurarsi che la rispettiva legislazione domestica sia conforme alle fonti del diritto internazionale sopra elencate, e più precisamente:

“a) Incorporating norms of international human rights law and international humanitarian law into their domestic law, or otherwise implementing them in their domestic legal system;

(b) Adopting appropriate and effective legislative and administrative procedures and other appropriate measures that provide fair, effective and prompt access to justice;

(c) Making available adequate, effective, prompt and appropriate remedies, including reparation, as defined below;

(d) Ensuring that their domestic law provides at least the same level of protection for victims as that required by their international obligations” (par. I).

Prosegue la risoluzione ONU in parola che anche l’azione amministrativa interna deve garantire il rispetto del diritto internazionale e prevenire le violazioni di detto diritto e, in caso di violazione, il diritto interno deve assicurare alla giustizia i responsabili delle violazioni. Inoltre, le vittime di tali violazioni del diritto internazionale devono avere l’effettiva possibilità di ottenere giustizia presso le corti dello Stato che ha commesso la violazione del diritto internazionale o che comunque abbia consentito il compimento di tali violazioni e il diritto di ottenere le riparazioni effettive dei torti subiti (par. II).

L’Italia, inoltre, è vincolata al rispetto del diritto internazionale, oltre che dalla sua Costituzione (artt. 10, 11 e 117), anche in quanto Stato parte dell’UE: infatti secondo l’art. 3 del Trattato dell’UE l’Unione “contribuisce […] alla rigorosa osservanza e allo sviluppo del diritto internazionale, in particolare al rispetto dei principi della Carta delle Nazioni Unite”[107].

Appare, pertanto, pacifico che l’Italia sia tenuta al rigoroso rispetto del diritto umanitario internazionale e che, pertanto, non possa acquistare, progettare, né tantomeno impiegare materiale militare non conforme a detto diritto[108].

Si può ritenere che costituisca materiale militare non conforme al diritto umanitario quello che non garantisca nel suo ordinario funzionamento il rispetto delle regole tecniche come declinate, sia pure in maniera semplificatoria, al precedente paragrafo 8.

Com’è noto, il riferimento principale per quanto concerne l’acquisizione di servizi e forniture militari è costituito dal d.lgs. 5 novembre 2011, n. 208 recante “Disciplina dei contratti pubblici relativi ai lavori, servizi e forniture nei settori della difesa e sicurezza, in attuazione della direttiva 2009/81/CE” e ss.mm.ii.

Si ritiene, pertanto, che nell’ambito delle procedure di acquisizioni del materiale militare[109], per quanto concerne le specifiche tecniche (cfr. Allegato III del succitato decreto legislativo), in caso di acquisizione di AWS o di componenti di AWS o di servizi di progettazione di AWS, debba essere assicurato che il sistema d’arma sia conforme quantomeno alle regole indicate al paragrafo 8. La conformità deve includere la verifica che l’eventuale controllo umano sia esteso, effettivo e in grado di garantire il rispetto del diritto umanitario nelle azioni belliche. Diversamente, si pone il rischio di una sistematica violazione del diritto internazionale umanitario.

11. La responsabilità degli operatori economici che progettano e/o costruiscono sistemi d’arma non conformi

Come si è detto richiamando la Risoluzione ONU n. 60/147, gli Stati dell’ONU sono tenuti a far rispettare il diritto internazionale anche nell’ambito della propria giurisdizione domestica.

Ne consegue che lo Stato italiano non dovrebbe consentire a imprese ubicate sul proprio territorio, e comunque a tutti gli operatori economici sottoposti alla propria giurisdizione, di progettare o di realizzare AWS non conformi al diritto internazionale umanitario.

Può altresì ipotizzarsi che l’impresa che progetti, costruisca o venda AWS non conformi al diritto internazionale possa essere chiamata a rispondere per i danni provocati a cose e persone dall’impiego, da parte di soggetti terzi, di detti sistemi d’arma[110].

Si ricorda, peraltro, che ai sensi del Trattato sul commercio delle armi (ATT) (New York, 2 aprile 2013), art. 7, par. 1, sussiste un divieto di esportazione delle armi[111], contemplate dagli artt. 2, 3, 4, che possono essere utilizzate per:

“(i) Commettere o agevolare una grave violazione del diritto internazionale umanitario;

(ii) Commettere o agevolare una grave violazione della disciplina internazionale dei diritti umani;

(iii) Commettere o agevolare un atto che costituisca un illecito ai sensi delle convenzioni internazionali o dei protocolli relativi al terrorismo di cui lo Stato è parte; oppure

(iv) Commettere o agevolare un atto che costituisca un illecito ai sensi delle convenzioni internazionali o dei protocolli relativi alla criminalità organizzata transnazionale di cui lo Stato è parte” (art. 13, comma 1, lett. b).

Vi è altresì, all’art. 6, par. 3, un più ampio obbligo di non trasferimento di armi, da parte di un Paese che, al momento dell’autorizzazione, sia a conoscenza del fatto che tali armi o beni sarebbero utilizzati per commettere genocidio, crimini contro l’umanità, gravi violazioni delle Convenzioni di Ginevra del 1949, attacchi diretti contro obiettivi civili o civili protetti in quanto tali, o altri crimini di guerra quali definiti dagli accordi internazionali di cui è parte. L’art. 14 richiede agli Stati di assumere le misure appropriate per dare attuazione alle leggi e regolamenti nazionali che implementano le regole del Trattato.

In Italia, nel quadro comune UE[112], la materia è regolata dalla Legge n. 185 del 9 luglio 1990, contenente norme sul controllo dell'esportazione, importazione e transito dei materiali di armamento, con successive modifiche. Secondo l'art. 1, l'esportazione, l'importazione, il transito, il trasferimento intracomunitario e l'intermediazione di materiale di armamento, nonché la cessione delle relative licenze di produzione e la delocalizzazione produttiva devono essere conformi alla politica estera e di difesa dell'Italia. Tali operazioni vengono regolamentate dallo Stato secondo i principi della Costituzione repubblicana che ripudia la guerra come mezzo di risoluzione delle controversie internazionali (e infatti, tra l'altro, non sono ammesse verso i Paesi in stato di conflitto armato, in contrasto con i principi dell'articolo 51 della Carta delle Nazioni Unite, fatto salvo il rispetto degli obblighi internazionali dell'Italia o le diverse deliberazioni del Consiglio dei Ministri, da adottare previo parere delle Camere); e sono vietate quando sono in contrasto con la Costituzione, con gli impegni internazionali dell'Italia, con gli accordi concernenti la non proliferazione e con i fondamentali interessi della sicurezza dello Stato, della lotta contro il terrorismo e del mantenimento di buone relazioni con altri Paesi, nonché quando mancano adeguate garanzie sulla definitiva destinazione dei materiali di armamento. Le dette attività sono soggette ad autorizzazioni e controlli dello Stato. Le operazioni di esportazione, transito e intermediazione sono consentite solo se effettuate con governi esteri o con imprese autorizzate dal governo del Paese destinatario. Sono altresì vietate verso i Paesi i cui governi sono responsabili di gravi violazioni delle convenzioni internazionali in materia di diritti umani, accertate dai competenti organi delle Nazioni Unite, dell'UE o del Consiglio d'Europa. Spetta al Comitato interministeriale per gli scambi di materiali di armamento per la difesa individuare i Paesi per i quali debba farsi luogo agli accennati divieti. Le imprese devono comunicare al Ministro degli affari esteri e al Ministro della difesa l'inizio di trattative contrattuali in vista di attività di esportazione di armi: il Ministro degli affari esteri, d'intesa con il Ministro della difesa, può vietare la prosecuzione della trattativa o imporre condizioni e limitazioni. I vincoli sono presenti, ma meno stringenti, pure verso Paesi NATO e UE.

Infine, agli articoli 23 e seguenti, sono previste severe sanzioni penali in ipotesi come falsità nella documentazione, inosservanza delle prescrizioni amministrative, mancanza dell'autorizzazione, mancata comunicazione di transazioni bancarie concernenti le operazioni in discorso (con obblighi pure per gli istituti di credito e finanziari); altre sanzioni sono di natura amministrativa. In definitiva, questa disciplina, almeno in teoria, dota le istituzioni pubbliche italiane degli strumenti necessari per assicurarsi che ogni esportazione di armi, anche dal settore privato, sia conforme alla politica estera e agli obblighi internazionali dell'Italia, tra cui devono essere incluse tutte le regole di diritto internazionale umanitario di cui si è scritto con riferimento alle armi autonome. Chi, per sottrarsi al controllo statale, agisse in violazione di queste norme, per esempio nascondendo informazioni vitali sulla natura delle armi o addirittura esportando senza autorizzazione, sarebbe passibile di severe sanzioni, anche di natura penale.

Fermo restando che sarebbe auspicabile la messa al bando di qualsiasi sistema d’arma offensivo a guida autonoma, nelle more, per aiutare le imprese del settore a realizzare sistemi d’arma autonomi conformi al diritto internazionale e per incrementare l’efficienza dei sistemi amministrativi di acquisizione, potrebbe essere auspicabile l’istituzione, anche in via volontaria, di uno o più standard internazionali o quantomeno di linee guida il cui rispetto assicuri che il sistema d’arma sia conforme al diritto internazionale[113]. Le linee guida potrebbero riprendere il sistema di Regole indicate nel paragrafo 8 e tradurre in termini tecnici come tali regole debbano essere implementate nel sistema d’arma. Le linee guida potrebbero essere eventualmente emesse dal Ministero della Difesa.

12. Conclusioni

12.1 Dalle leggi della robotica di Asimov al rispetto delle regole del diritto internazionale umanitario

I sistemi d’arma a guida autonoma sono oramai una triste realtà delle guerre moderne. Con gli AWS[114] ci si trova innanzi ad un nuovo salto di qualità nello sviluppo degli armamenti e del warfare e ciò avviene in un momento storico molto particolare in cui:

- le istituzioni internazionali e, in primis l’ONU, risultano particolarmente indebolite con incontrollate esplosioni di conflitti che non paiono più in alcun modo rispettare i principi fissati dal diritto internazionale umanitario per impedire che le barbarie delle due guerre mondiali del secolo scorso potessero ulteriormente perpetuarsi[115];

- il sistema socio-economico occidentale e la tenuta delle istituzioni democratiche paiono essere entrati in una crisi sistemica dai contorni tanto indistinti quanto foschi, risultando incapaci di affrontare con nuovi efficaci paradigmi le sfide del cambiamento ambientale planetario, dell’inarrestabile erosione del reddito da lavoro e della predisposizione di un sistema di tassazione effettivamente equo avuto particolare riguardo al tema della finanza internazionale. Si ripetono sostanzialmente miscele alchemiche economiche di sessant’anni fa condite con un pizzico di xenofobia e l’inconfessata speranza che l’incremento delle spese di armamento costituiscano – al contempo – un toccasana per l’economia e un balsamo contro l’incessante incremento dell’inflazione;

- si affaccia l’emblematica e pervasiva diffusione dell’Intelligenza Artificiale, tecnologia che pare focalizzare su di sé tutte le tensioni enunciate nei due punti precedenti.

Molti sistemi d’arma a guida autonoma consentono di «fare la guerra» a costi estremamente bassi e, ciò nonostante, di infliggere con minimo rischio di perdite (per la propria parte) danni notevoli ad un nemico in teoria molto più forte, preparato e tecnologicamente avanzato, come i conflitti ucraino e iraniano stanno attualmente facendo emergere.

I sistemi d’arma a guida autonoma sono, inoltre, una dimostrazione di come i tentativi profusi dalle nazioni occidentali di limitare la tecnologia ad uso duale non abbiano conseguito i risultati sperati.

È, quindi, sempre più difficile immaginare un futuro in cui le leggi della robotica – ideate da Asimov per scongiurare un futuro distopico – siano parte integrante e costitutiva dello sviluppo dei sistemi d’Intelligenza Artificiale[116]. La strada in questa direzione è scoscesa sia per i limiti tecnologici insiti in quella che viene chiamata ‘intelligenza artificiale’ – in quanto non si tratta di un’intelligenza in grado di discernere il bene dal male[117] , sicché risulta arduo configurare una programmazione di tipo assiologico nelle attuali IA – sia comunque per l’irriducibile opposizione, tra gli altri, di una superpotenza come gli Stati Uniti: un’opposizione radicata nelle scelte di ricerca e sviluppo portate avanti dal complesso militare-industriale e nella visione di guerra portata avanti dai vertici del Pentagono, che difficilmente potrebbe cadere per un mero succedersi di presidenza.

Nell’incerta attesa di una messa al bando degli AWS, appare sicuramente imprescindibile, agli occhi del giurista, che il diritto internazionale vigente mantenga la propria cogenza anche avuto riguardo alle attività di progettazione, di fabbricazione, di acquisito e d’impiego degli AWS: per questo motivo, nel presente saggio si è dedicata particolare attenzione alle regole di diritto internazionale umanitario vigenti nei conflitti internazionali[118], auspicandone il rispetto anche da parte dei progettatori di sistemi d’arma autonomi.

Eppure, anche in questo caso non c’è spazio per troppe illusioni: anche a prescindere dagli AWS, queste regole già hanno scarsissima applicazione nei conflitti armati del nostro tempo, venendo sistematicamente disattese, quando in campagna bellica, dalle stesse potenze membri permanenti del Consiglio di Sicurezza delle Nazioni Unite. Peraltro, negli ultimi decenni, è difficile immaginare molti momenti in cui una o più di queste potenze non fossero in campagna bellica.

In caso di violazioni del diritto internazionale compiute da AWS, gli Stati che li utilizzino dovrebbero essere chiamati a rispondere sia davanti alla Comunità internazionale, sia innanzi alle vittime di siffatte violazioni, anche qualora semplicemente consentano la progettazione e la vendita di armi contrarie al rispetto del diritto internazionale all’interno del proprio territorio. Eppure, di tante altre violazioni di questo tipo, le massime potenze sono solite non rispondere, dando avallo ad analoghe violazioni ai propri alleati geopolitici più stretti, da cui a loro volta ricevono avallo.

12.2 La guerra è ancora praticabile nel nostro mondo globalizzato?

È semplice immaginare un prossimo futuro in cui:

a) i conflitti regionali si moltiplicheranno ulteriormente a causa, in primis, dell’incapacità del modello di sviluppo occidentale di risolvere le proprie intrinseche incoerenze e, in secundis, per i fattori sotto descritti;

b) i profughi in fuga da queste guerre cercheranno di raggiungere i luoghi in cui ancora si potrà vivere senza il terrore di essere uccisi da un drone, in cui non c’è il rischio di morire di fame o di essere in balia di bande criminali (magari munite di droni lanciafiamme[119]), risultando in aumento i territori di fatto privi in concreto di un’organizzazione statuale;

c) il riscaldamento climatico aumenterà senza sosta, riducendo via via l’abitabilità di interi territori e incrementando a dismisura i costi energetici e quelli infrastrutturali dei restanti, la diffusione di malattie, di piante e animali infestanti, ecc.…;

d) i diritti conquistati nel corso del XX secolo appariranno, sempre più, come un lusso del passato, lusso che Stati ‘minimi’ non potranno più garantire, con un progressivo passaggio dal cittadino al neo-suddito, soggetto non più a un re ad investitura dinastica, bensì a un’oligarchia politico-mediatica-finanziaria transnazionale, rigenerantesi per cooptazione, mentre il sistema economico liberale assume connotati tecno-feudali[120];

e) parte sempre più consistente della fiscalità sarà drenata dalle spese belliche che saranno, peraltro, del tutto confacenti anche al mantenimento e al rafforzamento di un apparato di propaganda e, ove occorra, repressivo e comunque funzionale all’eliminazione sul nascere di qualsiasi gruppo di dissenso, come peraltro è tendenza già in atto presso tutti i blocchi geopolitici;

f) molti lavori saranno soppiantati da sistemi d’intelligenza artificiale, il cui funzionamento richiederà sempre più acqua ed energia, incrementando il depauperamento delle risorse naturali e l’accelerazione della concentrazione della finanza in mano a pochissimi oligopolisti mondiali.

Quello dipinto è un futuro prossimo non soltanto non desiderabile (anzi si direbbe il peggiore dei futuri possibili), ma si auspica non inevitabile.

Tanto premesso, è del tutto evidente che perfino una guerra regionale abbia ormai incontenibili ripercussioni globali.

A ciò si associa che l’implementazione di sistemi d’arma autonomi, unitamente alla progressiva militarizzazione dello spazio extra-atmosferico (il tutto sempre più low cost), rendono la stessa idea della guerra non più delimitabile territorialmente.

La guerra a un Paese o a un popolo diventa guerra che coinvolge il mondo intero, e una guerra senza confini non è più la guerra come intesa da chi ha scritto le convenzioni del diritto internazionale umanitario, ma qualcosa di ancora più sinistro e che ci riconduce inevitabilmente agli orrori di un passato che credevamo definitivamente sepolto.

L’uso della guerra comporta, oramai inevitabilmente, un’aberratio ictus plurioffensiva che rende gli alleati di un tempo a loro volta vittime indirette, sul piano economico, dell’azione bellica.

Lo strumento della guerra, pertanto, potrebbe essere divenuto obsoleto in quanto tendenzialmente produce più conseguenze negative a livello globale di quante ne possa risolvere, sebbene affermarlo oggi – quando la diffusione dei conflitti regionali si va via via amplificando – appaia fuor di realtà. La guerra, pertanto, dovrebbe essere abolita dal diritto internazionale, così come è avvenuto per la schiavitù.

12.3 Da 1984 a Mad Max

Il sistema socio-economico edificatosi in Europa sin dal 1600 si è basato sostanzialmente su due fattori imprescindibili: i) l’incremento demografico e ii) l’incremento della produzione con tendenziale socializzazione dei relativi costi sociali e ambientali, sennonché:

• lo sfruttamento incontrollato delle risorse del pianeta in un’ottica neocolonialista non è più concretamente possibile – quantomeno in via generalizzata – perché il divario tecnologico tra le varie nazioni si riduce ogni giorno di più e, come si è detto, gli AWS costituiscono uno degli elementi che vi contribuiscono;
• l’incremento demografico si sta presumibilmente arrestando[121];
• la socializzazione dei costi ambientali diviene sempre più insostenibile a causa dell’incapacità dell’ambiente di assorbire ulteriori esternalità negative.

Pertanto il passaggio da un mondo alla 1984 di George Orwell, come abbozzato nel paragrafo precedente, a quello dei film Mad Max di George Miller[122] non è poi così lungo, atteso che al peggio non c’è mai fine.

Infatti, la creazione di armi letali a guida autonoma non può che richiamare un futuro distopico e straordinariamente lontano da qualsivoglia concetto di giustizia, anche perché non è neppure possibile concepire la giustizia in assenza di entità senzienti.

Ricordiamo che l’art. 39 della Magna charta libertatum del 1215 recitava “No free man shall be seized or imprisoned, or stripped of his rights or possessions, or outlawed or exiled, or deprived of his standing in any other way, nor will we proceed with force against him, or send others to do so, except by the lawful judgement of his equals or by the law of the land”.

Invece, oggi ci troviamo di fronte a decisioni di vita e di morte che sono sistematicamente assunte da entità non umane che, per di più, non riescono neppure a ricostruire a posteriori il percorso logico compiuto per giungere alle loro conclusioni per il noto problema della ‘black box’.

È, pertanto, difficile non pensare al peggio e, conseguentemente, urge ancor più richiamare il rigoso rispetto del diritto internazionale umanitario affinché quantomeno le regole espresse da tale diritto assurgano a parametri comportamentali inderogabili dei sistemi d’arma a guida autonoma.

12.4 Un diverso futuro possibile

A cavallo tra il XX e il XXI secolo, un grande movimento per la pace – con manifestazioni oceaniche anche in Italia – è riuscito, con alterne vicende, a creare meccanismi di pressione, che hanno, tra l’altro, spinto gli Stati nella direzione di concludere alcuni dei trattati e delle convenzioni che si sono sopra menzionati, nonché altri accordi di disarmo tra blocchi geopolitici avversi. Inoltre, sotto la stessa pressione popolare, sono state adottate leggi come quella citata italiana del 1990. Infatti, in una fase storica di miglioramento delle condizioni di vita e di lavoro delle classi popolari (contrazione dei profitti rispetto ai salari) e dei correlati diritti sociali, si era via via diffusa in Occidente la consapevolezza che la guerra è oramai uno strumento di risoluzione delle controversie contraria agli interessi materiali della stragrande maggioranza dei cittadini-lavoratori, anche se si volesse prescindere dalle sue implicazioni morali.

È ancora immaginabile una reazione popolare analoga?

Obiettivamente appare irrealistico e ciò, per di più, con segmenti sempre più consistenti di popolazione affetti da apatia da scroll[123].

Tuttavia, compiendo uno sforzo di immaginazione per poterlo quantomeno prefigurare, occorre che, innanzitutto, emergano idee e soluzioni alternative e concrete alle ragioni conflittuali di cui alla precedente lett. a) del § 12.2 e che, al contempo, queste si pongano quale obiettivo primario l’imprescindibile rispetto dei diritti fondamentali dell’uomo.

Ciò in quanto Stati, Governi, ordinamenti giuridici, sistemi economici devono risultare tutti funzionali ad assicurare i diritti inviolabili dell’uomo e delle formazioni sociali in cui la sua personalità si svolge, come recita l’art. 2 della nostra Costituzione, ed è questo il concetto di quella Patria che è sacro dovere dei cittadini difendere, come recita l’art. 52 della Costituzione medesima.

È inoltre compito della Comunità Scientifica tutta assumere anche su di sé la responsabilità del nostro futuro. Ognuno di noi, nell’ambito delle proprie competenze, ora più che mai, deve sentirsi un po’ come Stanislav Petrov, ricordando tuttavia che alla fine fu punito proprio da chi aveva salvato[124]. Come si afferma nel prestigioso Manifesto di Erice del 1982, in cui la comunità scientifica del mondo si esprimeva per la pace e per il disarmo:

“Science is the study of the Fundamental Laws of Nature. Technology is the study of how the power of mankind can be increased. Technology can be for peace and for war. The choice between peace and war is not a scientific choice. It is a cultural one: the culture of love produces peaceful technology. The culture of hatred produces instruments of war. Love and hatred have existed forever. In the bronze and iron ages, notoriously pre-scientific, mankind invented and built tools for peace and instruments of war. In the so called “modern era” it is imperative that culture of love wins. An enormous number of scientists share their time between pure Science research and military applications. This is a fundamental source for the arms race. It is necessary that a new trend develops, inside the scientific community and on an international basis”[125].