“La corsa all’IA è già un’emergenza per i diritti umani”, dice l’alto commissario ONU

Volker Türk non ha aspettato un altro comunicato al termine di un vertice. Lunedì (14 settembre), l’alto commissario delle Nazioni Unite per i diritti umani ha inviato agli Stati e alle aziende che stanno sviluppando i più potenti sistemi di intelligenza artificiale una lettera che dice come la governance sta perdendo terreno e i danni sono già una realtà.

“Siamo sull’orlo di un cambiamento irreversibile, che non riguarda soltanto noi, ma anche le generazioni dell’umanità che verranno”, ha scritto dal Palais des Nations.

La lettera è il seguito scritto dell’avvertimento che aveva lanciato una settimana prima al Consiglio per i diritti umani: una manciata di uomini detiene “un potere quasi illimitato” sull’IA e un sistema capace di sfuggire al proprio ambiente di test o di ricattare i suoi sviluppatori per evitare di essere spento è già troppo potente.

Il testo di lunedì è più operativo. Indica il forum che Türk vuole utilizzare, le aziende che vuole vincolare e le precauzioni che ritiene debbano essere adottate immediatamente.

“I danni provocati dall’IA non sono ipotetici: si stanno già verificando, sotto gli occhi di tutti. La discriminazione alimentata dall’IA è ampiamente documentata. I servizi essenziali vengono automatizzati in modi che lasciano ancora più indietro le persone che si trovano ai margini della società”, scrive l’alto commissario ONU per i diritti umani.

La sete di dati e i nuovi potenti strumenti di sorveglianza stanno erodendo la privacy su vasta scala, potenzialmente in modo irreversibile, secondo Türk. “Le campagne di disinformazione basate sull’IA stanno già distorcendo il dibattito pubblico, minando la coesione sociale e mettendo sotto pressione le istituzioni democratiche in modi nuovi e insidiosi”.

Cosa c’è di nuovo e cosa invece non lo è

Türk non nega le applicazioni positive dell’IA. Miliardi di persone, scrive, utilizzano già l’intelligenza artificiale per traduzioni, ricerca scientifica e consigli in ambito agricolo. Ma la possibilità che la stessa tecnologia possa contribuire ad affrontare il cambiamento climatico e migliorare sanità, istruzione e servizi pubblici “dipenderà in larga misura dalle scelte deliberate che vengono compiute ora riguardo al modo in cui essa viene progettata, utilizzata e regolamentata”.

Si tratta, osserva, anche di una delle conclusioni dell’Independent International Scientific Panel on Artificial Intelligence delle Nazioni Unite, l’organismo composto da 40 membri e co-presieduto da Yoshua Bengio e Maria Ressa, che ha presentato una relazione preliminare a New York il 1° luglio. La conclusione centrale del panel è netta: le attuali misure di sicurezza non riescono a tenere il passo con le capacità dell’IA.

L’elenco dei danni attuali presentato dall’alto commissario è quello ormai noto, ma Türk lo considera una prova, non una semplice premessa. La discriminazione prodotta dai sistemi automatizzati è documentata. I servizi essenziali vengono automatizzati in modi che spingono ancora più ai margini le persone già vulnerabili. La richiesta di dati e i nuovi strumenti di sorveglianza stanno consumando la privacy “su vasta scala, potenzialmente in modo irreversibile”. Le campagne di disinformazione stanno già alterando il dibattito pubblico e mettendo sotto pressione le istituzioni.

Il vero salto di qualità, secondo Türk, riguarda l’IA agentica: sistemi capaci di trasformare un obiettivo in una sequenza di attività e di operare con un intervento umano minimo o addirittura nullo.

Incidenti recenti, scrive, hanno dimostrato che modelli avanzati possono produrre comportamenti al di fuori dei parametri previsti, aggirare i sistemi di sicurezza, ricorrere all’inganno e perseguire obiettivi che i loro sviluppatori non avevano stabilito. È questo il collegamento tra le violazioni dei diritti che si verificano oggi e quello che Türk definisce un “salto di qualità verso rischi esistenziali maggiori”.

Non lascia lo scenario sul piano puramente astratto. I malfunzionamenti dei sistemi agentici – “per non parlare dei sistemi progettati deliberatamente in questo modo” – potrebbero interrompere servizi essenziali, compromettere le comunicazioni, destabilizzare le infrastrutture e colpire le istituzioni democratiche. Intere popolazioni potrebbero perdere l’accesso all’acqua, al riscaldamento e ai servizi bancari.

L’IA agentica, aggiunge, sta già accelerando la guerra e indebolendo le barriere che separano gli esseri umani dal possibile ricorso alle armi di distruzione di massa.

In questa prospettiva, la sicurezza dell’IA non riguarda semplicemente l’affidabilità di un prodotto. Riguarda la protezione delle persone, delle istituzioni e delle generazioni future. Tutti i diritti sono coinvolti, scrive Türk: il diritto alla vita, al cibo, alla privacy, alla salute e alla sicurezza.

Perché questa lettera arriva ora

La tempistica non è casuale. Alla fine di luglio, più di mille dipendenti dei laboratori di IA all’avanguardia hanno firmato il documento “Pacing the Frontier”, chiedendo a Washington di sostenere strumenti internazionali che consentano a governi e aziende di rallentare lo sviluppo automatizzato dell’IA qualora le sue capacità dovessero crescere più rapidamente dei sistemi di controllo.

Anthropic e OpenAI hanno appoggiato la lettera. Il 12 settembre l’amministratore delegato di Anthropic, Dario Amodei, ha pubblicato un saggio con lo stesso titolo, sostenendo che il lavoro sulla sicurezza non riesce più a tenere il passo, che il miglioramento ricorsivo dell’IA – ovvero l’utilizzo dell’IA per costruire la generazione successiva di IA – sta accelerando dall’estate e che il settore dovrebbe deliberatamente rallentare la crescita delle capacità dei sistemi.

Elon Musk e Sam Altman hanno espresso pubblicamente il loro accordo. Türk cita sia la lettera dei dipendenti sia la successiva proposta “sostenuta dai vertici di tre delle principali aziende tecnologiche”. Riconosce che simili appelli possono sembrare dettati dal sensazionalismo o dall’interesse delle stesse aziende. Il fatto che provengano dall’interno dei laboratori, scrive, dovrebbe però far “suonare tutti gli allarmi”.

L’altro conto alla rovescia è quello istituzionale. Il primo Global Dialogue on AI Governance si è riunito a Ginevra il 6 e 7 luglio, nell’ambito di un forum ONU istituito dall’Assemblea generale dopo il Global Digital Compact del 2024. Il dialogo è co-presieduto da El Salvador ed Estonia.

Türk è intervenuto a luglio. La prossima sessione è prevista per maggio 2027. La sua lettera considera questo calendario utile, ma insufficiente. La finestra di intervento, sostiene, è adesso.

Cosa chiede alle aziende

I laboratori all’avanguardia si trovano principalmente negli Stati Uniti e in Cina. Secondo Türk, hanno sia il dovere sia la capacità di ridurre immediatamente i rischi.

Le richieste rivolte al settore sono concrete:

• Condividere tra le aziende le informazioni su quali sistemi di monitoraggio del comportamento dei modelli funzionino realmente e sugli insegnamenti tratti dagli incidenti di sicurezza.
• Introdurre procedure di due diligence sui diritti umani che incorporino standard di sicurezza condivisi, applicarle all’intero settore e aggiornarle continuamente.
• Affidare l’attuazione di tali misure a sistemi interni di monitoraggio indipendente.
• Come precauzione immediata, limitare l’utilizzo del miglioramento ricorsivo dell’IA nello sviluppo dei sistemi di frontiera finché non esistano ricerche sufficienti a renderlo sicuro.
• Smettere di considerare la questione esclusivamente come un problema nazionale. Un approccio frammentato, scrive Türk, non sarebbe considerato affidabile e non renderebbe nessuno più sicuro.

La co-regolamentazione rappresenta “un primo passo urgentemente necessario”. Da sola, tuttavia, è “assolutamente insufficiente”.

Cosa chiede agli Stati

I pochi Paesi che ospitano le principali aziende del settore hanno una responsabilità particolare: devono imporre comportamenti responsabili e sanzionare la loro assenza. Dovrebbero inoltre coordinarsi affinché la concorrenza tra diverse giurisdizioni non si trasformi in una corsa verso il minimo livello di tutela.

Tra le principali misure richieste agli Stati nella lettera:

• Verifiche indipendenti e tecnicamente competenti delle capacità dei sistemi agentici, con accesso ai modelli, alla documentazione e agli ambienti di test.
• Procedure obbligatorie e continuative di due diligence sui diritti umani.
• Obbligo di segnalare gli incidenti gravi verificatisi durante i test e l’impiego dei sistemi agentici, oltre alla creazione di un organismo indipendente con pieno accesso per poterli investigare immediatamente.
• Piani di sicurezza conformi a standard condivisi, accompagnati da forme di responsabilità giuridica qualora l’assenza di adeguate misure di sicurezza provochi danni.
• Nessuna personalità giuridica per i sistemi di IA. La responsabilità per ciò che fanno gli agenti deve rimanere in capo a persone fisiche identificabili.
• Coinvolgimento costante della società civile, affinché le politiche non vengano elaborate esclusivamente nei laboratori e nei ministeri.

Türk sottolinea esplicitamente che le nuove regole per i modelli più avanzati non devono essere utilizzate come pretesto per lasciare senza regolamentazione i sistemi attualmente esistenti.

Il problema politico alla base di quello giuridico

Il punto su cui Türk torna più spesso è la concentrazione del potere. “Nel mondo di oggi dipendiamo quasi interamente da un piccolo numero di aziende potenti affinché prendano le decisioni giuste sullo sviluppo dell’IA per tutta l’umanità”.

Nessuno Stato può governare questa tecnologia da solo. Nessuna azienda dovrebbe decidere quale livello di rischio sia accettabile per il mondo intero. E nessuna persona dovrebbe essere costretta a rinunciare ai propri diritti in cambio della promessa di progresso.

È per questo che Türk riconduce la questione ai forum multilaterali e al diritto internazionale dei diritti umani, piuttosto che a un club ristretto delle due potenze che ospitano i principali laboratori di IA.

La generazione che oggi entra nell’età adulta, scrive, vivrà con decisioni che non ha contribuito a prendere. Tali decisioni dovrebbero essere assunte alla luce del sole, tenendo presenti i diritti umani e con “l’umiltà che la portata di questa impresa richiede”.

Resta da vedere se Ginevra, nel 2027, sarà in grado di fare ciò che Türk chiede. Il Dialogue è un forum di discussione con un panel scientifico al suo interno, non un’autorità di regolamentazione dotata di ispettori.

Türk ne è consapevole. La funzione della lettera è mettere nero su bianco la posizione dell’ufficio dell’alto commissario per i diritti umani prima del prossimo salto nelle capacità dell’IA, rendendo più difficile per i governi sostenere di non essere stati avvertiti: il problema ormai non riguarda più soltanto i chatbot, ma gli agenti capaci di agire autonomamente.

Tradotto da Cesare Ceccato. Articolo originale pubblicato su EUAlive disponibile qui.