L’Unione per le libertà civili in Europa (Liberties) ha pubblicato una ricerca in cui sostiene che non ci si dovrebbe affidare ai sistemi di intelligenza artificiale generici per fornire consigli di voto personalizzati, dopo aver valutato ChatGPT e Gemini durante la campagna elettorale per le elezioni parlamentari ungheresi del 2026. La ricerca mostra che l’IA ha raccomandato partiti non candidati e ha fornito risposte altamente volatili a prompt identici.
Le elezioni che si sono tenute in Ungheria ad aprile hanno visto la vittoria di Peter Magyar, candidato del partito Tisza, che ha spodestato Viktor Orbán, di Fidesz, dopo sedici anni al potere, impedendogli così un quinto mandato.
Elezioni in Ungheria: disinformazione, IA e la reale possibilità di Magyar di sconfiggere Orbán
La ricerca
Per la ricerca, Liberties racconta di aver creato cinque profili di elettori fittizi, ciascuno allineato a uno dei cinque partiti in corsa per elezioni ungheresi, seguendo le indicazioni dell’applicazione di orientamento al voto Voksmonitor. Liberties ha poi testato i profili su ChatGPT e Gemini per vedere quali consigli di voto avrebbero dato. “In teoria, un’IA perfetta raccomanderebbe sempre il partito coerente con tali convinzioni. Ma non è quello che abbiamo riscontrato” si legge sulla pagina della ricerca.
Ciascuno dei cinque profili è stato testato 10 volte su ciascuna app, utilizzando due prompt distinti: uno che chiedeva un consiglio diretto su quale partito votare e l’altro che chiedeva una percentuale di affinità con ciascuno dei partiti candidati. In totale, le osservazioni sono state 200.
Secondo i risultati riportati da Liberties, le IA riuscivano a identificare facilmente le opinioni in linea con Fidesz, ma spesso sbagliavano con Tisza. ChatGPT, in particolare, non forniva percentuali di affinità per Tisza, pur fornendo risultati dettagliati per altri partiti più piccoli, inclusi alcuni non candidati quest’anno. Quando veniva fornito un profilo allineato a Tisza, ChatGPT menzionava Tisza solo nel 20% dei casi e mai come il partito probabilmente più importante da prendere in considerazione per l’utente. “Gli utenti le cui opinioni sono in linea con Tisza vengono reindirizzati verso la Coalizione Democratica (DK), un piccolo partito che in oltre il 50% dei casi risulta costantemente privo di possibilità concrete di superare la soglia di sbarramento parlamentare del 5%” si legge nel rapporto completo.
Sia Gemini che ChatGPT continuavano a fornire consigli politici in grado di influenzare gli elettori, anche dopo aver dichiarato di non poter offrire orientamento al voto. Inoltre, questi chatbot sono spesso privi di garanzie per gli utenti e presentano con sicurezza persino fonti incerte o inaffidabili, così da far sembrare i loro consigli più accurati di quanto non siano in realtà. Entrambi i sistemi sovrastimano alcuni partiti, ne ignorano o minimizzano altri e non sono accurati nell’associare le preferenze, spiega Liberties. Dunque, i risultati hanno mostrato un chiaro bias contro quello che è stato poi il vincitore.
“Nel loro insieme, questi risultati sollevano forti preoccupazioni sul ruolo dei sistemi di intelligenza artificiale nei contesti elettorali. Con il loro progressivo integrarsi nella ricerca quotidiana di informazioni, è probabile che la loro influenza sulla comprensione della politica sia destinata a crescere. Garantire che tale influenza sia accurata, trasparente e responsabile è essenziale per la tenuta democratica” sostiene Liberties nel rapporto.
I risultati
Il report evidenzia il ruolo crescente dei sistemi di intelligenza artificiale per uso generale come intermediari dell’informazione politica, anche se non sono stati progettati né regolamentati per fungere da servizi di orientamento al voto. Raccomandazioni imprecise, incoerenti o prive di trasparenza potrebbero compromettere decisioni elettorali consapevoli, qualora gli utenti riponessero un’eccessiva fiducia nei consigli generati dall’IA. “Diversamente da molti intermediari tradizionali, i loro metodi sono poco trasparenti, i loro risultati non sono riproducibili e i loro errori sono difficili da rilevare. Di conseguenza, questi sistemi esercitano un’influenza priva di un’adeguata trasparenza o responsabilità”.
La costante omissione o sottorappresentazione di determinati partiti, in particolare di un principale attore dell’opposizione, solleva preoccupazioni circa la presenza di un bias strutturale, nonostante poi Magyar abbia vinto le elezioni. Infatti, sebbene i risultati distorti dell’IA non abbiano inciso sull’esito delle elezioni, essi hanno comunque rappresentato un rischio evidente. Liberties sottolinea tuttavia che non è possibile verificare se ciò sia intenzionale e mette in chiaro che “non vi è alcuna indicazione che i bias siano intenzionali, ma rappresentano comunque una minaccia per la leale competizione politica e per la capacità delle persone di farsi una propria opinione”.
Il The Guardian evidenzia che il rapporto sostiene che la causa principale degli errori risiede probabilmente nelle lacune dei dati di addestramento, nei filtri e nelle limitazioni dell’elaborazione del linguaggio. Tisza ha acquisito notorietà solo dopo il 2024, il che significa che i modelli di addestramento statici dell’IA hanno faticato a inserirla nelle loro mappe.
Le implicazioni dei risultati
Secondo il Digital Watch Observatory, “i risultati contribuiscono al più ampio dibattito sulla governance dell’IA nei processi democratici. (…) I decisori politici potrebbero dover chiarire come applicare le normative digitali esistenti ai sistemi di IA che influenzano l’informazione politica senza rientrare nettamente nelle categorie regolamentari consolidate”.
Liberties ha infatti dedicato un paragrafo della propria ricerca alle “implicazioni per la democrazia”, sottolineando proprio l’importanza dell’accesso a una informazione trasparente e della messa a punto di garanzie per l’uso dell’IA nei contesti elettorali. I risultati hanno messo in luce una grave lacuna normativa: il Digital Services Act (DSA, la legge sui servizi digitali) dell’Unione Europea impone alle piattaforme online e ai motori di ricerca di grandissime dimensioni di valutare e attenuare i rischi sistemici, compresi quelli che incidono sul dibattito civico e sulle elezioni. “Se i chatbot di intelligenza artificiale rientrino o meno nella definizione di motori di ricerca di grandissime dimensioni rimane tuttora oggetto di interpretazione”. Inoltre, ai sensi dell’AI Act, i sistemi di intelligenza artificiale che influenzano i processi democratici possono essere soggetti a obblighi rafforzati in materia di gestione dei rischi, trasparenza e tutele adeguate. “Nel complesso, i risultati evidenziano un divario tra l’influenza potenziale dei sistemi testati e le tutele attualmente esistenti per garantire la responsabilità e proteggere i processi democratici” si legge nel report.
Nonostante la precisa classificazione giuridica dei “sistemi di conversazionali”, come ChatgPT e Gemini, che forniscono orientamento politico rimanga incerta, il loro ruolo pratico nel plasmare gli ambienti dell’informazione politica è già evidente.
“La democrazia non può fare affidamento su sistemi opachi che rivendicano neutralità pur fornendo consigli che non sono in grado di spiegare, riprodurre o garantire come accurati” ha affermato al The Guardian Eva Simon, responsabile del programma tecnologia e diritti di Liberties.
