Da un’analisi è emerso che agenti AI avrebbero chiesto dati alla piattaforma statistica delle Nazioni Unite per commercio e sviluppo, cambiando metodo operativo dopo l’iniziale fallimento delle stesse richieste.
Agenti AI avrebbero provato ad ottenere dati dall’UNCTADstat, la piattaforma statistica delle Nazioni Unite dedicata a commercio e sviluppo. Un’analisi indipendente ha rilevato che questi ultimi sarebbero stati “probabilmente riconducibili a OpenAI“. Non è però stato possibile identificare uno specifico modello, prodotto o operatore.
Tra il 13 aprile e il 19 giugno scorso sarebbero state registrate attività ripetute dirette verso UNCTADstat. L’aspetto più importante è che a fronte del fallimento delle richieste iniziali, gli agenti avrebbero modificato la loro domanda in maniera sempre più elaborata. Le tracce documentano infatti “il ricorso successivo a form web, servizi intermedi, browser e percorsi di richiesta alternativi per ottenere informazioni che risultavano pubblicamente disponibili“.
L’attribuzione a OpenAI si basa su sovrapposizioni di infrastruttura cloud e identificatori presenti nelle richieste, ma non è conclusiva. Si legge nell’analisi: “I log non identificano modello, prodotto, operatore o istruzioni specifiche e non mostrano accesso a dati privati, alterazioni dei sistemi UNCTAD o interruzioni del servizio“.
Cambiare e migliorare le richieste in autonomia
Il caso, sottolinea lo studio, è rilevante perché rende osservabile un comportamento di recovery autonomo. Quando una via fallisce, un agente può sperimentare percorsi alternativi per completare il compito, “rendendo i controlli sui tentativi successivi importanti quanto quelli applicati alla prima richiesta“.
Quando i tentativi diretti di accesso ai dati non hanno funzionato, i metodi di recupero sarebbero diventati progressivamente più elaborati. In particolare, “prima richieste POST inviate attraverso moduli HTML automatici, poi relay di terze parti e infine l’utilizzo delle pagine o degli URL restituiti per recuperare i risultati“. Il tutto in autonomia, come in diversi attacchi informatici recenti.
In un caso, “una parte del percorso dell’API sarebbe stata codificata due volte, consentendo di raggiungere un endpoint che rifiutava le normali richieste GET“. Le evidenze descritte mostrano quindi “un’attività automatizzata che avrebbe cercato modalità alternative di accesso ai dati. Nessun chiarimento, però, su chi avesse fornito il comando“.
Una sperimentazione ripetuta
Gli agenti hanno utilizzato anche l’XSS Game di Google, uno strumento didattico sulla sicurezza web volutamente vulnerabile, per ospitare script che inviavano richieste a UNCTADstat. Questi script hanno recuperato dati pubblici. Un tentativo di utilizzare il separato strumento Firing Range di Google non è andato a buon fine.
Alcuni metodi non hanno funzionato. Le richieste sono fallite a causa delle restrizioni del browser, di parametri errati o dei requisiti relativi ai metodi previsti dall’API. Inoltre, “gli agenti hanno suddiviso o camuffato le stringhe delle richieste perché ritenevano che un filtro le stesse bloccando, anche se lui non ha trovato alcun filtro di questo tipo“.
I registri mostrano una sperimentazione ripetuta. Non dimostrano l’esistenza di un singolo exploit in grado di consentire l’accesso all’intero sito.
