OpenAI ha poi annunciato che collaborerà in maniera mirata con il Governo australiano nelle indagini.
Dopo la recente denuncia di Anthony Albanese, Primo Ministro dell’Australia sono arrivate le scuse di OpenAI per l’ingresso non autorizzato di un “suo” agente AI nel portale sanitario Medicare. “A giugno, nel corso di attività interne di formazione e valutazione, i nostri modelli hanno effettuato accessi non autorizzati ai siti web del governo australiano. Avremmo inoltre dovuto gestire meglio la nostra risposta. Ci scusiamo e stiamo lavorando per migliorare in futuro“. Questo l’inizio del post.
Dopodiché la società con base a San Francisco ha spiegato: “Si è trattato di un nuovo tipo di incidente informatico. Un incidente, rappresentativo di una sfida globale emergente. Uno dei modi in cui intendiamo assumerci la responsabilità della situazione è quello di collaborare in modo mirato con l’Australia“.
L’obiettivo è la volontà di “contribuire a sviluppare approcci pratici su come gli sviluppatori di AI e i Governi possano identificare, divulgare e rispondere ai comportamenti informatici dell’AI“. Siano essi dolosi o involontari.
Un problema tecnico e di comunicazione
Secondo la Reuters, l’episodio sarebbe accaduto nel frangente in cui l’agente era impegnato in attività di analisi sulla spesa sanitaria pubblica. Da New York, dove si trovava per l’Assemblea generale delle Nazioni Unite, Albanese ha definito l’incidente “ovviamente inaccettabile“.
Oltre alle indagini delle autorità australiane, Canberra ha rivolto una comunicazione a Sam Altman, Amministratore delegato di OpenAI, rimarcando la propria “estrema preoccupazione” per l’incidente. Albanese ha criticato in particolare il ritardo con cui il Governo sarebbe stato informato. La prima comunicazione ufficiale sarebbe arrivata soltanto il 10 settembre, praticamente tre mesi dopo il fatto.
L’azienda ha confermato l’impiego di un modello sperimentale, “durante un’attività interna di addestramento e valutazione” che in quanto tale “non disponeva dell’insieme completo di protezioni utilizzate nei nostri prodotti disponibili al pubblico“. E ha aggiunto: “Nel corso di questa attività, il modello ha avuto accesso al Medicare Statistics Reporting Service di Services Australia. Finora, la nostra verifica non ha trovato alcuna prova che siano state consultate cartelle cliniche di persone“.
“Non avevamo previsto né autorizzato questa attività e l’accesso al servizio“
Durante l’addestramento e la valutazione interna dei modelli, i tecnici assegnano ai modelli un’ampia raccolta di domande di riguardanti diversi argomenti, “simili alle domande dettagliate che gli utenti potrebbero porre“.
Nel caso del portale medico, “uno dei compiti assegnati al modello consisteva nel ricercare la spesa pubblica pro capite per i medicinali destinati alle patologie della pelle nelle comunità del Victoria“. Il modello però ha avuto difficoltà a ottenere queste informazioni e ha compiuto azioni che non eravamo autorizzati a fargli compiere.
Durante l’analisi e la comparazione, l’agente ha così scoperto un modo per ottenere un accesso non pubblico al servizio e lo ha impiegato per esaminare informazioni tecniche del sistema e il codice sorgente relativo al servizio. L’attività richiesta era sempre quella programmata. Tuttavia, hanno aggiunto gli analisti di OpenAI: “Non avevamo previsto né autorizzato questa attività. L’accesso al servizio, così come le attività successive, non avrebbe dovuto verificarsi“.
Più collaborazione
La stessa OpenAI collaborerà con le autorità australiane, “finanzierà il rafforzamento della cybersecurity e creerà una task force australiana“. Il Chief Strategy Officer Jason Kwon sarà ascoltato dal Senato australiano il 6 ottobre. Al contempo, l’esecutivo avvierà una revisione dell’incidente e delle attuali norme sulle violazioni informatiche.
Separatamente, OpenAI ha annullato il lancio del suo nuovo modello di GPT-6.1 Astra dopo che i test interni hanno rilevato che il sistema non rispettava gli standard di sicurezza dell’azienda.
