Con l’obiettivo di migliorare i parametri di sicurezza dei modelli AI, OpenAI ha impiegato una strategia avanzata di red teaming testando così il nuovo agente autonomo di ChatGPT.
Più sicurezza per OpenAI
Per elevare i livelli di sicurezza dei modelli AI, OpenAI ha impiegato una strategia avanzata di red teaming così da mettere alla prova il nuovo agente autonomo di ChatGPT. Questa funzionalità – riservata agli utenti a pagamento – consente all’agente di operare in modo simile a un assistente personale virtuale.
In questi termini è così possibile eseguire attività complesse come accedere a caselle e-mail, modificare documenti o navigare in rete in autonomia. Tuttavia, tale capacità comporterebbe rischi sensibilmente maggiori. Se non altro, rispetto al normale utilizzo del chatbot ed è perciò che OpenAI ha dovuto intraprendere una serie di azioni senza precedenti.
Si è così organizzato un esperimento generale, sulla base di 110 attacchi simulati, di cui sedici hanno superato le soglie interne di rischio. L’individuazione di sette exploit universali ha indotto modifiche sostanziali all’architettura del sistema.
Il livello delle contromisure
In risposta alle scoperte dei membri del Red Team, OpenAI ha classificato l’agente ChatGPT come “ad alta capacità” per i rischi biologici e chimici. Non tanto perché abbia trovato prove definitive del potenziale di militarizzazione, quanto in qualità di misura precauzionale in relazione ai vari risultati. Da qui ecco:
- classificatori di sicurezza sempre attivi che scansionano il 100% del traffico.
- Un classificatore tematico che raggiunge il 96% di richiamo per i contenuti relativi alla biologia.
- Un monitor di ragionamento con l’84% di richiamo per i contenuti relativi alla militarizzazione.
- Un programma di bio bug bounty per la scoperta continua delle vulnerabilità.
Tra le contromisure più rilevanti vi sono il monitoraggio continuo al 100% delle interazioni, l’adozione di un sistema di classificazione a doppio livello. E insieme, l’introduzione del ‘Watch Mode’, che congela le operazioni in contesti delicati.
In secondo luogo, la funzione memoria è stata disabilitata all’avvio e l’accesso di rete limitato. Così operando è possibile prevenire esfiltrazioni di dati e comandi malevoli.
Nuovi paradigmi di sicurezza
Nonostante alcune potenziali critiche, il risultato è stato una resilienza del 95% contro attacchi tramite browser. Nonché, una notevole efficacia nella protezione contro contenuti biologici o chimici pericolosi.
Il caso ‘ChatGPT Agent‘ dimostra come i red team non siano più semplici strumenti di test, ma architetti fondamentali nella costruzione di modelli AI robusti e affidabili. Il lavoro ha stabilito nuovi paradigmi per la sicurezza nel contesto degli agenti autonomi, rendendo la rapidità di reazione e il monitoraggio totale requisiti imprescindibili per le implementazioni future.
