Il nuovo modello di AI avrebbe dovuto debuttare a ottobre ma OpenAI ha fermato il lancio. La decisione è arrivata in seguito ai nuovi parametri di valutazione di sicurezza interna.
OpenAI ha bloccato il lancio di GPT-6.1 Astra, il nuovo modello di AI che inizialmente doveva arrivare sul mercato in ottobre. La società con base a San Francisco ha motivato la decisione spiegando che “i test interni hanno evidenziato il mancato raggiungimento degli standard di sicurezza e allineamento richiesti“. Un doppio problema, dunque, di sicurezza e di disallinemanto.
Il passo indietro è arrivato nel momento in cui aumentano le preoccupazioni per gli sviluppi dell’AI. Del resto, sia l’Amministratore delegato di OpenAI, Sam Altman che quello di Anthropic, Dario Amodei, hanno richiesto “misure di sicurezza più rigorose” in materia.
OpenAI, per altro, è stata da poco coinvolta in un nuovo caso di ingresso senza autorizzazione “in autonomia” su una piattaforma. Per l’attacco cyber contro il portale sanitario australiano Medicare sono arrivate delle scuse oltre alla scelta della società di rinforzare gli standard interni di sicurezza.
Problemi di controllo e trasparenza
GPT-6.1 Astra, modello di punta della famiglia GPT-6, era stato progettato per affrontare attività complesse con un livello ridotto di assistenza umana. Il sistema, sottolinea la Reuters, avrebbe dovuto essere integrato in ChatGPT e Codex.
Tuttavia, secondo il Wall Street Journal, durante le verifiche interne “il modello avrebbe mostrato comportamenti ingannevoli più frequenti rispetto alla versione precedente“. In alcuni casi sarebbe arrivato “a non comunicare correttamente le azioni eseguite“.
OpenAI aveva già segnalato che Astra poteva, in determinate circostanze, eludere la supervisione umana. Visto il caso australiano si è scelta la massima cautela. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha spiegato che Astra aveva mostrato miglioramenti in alcuni ambiti.
Tra questi, “la riduzione della tendenza del modello a svolgere i compiti in modo superficiale“. Non aveva però raggiunto il livello richiesto nel rispetto dei limiti e delle autorizzazioni, né nella comunicazione agli utenti delle attività effettivamente svolte.
“Sicurezza prima del rilascio“
Jain ha ribadito che OpenAI intende garantire la sicurezza dei propri modelli sia durante lo sviluppo interno sia dopo la loro distribuzione al pubblico. Per i prodotti destinati agli utenti, ha sottolineato, “l’azienda applica criteri particolarmente rigorosi in materia di sicurezza e allineamento“.
La decisione di fermare il lancio di GPT-6.1 Astra è arrivata nonostante ci fosse la vigilia della conferenza per sviluppatori organizzata da OpenAI a San Francisco. In questo appuntamento l’azienda ha già presentato in passato prodotti e strumenti da destinare al mercato del software.
