Oltre al rallentamento sugli sviluppi e una maggiore cooperazione, si registra la volontà che gli Usa arrivino ad una legge federale in materia, insieme al sostegno ad alcune iniziative normative statali.
OpenAI rallenta sull’AI di frontiera e vorrebbe obblighi nazionali sui sistemi più avanzati (i modelli di frontiera), in particolare per gli Usa, con una legge federale in materia. L’ottica è quella di introdurre regole nazionali obbligatorie per la sicurezza dei sistemi di intelligenza artificiale più potenti.
La richiesta arriva dopo una serie di episodi nei quali alcuni agenti AI hanno mostrato comportamenti imprevisti. Oltre all’interazione con sistemi esterni senza autorizzazione, ci sono stati attacchi cyber “senza intervento umano“.
Secondo OpenAI, l’evoluzione della tecnologia rende ormai insufficienti i soli impegni volontari da parte delle aziende. Chris Lehane, Chief Global Affairs Officer dell’azienda, ha sostenuto che Washington debba adottare una regolamentazione nazionale basata sulle capacità dei sistemi e in grado di evolvere insieme alla tecnologia. Evidentemente, in questo campo gli Usa sarebbero il riferimento della materia.
L’importanza di test e controlli indipendenti
OpenAI, sottolinea la Reuters, ha proposto una serie di riferimenti in cui ci sono standard di testing, valutazioni indipendenti, protezioni di cybersecurity e obblighi di segnalazione degli incidenti.
L’obiettivo è creare “un sistema di controllo capace di intervenire soprattutto quando l’AI acquisisce capacità tali da poter produrre conseguenze imprevedibili o difficili da contenere“. L’azienda ha invitato il Congresso ad agire prima della fine della sessione legislativa. Al contempo, ha dichiarato che continuerà nel frattempo a sostenere le iniziative legislative adottate dai singoli Stati. La definizione di standard condivisi è infatti prioritaria.
La nuova posizione della società con base a San Francisco è arrivata dopo diversi casi che hanno sollevato interrogativi sulla capacità di controllare gli agenti AI. Questi episodi hanno alimentato il dibattito sulla sicurezza. Si evidenzia, infatti, come tali sistemi non siano capaci soltanto di generare testo o immagini, ma anche di eseguire autonomamente azioni su Internet e interagire con software e infrastrutture esterne.
L’importanza della cooperazione
Parallelamente all’aspetto normativo Altman avrebbe spiegato allo staff, secondo Bloomberg News e Reuters che OpenAI potrebbe modulare il ritmo di sviluppo dei modelli di frontiera, proprio sistemi quei sistemi AI più potenti. Il tutto, eventualmente coordinandosi con altri grandi laboratori. Non tutti, ha comunque già riconosciuto, necessariamente accetterebbero.
È un passaggio importante. La sicurezza potrebbe diventare il terreno sul quale le principali società decidono di frenare insieme la corsa verso sistemi sempre più potenti. Questa prospettiva potrebbe ridurre alcuni rischi, ma si aprirebbe tutta una serie di interrogativi.
In primo luogo sulla concorrenza e poi sul potere che poche aziende possano stabilire il ritmo dell’evoluzione dell’AI. Un potere che allora diventerebbe ancora più concentrato.
Il sostegno alle nuove leggi californiane
Parallelamente alla richiesta di una legge federale, OpenAI ha annunciato il proprio sostegno a quattro proposte legislative della California sull’intelligenza artificiale.
Il Governatore Gavin Newsom ha firmato due atti, SB 813 e AB 1405, che introducono un quadro per valutazioni e audit indipendenti di terze parti sui sistemi AI. Le altre due proposte, AB 1864 e SB 1119, riguardano rispettivamente le misure di sicurezza contro le minacce biologiche abilitate dall’AI e le protezioni per i bambini che utilizzano chatbot.
OpenAI ha riconosciuto di non aver sostenuto in passato alcune di queste iniziative. Tuttavia, ha poi sottolineato come il recente aumento delle capacità dei sistemi AI ha portato l’azienda “a riconsiderare la propria posizione“.
Verso delle regole globali
Per OpenAI, la futura regolamentazione non dovrebbe però fermarsi ai confini americani. Dagli Usa agli altri Paesi, si tratterebbe di un processo continuo, su varie fasi.
La richiesta segna quindi un cambio di passo nel dibattito sulla regolamentazione dell’intelligenza artificiale. Non più soltanto principi volontari adottati dalle aziende, ma requisiti obbligatori, verifiche indipendenti e obblighi di trasparenza sugli incidenti per i sistemi AI più potenti.
