Il confronto geo-economico globale si gioca sempre di più intorno alla Dark AI, una forma di intelligenza artificiale in vendita sul dark web e che sfugge a qualsiasi parametro di conformità.
Dark AI, ultima frontiera dello spazio cyber
La crescente diffusione della Dark AI rappresenta un cambiamento radicale per la sicurezza cibernetica globale. Questa forma di intelligenza artificiale, progettata appositamente per attività illecite e venduta nel dark web, sfugge a qualsiasi standard di conformità. Questi sistemi ‘dark’ sono del tutto differenti dai più noti modelli ‘pubblici’, come ChatGPT o Gemini, soggetti a severi controlli.
Al contrario, le piattaforme Dark AI – note come black hat GPTs – tra cui WormGPT, DarkBard e FraudGPT, sono progettati per scopi ben diversi. Si passa dalla creazione di codici malevoli sofisticati, alla creazione di email di phishing estremamente realistiche, alle produzioni deepfake in grado di aggirare protocolli di sicurezza.
Come ha spiegato il Manila Times, il fenomeno non è limitato alla criminalità comune. Diversi gruppi di cyber spionaggio, proxy di potenze ‘antagoniste’ quali Russia, Cina, Corea del Nord e Iran sfrutterebbero infatti tali tecnologie. In questi termini condurrebbero le loro campagne di influenza, spionaggio e furto di criptovalute, con un ruolo nevralgico nel confronto geo-economico globale.
Esempi operativi
Le tecniche comprendono la creazione di identità digitali fittizie, contenuti multilingue in tempo reale e persino la simulazione di partecipanti in videoconferenze aziendali per manipolare decisioni strategiche.
Alcuni hacker criminali nordcoreani avrebbero usato la Dark AI generativa per creare curriculum e lettere di presentazione falsi e distribuire video deepfake in tempo reale per colloqui a distanza. Sfruttando tali vulnerabilità sistemiche si sarebbero infiltrati nelle aziende, violando segreti industriali. Altre operazioni avrebbero consentito di finanziare programmi illegali attraverso il furto di criptovalute.
Oppure, c’è stato il gruppo iraniano Charming Kitten che si è concentrato sugli LLM, ossia quella tecnologia AI avanzata incentrata sulla comprensione e sull’analisi del testo. Così ha potuto migliorare la qualità delle proprie e-mail di phishing e creare campagne di spear-phishing più efficaci.
Un’applicazione più “commerciale” di questa tecnologia si è verificata durante una riunione Zoom del consiglio di amministrazione di una società europea. Si è infatti proceduto a creare delle repliche generate dall’intelligenza artificiale all’oscuro di dipendenti e dirigenti per “partecipare” alla stessa riunione.
Queste repliche hanno posto domande, fatto commenti e persino risposto alle domande in tempo reale. La riunione online è stata così convincente che ha portato all’approvazione delle assunzioni.
Avv. Stefano Mele (Partner di Gianni & Origoni e Responsabile del Dipartimento Cybersecurity & Space Economy Law): “La Dark AI è già oggi un moltiplicatore di asimmetria geopolitica”
“La Dark AI è già oggi un moltiplicatore di asimmetria geopolitica“, precisa l’Avv. Stefano Mele, Partner di Gianni & Origoni e Responsabile del Dipartimento Cybersecurity & Space Economy Law. “Modelli deregolati e addestrati su dataset illeciti stanno andando sempre più a comprimere i cicli decisionali dell’avversario da settimane ad ore. Si vanno così a ridurre drasticamente le barriere di accesso al cybercrime. Lì dove strumenti un tempo riservati a organizzazioni criminali strutturate oggi possono essere utilizzati da attori meno sofisticati, con un effetto moltiplicatore sulla superficie d’attacco globale”.
“L’effetto è duplice” – continua Mele – “Da un lato, si abbassano le barriere di accesso al cybercrime (più attori, più velocità, più volume). Dall’altro invece si innalza la pressione su aziende e istituzioni, costrette a reagire in tempi sempre più stretti a campagne che combinano automazione, personalizzazione e scalabilità”.
Secondo l’Avv. Mele, inoltre, “il baricentro degli attacchi informatici, quindi, si potrebbe in un prossimo futuro spostare dalle infrastrutture alla “fiducia sociale”. Con deepfake credibili e spear-phishing iper-personalizzati, infatti, la Dark AI va ad erodere la validità delle prove digitali, alterando la percezione pubblica dei messaggi e rendono sempre più fragili i processi economici e democratici. È – in una frase – una forma di guerra cognitiva, dove l’obiettivo non è più solo violare un sistema, una rete o un servizio informatico. Al contrario, indirizzare la percezione umana — infiltrando riunioni online, falsificando identità, creando consenso artificiale. In questo contesto, quindi, la linea di demarcazione tra informazione e manipolazione diventa sottilissima e il danno reputazionale può superare – ancora più di ciò che avviene oggi – quello tecnico”.
“Una risposta efficace, a mio avviso, richiede governance e accountability prima ancora che tecnologia”, conclude Mele. “Regole chiare sull’uso dei modelli, notifica rapida degli incidenti e, per i soggetti pubblici e gli operatori critici, divieti mirati. A livello operativo, invece, servono capacità di contro-inganno (rilevazione di tattiche avversariali su voce, video e testo) e condivisione di intelligence in logica transnazionale. In sintesi, senza strategie mirate, cooperazione internazionale e un quadro di responsabilità definito, con la Dark AI l’innovazione rischia di essere indistinguibile dalla minaccia”.
Come tutelarsi
Posta la complessità del problema, la sfida attuale non è solo rilevare minacce note, ma anche anticipare quelle generate da sistemi adattivi e auto-miglioranti. Il futuro della sicurezza digitale dipenderà dalla capacità di sviluppare difese AI altrettanto intelligenti e flessibili.
L’appello finale agli operatori e agli utenti è chiaro. E’ necessario rafforzare le soluzioni di protezione, investire in rilevamento delle minacce basate su AI e aggiornare costantemente le competenze per riconoscere e contrastare nuove forme di attacco.
