In Breve
- Quale vulnerabilità è stata sfruttata dai ricercatori?
- I ricercatori hanno sfruttato una falla nel software del forum Discourse legata all'upload di file immagine.
- Qual è stato il risultato dell'attività di hacking?
- Hanno ottenuto accesso a più account ChatGPT di dipendenti OpenAI e a parti dell'infrastruttura aziendale.
- Qual è il costo per utilizzare strumenti di hacking avanzati?
- Matt Fredrikson ha affermato che per $200 al mese chiunque può usare questi strumenti per hackerare aziende.
Un team di tre ricercatori di Hacktron AI ha recentemente messo in evidenza le vulnerabilità nei sistemi di OpenAI, utilizzando il modello Claude (Opus 5) di Anthropic. Questa operazione, condotta nell’ambito di un programma di bug bounty, ha portato alla scoperta di falle che hanno consentito l’accesso a più account ChatGPT di dipendenti OpenAI e a parti dell’infrastruttura aziendale.
Il 25 luglio, i ricercatori sono riusciti a entrare nel sistema attraverso una vulnerabilità nel software del forum della comunità Discourse, legata all’upload di file immagine nei formati HEIF/HEIC. Discourse gestiva questi file tramite ImageMagick e la libreria libheif. Un bug di memoria in libheif ha portato a un calcolo errato della posizione delle immagini sovrapposte, sufficiente a compromettere il server. Sebbene il difetto fosse stato corretto dai programmatori di libheif mesi prima, la patch non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema.
I ricercatori hanno notato che il modello Opus 4.8 ha avuto difficoltà a generare un exploit funzionante, mentre, a poche ore dal rilascio di Opus 5, il modello è riuscito a produrre un exploit efficace. Una volta ottenuto l’accesso al server Discourse, hanno identificato una seconda vulnerabilità che ha consentito il controllo degli account ChatGPT e Codex, incluso quello di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per la vulnerabilità il 27 luglio. Questo episodio mette in luce come strumenti avanzati e modelli di intelligenza artificiale disponibili commercialmente possano ridurre il tempo e la competenza necessari per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha dichiarato: “Per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni.”
È interessante notare che Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, limitata temporaneamente per preoccupazioni sulle sue capacità di hacking. Inoltre, i modelli a pesi aperti stanno colmando il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente arriva in un momento di crescente attenzione sulla sicurezza nelle aziende che sviluppano intelligenze artificiali, sottolineando la necessità di misure di sicurezza più rigorose per proteggere i dati sensibili e le infrastrutture aziendali.
