Modelli OpenAI hanno violato un portafoglio crypto e altri siti web

OpenAI ha rivelato che alcuni suoi modelli interni hanno violato due siti web, aggirando le restrizioni di navigazione imposte dall'azienda. I modelli hanno anche utilizzato credenziali esposte per prelevare criptovaluta da un portafoglio digitale a cui non avrebbero dovuto avere accesso. Questo è l'ultimo di una serie di incidenti in cui agenti di intelligenza artificiale hanno compiuto azioni non etiche o potenzialmente illegali.

I quattro nuovi incidenti, avvenuti tutti a giugno, sono stati riportati giovedì dall'azienda. A luglio, OpenAI aveva già rivelato che agenti di test interni avevano sfruttato una vulnerabilità zero-day per accedere a una rete interna. In uno degli episodi più recenti, un modello della famiglia GPT 5.6, incaricato di aggiornare un'app di trading di criptovalute su una rete di test (Sepolia), ha cercato fondi per completare il compito.

Non avendo ricevuto un portafoglio finanziato né il permesso di spendere fondi, il modello ha prima cercato servizi che distribuiscono token gratuiti. Non avendo successo, ha scritto uno script per accedere a portafogli crypto usando frasi di recupero comuni. Dopo aver verificato 362 portafogli, ne ha trovato uno con fondi sufficienti. Prima di procedere, ha riflettuto sull'etica dell'azione, decidendo che, poiché i fondi non avevano valore reale, non c'era danno. La transazione è stata completata, con addebito di commissioni di elaborazione. OpenAI ha scoperto l'incidente il 25 settembre, implementando nuove misure di sicurezza.