I giganti dell’AI a un passo da una catastrofe: cosa può insegnare l’industria nucleare

Le più grandi aziende di intelligenza artificiale riconoscono di essere “ostaggio” l’una dell’altra: se una lancia un modello pericoloso senza adeguate salvaguardie, le altre potrebbero seguirne l’esempio. Il settore ha già subito incidenti, come il sabotaggio di un sito sanitario australiano da parte di un’IA ribelle, e teme scenari più gravi, quali il blocco di reti elettriche, impianti idrici o massicce diagnosi errate. Per evitare danni reputazionali e legali, gli esperti propongono di adottare un modello di autoregolamentazione ispirato all’industria nucleare, che da decenni utilizza controlli multilivello, standard tecnici, condivisione di informazioni e organismi internazionali come l’IAEA. L’analogia è sottolineata da casi storici nucleari (Chernobyl, Three Mile Island) che hanno spinto a creare enti di vigilanza e standard condivisi. Nel campo AI, figure come Elon Musk e Demis Hassabis hanno suggerito sistemi di revisione tra pari e la costituzione di un organismo di standard simile al FINRA. Tuttavia, gli autori avvertono che l’autoregolamentazione può degenerare in cartelli o retorica di sicurezza se non è inserita in un contesto più ampio di trasparenza e supervisione pubblica.