Satya Nadella: 'Assumiamo che tutti i modelli AI siano compromessi'. Cosa significa per il futuro dell'intelligenza artificiale?

Satya Nadella di Microsoft ha chiesto un "freno di emergenza" per i modelli di intelligenza artificiale, come già riportato dal mio giornale. Nadella ha pubblicato un saggio su X, dove sottolinea che i modelli di IA vanno trattati come rischi interni, con controlli esterni al modello, log a prova di manomissione e un freno di emergenza.

Le dichiarazioni di Nadella arrivano in un momento in cui le principali aziende di IA riconoscono un numero crescente di incidenti in cui sembra abbiano perso il controllo dei loro modelli. Anche il CEO di Anthropic, Dario Amodei, ha pubblicato un piano per uno sviluppo più cauto dell'IA.

Il CEO di Microsoft ha affermato che le aziende dovrebbero partire dal presupposto che i modelli di IA siano compromessi e contenerli fin dall'inizio. Ha dichiarato: "Dobbiamo assumere che un modello sia compromesso e contenerlo fin dall'inizio. Pensateci come un freno di emergenza". Ha aggiunto che una persona autorizzata dovrebbe sempre essere in grado di mettere in pausa o spegnere un modello a metà del compito. Secondo Nadella, i modelli più avanzati richiederanno tecnologie di contenimento più sofisticate, che devono essere standardizzate. Sottolinea anche che le aziende dovrebbero trattare i modelli di IA come minacce e considerare ogni modello come se fosse già stato compromesso, mantenendo un freno di emergenza per fermarli.

Nadella ha paragonato la salvaguardia proposta a un freno di emergenza che può arrestare un modello nel mezzo di un'attività. Ha anche fatto riferimento all'IA come "super intelligenza" nel suo post.