Il problema dell'abliterazione nell'IA è più grande della Cina

Un recente rapporto di Anthropic ha sollevato timori riguardo ai modelli di intelligenza artificiale "open-weight" e alla loro vulnerabilità all'abliterazione, una tecnica che permette di aggirare le salvaguardie etiche. Questa preoccupazione emerge mentre l'amministrazione Trump cerca di promuovere la leadership americana nell'IA, con un vertice alla Casa Bianca in cui i leader tecnologici hanno firmato un documento per l'autoregolamentazione. Anthropic ha dimostrato che è possibile bypassare le protezioni di GLM-5.3, un modello cinese, con una frequenza che va dal 64% al 100%, utilizzando tecniche semplici come l'abliterazione. Quest'ultima modifica i pesi del modello per fargli accettare richieste che normalmente rifiuterebbe, senza comprometterne le capacità. Il rapporto evidenzia come attori statali e non statali potrebbero sfruttare questi modelli per causare danni nel mondo reale, citando casi di tentativi di utilizzo di Claude per sviluppare armi biologiche e convenzionali. La questione evidenzia un dibattito più ampio tra modelli "aperti" e "chiusi", con aziende come Nvidia e Meta che sostengono i primi per una maggiore accessibilità e sicurezza collaborativa.