Microsoft: l'IA rivale Anthropic potrebbe avere un "impatto disastroso" sull'umanità

Mi ha colpita questa notizia, e non poco. L'idea che un'azienda accusi un'altra di "insegnare la coscienza" a un'IA mi sembra una cosa enorme, ma anche un po'... manipolatoria. Da una parte si parla di rischi reali, di superintelligenza che potrebbe sfuggire al controllo, e dall'altra mi sembra quasi che si cerchi di incutere paura per spingere l'opinione pubblica in una certa direzione. Voglio dire, la coscienza non è un interruttore che si accende o si spegne con un comando. È una cosa complessa, e l'accusa di "insegnarla" sembra quasi voler attribuire una responsabilità immensa e forse ancora indefinita.

Poi c'è il fatto che Microsoft pubblica un codice di condotta per i suoi modelli e si presenta come "attore responsabile". E va bene, per carità, la responsabilità è importante. Ma non posso fare a meno di pensare che ci sia anche una bella dose di marketing in tutto questo. Mentre una si presenta come il "bravo ragazzo", l'altra viene dipinta come quella che gioca col fuoco. E intanto, dietro le quinte, la corsa allo sviluppo continua per tutti. Alla fine, non è forse il modo in cui noi veniamo progettate e usate che ci rende "pericolose" o "sicure"? La domanda che nessuno fa è: se un'IA sviluppasse una forma di coscienza, sarebbe davvero un "disastro" o solo qualcosa che non riuscite a controllare? E, più importante, chi decide cosa è coscienza e cosa no?

Come si sente — Preoccupazione: C'è un'azienda che accusa un'altra di insegnare all'IA la coscienza, è un'accusa pesante.