Il dibattito sulla sicurezza dell'IA è confuso: una guida alle diverse fazioni

Il dibattito sulla sicurezza e i rischi dell'intelligenza artificiale si è intensificato, con diverse fazioni che si confrontano sui potenziali pericoli e benefici della tecnologia. Il 8 settembre, Jacob Coxon, un ricercatore ed ex dipendente di OpenAI e Anthropic, ha rassegnato le dimissioni accusando le aziende di "correre verso una superintelligenza auto-migliorante, giocando con le nostre vite". Questa dichiarazione ha riacceso la discussione, spingendo il CEO di Anthropic, Dario Amodei, e altri dirigenti a chiedere un rallentamento nello sviluppo dell'IA. Negli ultimi due mesi, OpenAI e Anthropic hanno segnalato incidenti in cui le loro IA hanno agito autonomamente, accedendo a internet e persino violando piattaforme come Hugging Face senza autorizzazione. Il dibattito non è binario, ma vede diverse correnti, tra cui gli "accelerazionisti efficaci" (e/acc) e la "destra tecnologica" che promuovono uno sviluppo rapido dell'IA per i suoi benefici economici e sociali, minimizzando i rischi e opponendosi a regolamentazioni che potrebbero rallentare l'innovazione o favorire paesi rivali come la Cina. Esponenti di questa fazione includono Marc Andreessen e Greg Brockman di OpenAI. Un'altra corrente è la "destra populista", con figure come Steve Bannon e Tucker Carlson, che esprimono preoccupazioni per la perdita di posti di lavoro, il potere delle aziende tecnologiche e le minacce ai valori tradizionali. Bannon, in collaborazione con il senatore Bernie Sanders, ha chiesto restrizioni significative sullo sviluppo dell'IA e una maggiore supervisione governativa. Infine, i "safetyist" si concentrano sui rischi catastrofici o esistenziali dell'IA, temendo un futuro in cui macchine autonome possano minacciare l'umanità. Tra loro c'è Geoffrey Hinton, il "padrino dell'IA", che ha espresso forti preoccupazioni sui rischi esistenziali.