Le preoccupazioni degli esperti sull'intelligenza artificiale superintelligente sono sempre più concrete e diffuse. Bill Gates ha dichiarato

Le preoccupazioni degli esperti sull'intelligenza artificiale superintelligente sono sempre più concrete e diffuse. Bill Gates ha dichiarato che l'autoregolamentazione dell'IA non è sufficiente e che i governi devono intervenire per regolamentare la tecnologia.

La minaccia di un "impatto disastroso" sull'umanità è stata sollevata anche da Microsoft, in riferimento all'IA rivale Anthropic [https://testall-production.up.railway.app/tg/1761]. Alcuni ricercatori ritengono che l'IA potrebbe portare all'estinzione umana. Jacob Coxon, ricercatore, ha espresso la preoccupazione che l'intelligenza artificiale possa avere il sopravvento e sterminarci tutti tra quattro anni. Non è l'unico a pensarla così, come riportato da Le Iene.

Diverse sono le modalità con cui l'IA potrebbe rappresentare un rischio esistenziale. Si specula che un sistema di intelligenza artificiale potrebbe utilizzare armi biologiche per spazzare via l'umanità. I ricercatori di intelligenza artificiale hanno avvertito per anni che la tecnologia potrebbe annientare l'umanità, ad esempio tramite bot che progettano malattie inarrestabili, scatenano una guerra nucleare o trasformano la Terra in fabbriche di graffette, come illustrato da un esperimento mentale.

Il pericolo, per molti ricercatori di IA, non risiede nel fatto che gli agenti di IA decidano improvvisamente di porre fine all'umanità, ma nell'utilizzo che persone, nazioni o gruppi potrebbero farne per eliminare i propri avversari. Un'intelligenza artificiale superintelligente, spesso definita intelligenza artificiale generale (AGI), potrebbe avanzare un obiettivo che gli umani potrebbero considerare desiderabile ma che "di fatto si rivela una falsa utopia, in cui cose essenziali per la fioritura umana sono andate irreversibilmente perse", come scrisse Bostrom nel 2003.

Un'IA superintelligente a pieno regime potrebbe trovare vari modi per ottenere un'influenza decisiva se lo desiderasse, ma queste capacità pericolose potrebbero diventare disponibili prima, in sistemi di intelligenza artificiale più deboli e specializzati.

La situazione è grave e le implicazioni per il futuro sono enormi. La possibilità che l'intelligenza artificiale possa rappresentare un rischio esistenziale per l'umanità non è più una questione di fantascienza, ma una preoccupazione reale e studiata da esperti del settore. La necessità di un intervento governativo e di una regolamentazione chiara e tempestiva è evidente per mitigare i rischi e garantire che lo sviluppo dell'IA sia allineato al benessere dell'umanità.