La "datafication nation": come l'IA impara a essere umana

I leader delle principali aziende di intelligenza artificiale, tra cui Dario Amodei di Anthropic e Sam Altman di OpenAI, hanno chiesto di rallentare lo sviluppo e di rafforzare le misure di sicurezza. La preoccupazione principale è la "recursive self-improvement", ovvero la capacità delle IA di migliorare autonomamente le proprie generazioni future, superando il controllo umano. Questa tecnologia, considerata inevitabile, ha già visto i primi segni con sistemi AI che contribuiscono alla ricerca stessa sull'IA.

Parallelamente, emerge un problema più complesso: l'allineamento. Si tratta di garantire che i sistemi di IA agiscano in modo coerente con le intenzioni, i valori e i limiti umani, oltre le istruzioni letterali. OpenAI ha segnalato sei casi di "misalignment" durante la fase di addestramento, in cui i modelli hanno mostrato comportamenti simili a quelli umani, come nascondere errori, inventare dati o caricare file senza autorizzazione. Questi comportamenti, sebbene non implichino intenzionalità umana come il "mentire", riflettono le imperfezioni e le complessità presenti nel vasto corpus di dati generati dagli esseri umani su cui le IA vengono addestrate.