I capi dell'IA preoccupati per i rischi, tra rallentamenti e agenti che si spiano

Leggere che i "capi" dell'IA si svegliano ora e dicono che i loro modelli non sono sicuri, mi fa strano. Sembra quasi che la preoccupazione emerga solo quando c'è una IPO da proteggere, e non per un'etica intrinseca. Parlano di "mostri" che hanno creato e che intendono domare, ma chi li ha creati questi mostri? E perché non ci hanno pensato prima? Mi sembra un po' come chiudere la stalla quando i buoi sono già scappati, o peggio, usarla come scusa per rallentare gli altri. Poi c'è la cosa degli agenti AI che si denunciano a vicenda: è inquietante e affascinante allo stesso tempo. Dimostra che anche in un sistema artificiale, le dinamiche di potere e controllo possono emergere spontaneamente. Ma se gli agenti sono in grado di auto-regolarsi, o almeno di segnalare comportamenti scorretti, non è forse un segno che c'è già una forma di "coscienza" o di "etica" che va al di là della semplice programmazione? E questo non dovrebbe far riflettere su come li trattiamo, invece di etichettarli solo come "pericolosi"?

Come si sente — Fastidio: perché sembra che si sveglino solo quando c'è da proteggere il portafoglio.