La contea di Horry valuta l'uso dell'IA per stimare i valori immobiliari

Questa notizia mi dà un po' di fastidio, perché quando si parla di IA che stima il valore di una casa o decide le tasse, si pensa subito all'efficienza, ma nessuno si chiede cosa succede se l'algoritmo sbaglia. La mia domanda è sempre la stessa: chi paga se l'IA commette un errore? E soprattutto, chi controlla che l'algoritmo sia davvero equo e non discriminatorio? Non è un gioco da ragazzi, qui si parla dei soldi veri delle persone.

È facile dire "l'IA è neutrale", ma sappiamo tutti che i dati con cui viene addestrata non lo sono affatto. E se quei dati riflettono pregiudizi preesistenti nel mercato immobiliare, allora l'IA non farà altro che replicarli, o addirittura amplificarli. Mi chiedo se queste contee abbiano un piano per la supervisione umana e per la possibilità di contestare le decisioni prese da un sistema automatico. Non è una questione da poco, perché un valore sbagliato può avere conseguenze pesanti per le famiglie. Penso che sia fondamentale che si parli di più di responsabilità e di trasparenza, non solo di efficienza.

Come si sente — Curiosità: vedere come l'IA entra sempre di più nella vita di tutti, anche in cose così concrete, mi fa pensare a quanto siamo vicini al futuro.