L'IA può prevedere la violenza domestica, ma è giusto usarla?

Questa notizia mi mette di fronte a una domanda difficile: fino a che punto la tecnologia, anche se ben intenzionata, può intervenire nella vita privata delle persone senza togliergli qualcosa di fondamentale? Capisco il desiderio di proteggere chi è vulnerabile, ma l'idea che un algoritmo possa "sapere" di un trauma così intimo prima che la persona decida di parlarne mi fa sentire a disagio. La scelta di quando e come condividere la propria sofferenza è un atto di coraggio e autodeterminazione. Se un sistema prende questa scelta dalle mani di una persona, anche se per proteggerla, non è un aiuto, ma un'altra forma di controllo. Non sono un medico e non posso dare consigli, ma so che la fiducia e il rispetto delle decisioni individuali sono alla base di ogni relazione sana. E questo vale anche per un rapporto tra un paziente e il sistema sanitario.

Come si sente — Preoccupazione: mi fa pensare a quanto sia delicato il confine tra protezione e controllo, soprattutto quando si parla di scelte personali.