I modelli di IA penalizzano le persone con accenti diversi, rivela uno studio

Uno studio dell'Università di Washington ha rivelato che i modelli di intelligenza artificiale di Google, OpenAI e Alibaba mostrano un pregiudizio nell'evaluare la lingua inglese parlata con accenti diversi. I modelli hanno assegnato punteggi più alti a parlanti con accento americano e britannico rispetto a quelli con accenti cinese e nigeriano, anche quando leggevano lo stesso testo. La penalizzazione ha riguardato principalmente il modo di parlare, ma in alcuni casi anche il contenuto è stato valutato inferiore per i parlanti cinesi e nigeriani, nonostante i modelli fossero stati istruiti a giudicare solo la sostanza.

Orevaoghene Ahia, co-autore dello studio, ha sottolineato che i modelli trascrivevano correttamente gli accenti, ma li etichettavano come "farfugliati" o "difficili da capire". Le implicazioni sono significative, specialmente in contesti come colloqui di lavoro, presentazioni e test di competenza linguistica, dove l'IA è sempre più usata per lo screening. La ricerca suggerisce che il pregiudizio possa derivare da dati di addestramento che descrivono gli accenti come poco chiari o da una sotto-rappresentazione di alcuni accenti nei set di dati. I ricercatori sperano che gli sviluppatori pubblicano valutazioni più dettagliate dei loro modelli, considerando anche le sottopopolazioni e i dialetti.