Possiamo definire la fairness come l’assenza di pregiudizi o favoritismi (o bias) verso un individuo o un gruppo in base alle sue caratteristiche innate o acquisite. Ogni decisione con impatto sociale può essere affetta da bias, e il problema della fairness esiste da ben prima dell’avvento del machine learning. Tuttavia, l’utilizzo sempre più massiccio del machine learning in decisioni con un alto impatto sociale ha reso impellente la valutazione della fairness anche nelle decisioni che si avvalgono di tecniche di machine learning. La necessità è resa ancora più grande dalla possibilità che le decisioni supportate da tecniche di machine learning vengano considerate intrinsecamente oggettive, perché realizzate da una macchina mediante un massiccio utilizzo di dati.
L’obiettivo di questo contributo è quindi fornire una breve panoramica delle questioni relative alla fairness nel machine learning, soffermandoci in particolare sulle fonti di unfairness (ossia le tipologie di bias) e sulla misura del grado di fairness.
Area personale
