Quando i dati discriminano. Bias e pregiudizi in grafici, statistiche e algoritmi

Siamo certi che i dati siano sempre obiettivi e non nascondano un “pregiudizio”? Donata Columbro ci spiega che stabilire chi è dentro o fuori le statistiche non è un atto neutrale, ma una scelta. I dati sono costrutti umani e sociali, e prendere consapevolezza di ciò ci può aiutare a utilizzarli per lottare contro le disuguaglianze, non per discriminare.“Il dato in natura non esiste, non possiamo «raccoglierlo» se non viene prima prodotto. Ma se la natura in qualche modo senza il nostro intervento può produrre frutti e fiori, con i dati questo non succede mai. Perché allora siamo ancora molto legati a espressioni come «lo dicono i dati» o «data driven» come bollino di qualità di un progetto, un report, o persino di un programma politico?”Quando tutte le nostre decisioni si basano sui dati perché cerchiamo oggettività, ma ignoriamo il contesto, possiamo andare incontro a enormi fraintendimenti arrivando alla conclusione che questa oggettività - in fondo - non esiste. Donata Columbro indaga a fondo il lato inconscio del dato influenzato dal contesto in cui viene raccolto, illustrando come sia fondamentale riconoscere la presenza di pregiudizi nell’elaborazione dei dati e di come sia necessario equilibrare i set di dati.Chi ha il potere di raccogliere e analizzare il dato? E chi, invece, non ha assolutamente questo potere? Il volume invita lettori e lettrici a impegnarsi affinché i dati non diventino amplificatori di discriminazioni danneggiando le comunità o i gruppi ai margini della società. Al giorno d’oggi, quando si vuole dare l’idea di essere obiettivi, perché ci si prefigge di essere incontestabili, può scappare di bocca un’espressione diventata d’uso comune: «Lo dicono i dati». Ma siamo certi che quei dati così allettanti, che confermano il nostro giudizio, non nascondano un «pregiudizio»? Quando leggiamo un articolo online o apprezziamo un’infografica colorata bisognerebbe chiedersi prima di tutto: chi trae beneficio dalla raccolta, dall’analisi e dalla rappresentazione di quel dato, e chi può esserne invece discriminato? Donata Columbro suggerisce come, universalizzando e standardizzando concetti come quello di «normalità», si sia in passato più escluso che incluso, creando una rappresentazione del mondo che ha eliminato le anomalie. Stabilire però chi è dentro o fuori le statistiche non è un atto neutrale, ma una scelta, e come tale andrebbe insegnata e indagata. Solo una persona consapevole che i dati sono costrutti umani e sociali può impedire che siano usati per discriminare, invece che per lottare contro le disuguaglianze.