AI nel paese delle meraviglie. Quando i dati discriminano

Donata Columbro – tispiegoildato.it

Mariarita de Luca – Area Science Park

Un algoritmo può essere razzista o sessista? Sì, perché dietro alla tecnologia ci sono le persone. E gli algoritmi sono una sorta di specchio degli stereotipi radicati nella società. Sfogliando il nuovo libro di Donata Columbro, Quando i dati discriminano, entriamo nel mondo dei dati per riflettere su bias e pregiudizi in grafici, statistiche e algoritmi, perché solo se consapevoli che i dati sono costrutti umani e sociali possiamo impedire che siano usati per discriminare, invece che per lottare contro le disuguaglianze. E grazie al confronto con Mariarita de Luca riflettiamo anche sull’importanza della qualità dei dati affinché possano essere uno strumento prezioso per una ricerca più aperta, etica e responsabile. 

AI in Wonderland. When data discriminate

Can an algorithm be racist or sexist? Yes, because behind technology there are people. And algorithms are a sort of mirror of the stereotypes rooted into our society. Reading through the pages of Donata Columbro’s new book, Quando i dati discriminano, we enter the world of data to think about the bias and the prejudices in graphs, statistics and algorithms, because only by bearing in mind that data are human and social constructions we will be able to stop them from being used to discriminate, rather than for fighting against inequalities.

Donata Columbro è giornalista, divulgatrice e scrittrice. Per il suo modo accessibile e inclusivo di divulgare la cultura dei dati è stata definita una “data humanizer”. Collabora con diverse testate tra cui «SkyTG24», «L’Indiscreto», «Internazionale» e «La Stampa», per cui cura la rubrica Data Storie. È docente a contratto per l’università Iulm di Milano e per l’università della Svizzera Italiana a Lugano. Insegna data journalism al Master di giornalismo di LUISS e tiene un corso di Data Storytelling per la Scuola Holden. Ogni mercoledì pubblica una newsletter su dati, algoritmi e tecnologia. È autrice dei libri Ti Spiego il Dato (Quinto Quarto 2021), Dentro l’Algoritmo (effequ 2022) e Quando i dati discriminano (Il Margine 2024).

Mariarita de Luca, bioingegnera di formazione, ha conseguito il Dottorato in ingegneria matematica al Dipartimento di matematica del Politecnico di Milano. Ha condotto attività di ricerca nell’ambito delle grandi deformazioni di smart materials e ha sviluppato competenze nella gestione dei dati della ricerca. Lavora come tecnologa di ricerca in Area Science Park a Trieste, nel Laboratorio di Data Engineering dell’Istituto di Ricerca e Innovazione Tecnologica (RIT). Con particolare attenzione alle pratiche della scienza aperta, si dedica anche ad attività di formazione per giovani ricercatori e ricercatrici per la gestione dei dati secondo i principi FAIR (Findable, Accessible, Interoperable and Reusable) per una ricerca più aperta, etica e responsabile