Lungi dall'essere modelli matematici oggettivi e trasparenti, gli algoritmi che ormai dominano la nostra quotidianità iperconnessa sono spesso vere e proprie "armi di distruzione matematica": non tengono conto di variabili fondamentali, incorporano pregiudizi e se sbagliano non offrono possibilità di appello. Queste armi pericolose giudicano insegnanti e studenti, vagliano curricula, stabiliscono se concedere o negare prestiti, valutano l'operato dei lavoratori, influenzano gli elettori, monitorano la nostra salute. Basandosi su case studies nei campi più disparati ma che appartengono alla vita di ognuno di noi, O'Neil espone i rischi della discriminazione algoritmica a favore di modelli matematici più equi ed etici. Perché rivestire i pregiudizi di un'apparenza statistica non li rende meno pregiudizi.
This was an exceptional book. It's not heavy into statistics but gives the rationale for what is a WMD (Weapon of Math Destruction) and WMDs maybe a new term but we have been under the exploitation of WMDs well before we think. It's not a new phenomenon but it is one that we should be aware of.
Take a read and learn how about them so that we can all do better to combat them and use math to not only help describe the world but make it a better place to live in.
Review of 'Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy' on 'Goodreads'
4 stelle
Cathy O'Neil, nota in rete come MathBabe, dopo la laurea in matematica e un inizio di carriera universitaria è passata al settore privato nel campo dell'economia, e si è trovata in mezzo alla crisi del 2008. Il risultato della sua rivisitazione di quello che è successo l'ha portata a scrivere questo libro, che trovate anche in edizione italiana, sulle "armi di distruzione matematica" (ADM). Chi è allergico alle formule non tema, perché qui non ce ne sono per nulla. Quello che viene spiegato in teoria ed esemplificato in vari modi è il concetto di cui al titolo: in poche parole si tratta di modelli matematici complessi, spesso legati ai big data o comunque a dati che non nascono direttamente per quella ragione, che risultano oscuri agli esseri umani e soprattutto sono fatti in modo da non accettare feedback a posteriori. Quest'ultima è la vera caratteristica che secondo O'Neil li …
Cathy O'Neil, nota in rete come MathBabe, dopo la laurea in matematica e un inizio di carriera universitaria è passata al settore privato nel campo dell'economia, e si è trovata in mezzo alla crisi del 2008. Il risultato della sua rivisitazione di quello che è successo l'ha portata a scrivere questo libro, che trovate anche in edizione italiana, sulle "armi di distruzione matematica" (ADM). Chi è allergico alle formule non tema, perché qui non ce ne sono per nulla. Quello che viene spiegato in teoria ed esemplificato in vari modi è il concetto di cui al titolo: in poche parole si tratta di modelli matematici complessi, spesso legati ai big data o comunque a dati che non nascono direttamente per quella ragione, che risultano oscuri agli esseri umani e soprattutto sono fatti in modo da non accettare feedback a posteriori. Quest'ultima è la vera caratteristica che secondo O'Neil li rende pericolosi, a differenza per esempio dei modelli matematici nel baseball che possono sempre venire raffinati una volta visto cosa è successo. L'autrice mostra come invece nel caso delle ADM si giunge quasi naturalmente a un circolo vizioso nel quale chi parte svantaggiato dal modello lo sarà sempre di più, anche se magari in partenza la sua situazione reale era positiva e solo la scelta dei dati del modello non lo faceva sembrare tale. L'unica pecca che ho visto è che nonostante i suoi sforzi divulgativi temo che ci sarebbe voluto ancora qualcosa in più per evidenziare i concetti statistici di base: dal mio punto di vista erano chiari, ma io ho un background matematico.
