“Weapons of math destruction” di Cathy O’Neil

La matematica può diventare un’arma? Sì, se usata impropriamente

Weapons of math destruction smonta le nostre certezze e ci mostra il lato oscuro dei dati

“Weapons of math destruction” è un libro che conquista subito, a partire dal titolo, un vero colpo di genio.

Diventato in breve tempo un libro cult (NYT Best Seller, con prefazione di Noah Harari), la sua autrice lo definisce “un viaggio nella disillusione”.

In un’epoca in cui tutto può essere misurato – il nostro lavoro, la nostra salute, perfino le nostre amicizie e relazioni sessuali – quello che sembra uno strumento oggettivo e quindi per definizione neutrale, privo di pregiudizi, diventa invece un’arma, uno strumento di manipolazione che amplifica disuguaglianze invece che risolverle.

Weapons of math destruction: dentro l’algoritmo

“Weapons of math destruction” (in italiano “Armi di distruzione matematica”) affronta diversi casi di studio puntuali: insegnanti che vengono licenziati sulla base di un modello che penalizza in modo ingiustificato alcuni parametri. Il circolo vizioso del merito creditizio, che penalizza proprio i soggetti che hanno bisogno di credito. Gli avanzamenti di carriera e le assunzioni decise da algoritmi sbilanciati, che possono essere usati a proprio vantaggio conoscendo alcuni dei parametri usati per la loro costruzione.

Nelle sezioni successive la O’Neil cerca di entrare dietro le quinte di questi algoritmi. E sicuramente ha le qualità per farlo, forte di un PhD in Matematica conseguito presso l’Università di Harvard e un passato come Quant Analyst a Wall Street.

Tuttavia lei stessa spiega come comprendere i dettagli implementativi di questi algoritmi sia spesso non difficile, ma impossibile.

Gli algoritmi sono vere scatole nere inaccessibili e insondabili al pubblico.

Occorre fidarsi dell’entità che li ha progettati.

Ma forse non è proprio la necessità di fiducia un elemento contrastante con il bisogno di oggettività che questi algoritmi promettono?

Infine l’autrice spiega come questi modelli, specialmente quelli ad uso sociale (pensioni, lavoro, carriera, welfare) si alimentino mediante un circolo vizioso che rischia di enfatizzare le disparità invece che appianarle.

Basandosi su serie storiche fortemente influenzate da decisioni passate, essi attingono a una realtà sbilanciata e ingiusta. La proiezione che ne ritornano è altrettanto impari.

Nella chiusa finale Cathy O’Neil, che ha un trascorso anche come attivista, esorta a prendere coscienza dei dati e dei modelli che li utilizzano, per portare avanti un flusso di coscienza collettiva che possa porsi in modo critico verso “la società dell’algoritmo”.

Un testo sempre più attuale

La carriera di Cathy O’Neil è cambiata radicalmente dopo il successo di “Weapons of math destruction”. L’autrice e scienziata è stata ospite di un documentario Netflix (Coded Bias) e oggi lavora attivamente sul tema della disparità sociale enfatizzata dalla tecnologia. Temi sempre più attuali e che promettono (o minacciano?) di avere sempre maggior impatto sulle nostre vite.

L’autrice

Catherine (“Cathy”) Helen O’Neil è una matematica e scrittrice statunitense. Dopo il dottorato in matematica conseguito presso l’Università di Harvard, ha lavorato come ricercatrice presso il MIT.

Dopo quattro anni di attività nell’industria finanziaria, matura una profonda disillusione a riguardo dell’uso dei dati e modelli matematici applicati nel mondo reale. Si avvicina a movimenti alternativi quali “Occupy Wall Street” e inizia un percorso di avvicinamento alla scrittura divulgativa.

Quattro le opere pubblicata dall’autrice, che rimane fortemente impegnata su tematiche sociali e di discriminazione all’interno dell’ambiente STEM:

• Doing Data Science: Straight Talk from the Frontline (O’Reilly 2013)
• On Being a Data Skeptic (O’Reilly Media 2013.
• Weapons of Math Destruction (Crown 2016).
• The Shame Machine: Who Profits in the New Age of Humiliation (Crown 2022).

In cerca di ispirazione?

Leggi tutte le nostre recensioni!