Staipa’s Blog

Il Blog di Stefano Giolo, divulgazione informatica, uso consapevole tecnologia, e fatti miei

Cherry picking, le fake news amano le ciliege

Tempo di lettura 8 minuti

Esistono svariati modi per utilizzare dati e informazioni e piegarli verso conclusioni che non sono quelle corrette, di recente nell’articolo Il ruolo dello snobismo della matematica nelle Fake News (https://short.staipa.it/p51n9) ho parlato di come si possa utilizzare la statistica per forzare il significato di dati verso una direzione diversa da quella che dimostrano, e nell’articolo Come la narrazione sensazionalistica uccide una notizia vera (https://short.staipa.it/ak6g6) ho parlato di come una semplice narrazione scorretta possa danneggiare invece una mozione etica e positiva.

Si tratta di fallacie logiche:

Le fallacie sono errori nascosti nel ragionamento che comportano la violazione delle regole di un confronto argomentativo corretto. I ragionamenti fallaci appaiono come rigorosi e logici, ma in realtà non sono validi (da non confondere con “veri”):
-valido è riferito alla correttezza logica degli argomenti (come le premesse che implicano le conclusioni);
-vero riguarda invece la veridicità delle proposizioni con cui si enunciano gli argomenti.

Il termine fallacia deriva dal latino fallere che significa ingannare. Il più delle volte tali ragionamenti vengono costruiti ad hoc da colui o coloro che li propongono, con l’intento di ingannare o anche persuadere l’interlocutore. Diverse definizioni di fallacia sono state proposte da vari autori.
Tutte le definizioni, comunque, le descrivono come un problema logico linguistico caratterizzato da un paio di aspetti:
-sembrare qualcosa che non è;
-avere una forma di erroneità, invalidità o scorrettezza.

https://it.wikipedia.org/wiki/Fallacia

Una delle fallacie più frequenti nell’esporre Fake News (https://www.staipa.it/blog/fakenews), ma che causa in generale a tutti noi il rischio di ingannarci da soli quando vogliamo sperare in qualcosa che i dati non riportano in maniera esplicita è il cherry picking, ed è tra i principali motivi per cui è nato il metodo scientifico. Parlare del cherry picking è un buon modo per introdurre il metodo scientifico nella discussione e per capire in che modo il parere della comunità scientifica abbia un forte valore di affidabilità. Non ho usato a caso il termine comunità scientifica, perché non è del singolo scienziato che bisogna fidarsi ma del metodo e questo è davvero determinante, e non ho usato a caso il termine affidabilità perché molto di quello che ci dice la ricerca scientifica è sempre passibile di miglioramento.

Il cherry picking è la fallacia logica di quando un individuo tende ad ignorare tutte le prove che potrebbero andare contro la propria tesi evidenziando solo quelle a favore. Alcuni esempi banali sono il classico “a me funziona”, o “conosco persone che”, ma si estende a situazioni potenzialmente più gravi e assurde come quando all’evidenza pratica di un anno che è il più caldo mai registrato qualcuno ribatte con “come mai se è l’anno più caldo mai registrato oggi nevica?”

Come funziona il metodo scientifico

Una delle prime realtà con cui ogni scienziato si trova a confrontarsi è la propria tendenza a sbagliare interpretando un fenomeno. In realtà è una sensazione che, a ben pensarci, proviamo tutti quando in uno o l’altro evento della propria vita abbiamo l’impressione che tutte le cose che ci stanno attorno spingano in una direzione e poi finiamo per schiantarci contro un muro di gomma. Se riuscissimo a guardarci indietro razionalmente ci accorgeremmo che abbiamo solo scelto di considerare segnali positivi una certa quantità di eventi e di ignorare un’altra certa quantità di eventi. Succede molto spesso nell’ambito sentimentale/relazionale ed è spesso la causa di grandi delusioni che per chi ci sta attorno erano ampiamente annunciate.

Succede anche agli scienziati, anche ai più razionali. Nell’agonismo di portare a termine una ricerca sperano in un risultato e finiscono per interpretare i dati raccolti in maniera non conforme, o per realizzare esperimenti non sufficientemente ben congegnati e a trarsi in inganno. Nasce da questo il metodo scientifico.

Cercando di semplificare al massimo quello che si fa in una ricerca scientifica è scegliere una teoria, una serie di concetti ipotetici, e metterla alla prova cercando di falsificarla, cercando di dimostrare che questa non è vera. Se non si è in grado di dimostrarla come falsa allora sarà considerata vera fino a prova contraria, finché qualcuno di più bravo non riuscirà a dimostrare con un esperimento che quella teoria non funziona.

Ovviamente le cose non sono così semplici. Per evitare la fallacia del Cherry picking prima che una ricerca sia considerata valida deve essere sottoposta alla comunità scientifica, ad altri scienziati e ricercatori che non si limiteranno a dire “sì o no” in base al sentimento o a una lettura superficiale. I dati e gli esperimenti realizzati dovranno essere condivisi con la comunità scientifica ed altri, numerosi altri se la teoria risulta essere particolarmente importante, la metteranno alla prova, leggeranno i dati, faranno altri esperimenti sempre allo scopo di falsificare quella teoria. Solo quando ci sarà stato questo processo la teoria verrà considerata valida.

Ma non è neppure così semplice, perché per essere presa sul serio una teoria deve essere appunto falsificabile. Nel senso che sia possibile costruire un esperimento o una dimostrazione che la mettano alla prova. “Ho nel garage un unicorno rosa invisibile che non si può toccare né percepire“, non è una teoria falsificabile perché non esiste alcun metodo empirico per mettere alla prova l’esistenza o meno dell’unicorno.
Una teoria di questo genere, fino a che qualcuno non trovi un modo per metterla alla prova non sarà considerabile come scientifica. Può entrare nell’ambito della fede, o della psicosi, ma non della scienza.

Una cosa interessante e da sottolineare è che per il metodo scientifico non importa se chi fa una affermazione abbia un premio Nobel o un diploma di quinta elementare. Importa che sia in grado di dimostrare la propria affermazione e di renderla dimostrabile e verificabile da parte di altri ricercatori.

E le grandi rivoluzioni scientifiche? Galileo Galilei? Newton? Einstein? Amiocuggino che ha fatto l’auto ad acqua?

Il metodo scientifico non funziona a grandi rivoluzioni improvvise e a grandi geni incompresi che sovvertono la visione di tutti gli altri. Così è come piace raccontarlo ai media, o nei libri sensazionalistici. Quello che accade è essenzialmente una grandissima collaborazione molto spesso internazionale. Esistono uomini o donne che espongono una nuova teoria, come lo sono state le teorie della relatività, la teoria della gravitazione universale o il sistema eliocentrico, ma non vengono mai dal nulla, ogni gigante, si appoggia sulle conoscenze pregresse e così le idee di Galileo sull’universo erano simili a quelle di Keplero che si basavano su quelle di Copernico, Newton ha definito le stesse idee migliorandole dal punto di vista matematico e dimostrandole universali, Einstein ha migliorato la teoria di Newton andando a coprire alcune incongruenze che si rivelavano tra la teoria di Newton e la realtà e perfino la relatività di Einstein ha dei limiti nelle singolarità gravitazionali dei buchi neri, del big bang e dei buchi bianchi, e si sta studiando per allargarla ulteriormente. Probabilmente presto o tardi verrà migliorata attraverso una nuova teoria della gravità quantistica che quando arriverà sarà una rivoluzione, ma non un salto inaspettato di un singolo genio.

Per quanto riguarda invece il cugino che ha fatto l’auto ad acqua la questione è piuttosto semplice e lineare: come per tutte le ricerche scientifiche non ha che da sottoporre ad altri i propri risultati, con tutti i dati.
Se la comunità scientifica considera invenzioni come queste solamente panzane è perché il cugino di turno non è riuscito a mostrare qualcosa che sia verificabile e riproducibile da fonti indipendenti. Se la cosa è così facilmente realizzabile da essere stata fatta in un normale garage, basta mettere su internet gli schemi di funzionamento e chiunque con sufficiente tecnica dovrebbe essere in grado di costruirne una, anche indipendentemente da presunti poteri forti, lobby del petrolio e della corrente elettrica o alieni rettiliani.

Come funziona il cherry picking?

Il cherry picking funziona proprio come raccogliere le ciliegie: questa sì, questa no, questa sì, questa no. Abbiamo un bel cesto di ciliegie in cui ci sono centinaia di belle ciliegie rosse e un po’ di ciliegie nere. Se leggiamo il dato per quello che è abbiamo tante ciliegie rosse e un po’ di nere, se raccogliamo dal cesto solo quelle nere e le mostriamo al pubblico, il pubblico invece penserà che nel cesto siano tutte scure.

Può succedere a tutti noi quando iniziamo a far caso alle notizie di un certo genere e ci sembra di esserne sopraffatti (anche perché poi i social ci mettono del loro nel farcene trovare di più https://short.staipa.it/umaes), o quando speriamo tanto che qualcosa sia come vorremmo, ma è una tecnica comunemente usata soprattutto da negazionisti e complottisti per supportare le proprie teorie ignorando dati contrari o contestualmente rilevanti.

Ecco alcuni esempi in cui il cherry picking è spesso utilizzato:

  1. Cambiamento climatico: molte delle tesi negazioniste sul cambiamento climatico prendono in esame scale ridotte, ad esempio di pochi mesi, o di pochi anni, o di zone del mondo specifiche per mostrare che in quei range il cambiamento non è così radicale. Di fatto si ignorano l’insieme della vastità dei dati che se analizzati nel loro insieme danno una visione schiacciante e priva di ogni dubbio e si focalizzano su un insieme più specifico e ridotto. In alternativa fanno anche un cherry picking sulle fonti: basta costruire una narrazione sui pochissimi scienziati che non riconoscono l’evidenza e contrapporli come eroi all’enorme quantità di scienziati che invece la riconoscono da ormai diversi decenni. Chiamarli eroi, magari aggiungendo che anche Galileo Galilei ai suoi tempi non era accettato ed è cosa fatta. Per altro ignorando che, a parte i suoi bisticci col papa, Galilei insegnava nelle più prestigiose università dell’epoca, era molto apprezzato per la sua divulgazione scientifica e intesseva svariati rapporti epistolari con diversi studiosi dell’epoca. Cherry picking, sulla vita di un personaggio storico.
  2. Vaccinazioni: Il movimento anti-vaccinista tende a enfatizzare le reazioni avverse, che nessuno ha mai negato, e ignorare i risultati effettivi. Inoltre cherry picking nel cherry picking tende a enfatizzare il numero di reazioni avverse ma a nascondere la tipologia di reazione, perché un mal di testa non è la stessa cosa di una trombosi, costruendo una narrazione diversa da quella che emerge analizzando l’insieme completo dei dati. Un’altra forma di cherry picking è inoltre la scelta, tra le numerosissime pubblicazioni scientifiche, di singole affermazioni di un limitato numero di scienziati “fuori dal coro”.
  3. Medicine alternative: Sostenitori di alcune cosiddette medicine alternative spesso selezionano studi limitati, che mostrano presunti benefici ma non forniscono modo di testare le stesse cure da parte di ricercatori indipendenti, un po’ come era successo ai tempi di Stamina (https://short.staipa.it/f9qhq) o di Di Bella (https://short.staipa.it/mrfa2) dove di cure apparentemente miracolose non venivano fornite abbastanza informazioni per testarle indipendentemente. Un altro esempio tipico è l’omeopatia, che secondo le leggi vigenti non richiede le stesse sperimentazioni dei farmaci reali, né in termini di efficacia, né in termini di sicurezza.
  4. Ogm: molti oppositori degli organismi geneticamente modificati si limitano anche qui a citare alcuni studi che suggeriscono potenziali rischi per la salute, ignorando la vasta quantità di studi che non hanno trovato evidenze di pericoli significativi o che hanno evidenziato diversi benefici in termini di sicurezza alimentare e sostenibilità.

Tra tutte le fallacie logiche, probabilmente il cherry picking è quella più ampiamente sfruttata quando si vuole dare credibilità all’informazione, perché si basa su mezze verità, su dati reali e spesso corretti ma letti in maniera -volutamente o no- errata. Capirne il meccanismo è fondamentale per crearsi una forma mentis di pensiero critico. Sospettare è lecito, farsi domande è necessario, ma cadere nelle trappole di chi vuole deviare il nostro sospetto e sfruttare le nostre paure è fin troppo semplice.

Chiediamoci sempre da dove vengono presi i dati, quali sono le fonti, e cerchiamo di ragionare sul set più ampio possibile di dati, quando questo è disponibile altrove.

Questo blog non è solo sull'Uso Consapevole Delle Tecnologie

Questo è un blog politico. Che piaccia o no. Ma difficilmente mi si vedrà schierato a favore di un partito, o contro un partito… per partito preso.
Politica è essere o non essere razzisti, essere o non essere a favore dei diritti e delle libertà, politica è scegliere di buttare per terra una cartaccia o di raccoglierla e metterla in un cestino della differenziata, politica è scegliere tra accogliere o discriminare, sono tutte cose che non sono di destra o di sinistra, che non dovrebbero appartenere a l’uno o all’altra fazione politica. Sono “cosa pubblica”, sono bene pubblico.
Qui puoi leggere di più sulla mia idea di politica

Iscriviti al blog tramite email

Inserisci il tuo indirizzo e-mail per essere avvisato quando verranno create nuove pagine o eventi su staipa.it

Unisciti a 710 altri iscritti

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *