fahreunblog

I migranti di Fahrenheit migrano ancora… (IV inbloggazione)

Quanto è esperto l’esperto?

Fare previsioni è una cosa molto difficile, specialmente se riguardano il futuro

Niels Bohr

Fare previsioni sul futuro sarà anche difficile ma noi tutti le facciamo tutti i giorni.

Per esempio, quando cambiamo lavoro, o quando ci sposiamo, o quando cambiamo casa, quando compriamo un’obbligazione…

Siamo tutti dei profeti in miniatura.

Quando però sotto la lente finiscono i cosiddetti  i grandi eventi della politica, del costume o della storia, cediamo umilmente la parola all’esperto di turno.

Da Sergio Romano a Lucio Caracciolo fino a Maurizio Molinari e Bernardo Valli, gli esperti di scenari internazionali abbondano. Negli USA hanno Tom Friedman: se vuoi sapere qualcosa sul Medio Oriente chiedi a lui…

… If you are a White House staffer, you might find him in the Oval Office with the president of the United States, talking about the Middle East. If you are a Fortune 500 CEO, you might spot him in Davos, chatting in the lounge with hedge fund billionaires and Saudi princes. And if you don’t frequent the White House or swanky Swiss hotels, you can read his New York Times columns and bestselling books that tell you what’s happening now, why, and what will come next.1 Millions do…

Sono parole di Philip Tetlock – il più grande esperto di esperti – prese dal suo libro “Superforecasting”.

Bene, ora bisogna sapere che anche Bill Flack analizza scenari internazionali ma nessuno se lo fila o lo invita ai talk show. Tom Friedman non sa neanche chi sia e la vita di Bill non è particolarmente eccitante…

… he worked for the US Department of Agriculture in Arizona… now he lives in Kearney, Nebraska… He was a good student in high school… he went to the University of Arizona. He was aiming for a PhD in math, but he realized it was beyond his abilities… he dropped out… then got a job with the Department of Agriculture and stayed for a while… Bill is fifty-five and retired… So he has free time. And he spends some of it forecasting…

Bill risponde a domande tipo

… “Will Russia officially annex additional Ukrainian territory in the next three months?” and “In the next year, will any country withdraw from the eurozone?”… “Will North Korea detonate a nuclear device before the end of this year?” “How many additional countries will report cases of the Ebola virus in the next eight months?” “Will India or Brazil become a permanent member of the UN Security Council in the next two years?”… “Will NATO invite new countries to join the Membership Action Plan (MAP) in the next nine months?” “Will the Kurdistan Regional Government hold a referendum on national independence this year?” “If a non-Chinese telecommunications firm wins a contract to provide Internet services in the Shanghai Free Trade Zone in the next two years, will Chinese citizens have access to Facebook and/or Twitter?”…

Non ha molti indizi per rispondere correttamente ma lavora duro per raccogliere le informazioni e bilanciare i pro e i contro, finché non giunge ad una delibera.

Purtroppo nessuno lo invita alla CNN o al Costanzo show, nemmeno Gad Lerner si cura di lui. A Davos lo avrebbero snobbato se solo avessero saputo chi fosse.

E questo è un peccato per il semplice fatto che Bill Flack è un ottimo profeta.

Le sue previsioni sono datate, registrate e verificate con accuratezza scientifica. Molte volte sbaglia, nonostante questo il suo record track è eccellente.

In migliaia affrontano la prova a cui si sottopone lui: ingegneri, avvocati, artisti, speculatori di borsa, professori, studenti, esperti del settore. Molti di loro danno ottima prova di sè, potremmo chiamarli “superprofeti”.

Tom Friedman e Lucio Caracciolo fanno parte di questa schiera? Non lo sapremo mai perché quelli che noi chiamiamo “esperti” non amano che venga controllato quel che dicono, cosicché sono del tutto privi di “record track”.

Bisogna dare atto che Tom Friedman ventilava qualcosa sulla primavera araba, aveva sentore che l’avventura in Iraq fosse un rischio ma non si è mai cimentato con previsioni sufficientemente precise da poter essere controllate.

Noi, ma anche i governi, si affidano ad esperti che fanno previsioni la cui qualità ci è sconosciuta ed è destinata a rimanere tale.

Un tempo girava la barzelletta per cui “l’esperto medio non batterebbe una scimmia che getta i dadi”. Le cose stavano all’incirca in questi termini…

… It goes like this: A researcher gathered a big group of experts—academics, pundits, and the like—to make thousands of predictions about the economy, stocks, elections, wars, and other issues of the day. Time passed, and when the researcher checked the accuracy of the predictions, he found that the average expert did about as well as random guessing. Except that’s not the punch line because “random guessing” isn’t funny. The punch line is about a dart-throwing chimpanzee. Because chimpanzees are funny. I am that researcher… My study was the most comprehensive assessment of expert judgment… I also didn’t mind because the joke makes a valid point… Open any newspaper, watch any TV news show, and you find experts who forecast… With few exceptions, they are not in front of the cameras because they possess any proven skill at forecasting… Old forecasts are like old news—soon forgotten… I was happy to see my research used to give it to them…

Oggi l’esperto non è chi fa previsioni di qualità ma chi sa descrivere una situazione raccontando storie interessanti…

… The one undeniable talent that talking heads have is their skill at telling a compelling story with conviction, and that is enough. Many have become wealthy peddling forecasting of untested value to corporate executives, government officials, and ordinary people who would never think of swallowing medicine of unknown efficacy and safety but who routinely pay for forecasts that are as dubious as elixirs sold from the back of a wagon…

In realtà, la barzelletta della scimmia non è supportata dagli studi a cui si ispirava, secondo i quali l’esperto prevede comunque un pochino meglio dell’uomo della strada.

Solo se ci spingiamo a 3/5 anni ci si abbassa tutti a livello “scimmiesco”. Ma l’idea per cui tutte le previsioni siano ugualmente attendibili resta sbagliata.

In realtà è possibile scrutare il futuro. Bisogna essere intelligenti, curiosi, motivati, con la mente aperta e disposti a lavorare duro.

Capisco che sulla questione si possa essere scettici: chi avrebbe potuto prevedere il timing delle primavere arabe

… To understand the “skeptic” half of that label, consider a young Tunisian man pushing a wooden handcart loaded with fruits and vegetables down a dusty road to a market in the Tunisian town of Sidi Bouzid. When the man was three, his father died. He supports his family by borrowing money to fill his cart, hoping to earn enough selling the produce to pay off the debt and have a little left over. It’s the same grind every day. But this morning, the police approach the man and say they’re going to take his scales because he has violated some regulation. He knows it’s a lie. They’re shaking him down. But he has no money. A policewoman slaps him and insults his dead father. They take his scales and his cart. The man goes to a town office to complain. He is told the official is busy in a meeting. Humiliated, furious, powerless, the man leaves. He returns with fuel. Outside the town office he douses himself, lights a match, and burns. Only the conclusion of this story is unusual. There are countless poor street vendors in Tunisia and across the Arab world…But this particular humiliation, on December 17, 2010, caused Mohamed Bouazizi, aged twenty-six, to set himself on fire, and Bouazizi’s self-immolation sparked protests. The police responded with typical brutality. The protests spread. Hoping to assuage the public, the dictator of Tunisia, President Zine el-Abidine Ben Ali, visited Bouazizi in the hospital. Bouazizi died on January 4, 2011. The unrest grew. On January 14, Ben Ali fled to a cushy exile in Saudi Arabia, ending his twenty-three-year kleptocracy. The Arab world watched, stunned. Then protests erupted in Egypt, Libya, Syria, Jordan, Kuwait, and Bahrain. After three decades in power, the Egyptian dictator Hosni Mubarak was driven from office. Elsewhere, protests swelled into rebellions, rebellions into civil wars….

Raccontare questa storia è bello e forse istruttivo, Tom Freidman lo fa sul NYT nel migliore dei modi. Tuttavia, prevederla è praticamente impossibile. Anche conoscendo nel dettaglio la situazione di quei paesi, la scintilla avrebbe potuto scoccare un anno prima o un anno dopo.

Il nume tutelare degli scettici è il meteorologo Edward Lorenz per cui il batter d’ali di una farfalla in Cina puo’ scatenare un uragano in Texas…

… Lorenz had discovered by accident that tiny data entry variations in computer simulations of weather patterns—like replacing 0.506127 with 0.506—could produce dramatically different long-term forecasts. It was an insight that would inspire “chaos theory”: in nonlinear systems like the atmosphere, even small changes in initial conditions can mushroom to enormous proportions….

La farfalla è una delle mille cause necessarie del tornado ma resta comunque “necessaria”, e quindi da tenere in grande considerazione: poiché non è possibile farlo la previsione diventa velleitaria.

Se la farfalla non avesse battuto le ali, se la polizia non avesse sequestrato la merce di Mohamed Bouazizi, se mia nonna avesse avuto le ruote… Tutto questo pone limiti seri alle profezie.

Eppure, per secoli, gli scienziati hanno indicato nella prevedibilità perfetta una meta alla portata. Uno per tutti: Pierre-Simon Laplace

… We may regard the present state of the universe as the effect of its past and the cause of its future. An intellect which at a certain moment would know all forces that set nature in motion, and all positions of all items of which nature is composed, if this intellect were also vast enough to submit these data to analysis, it would embrace in a single formula the movements of the greatest bodies of the universe and those of the tiniest atom; for such an intellect nothing would be uncertain and the future just like the past would be present before its eyes….

Il credo determinista: se conosco le leggi di natura e la situazione attuale, conosco perfettamente il futuro.

Paradossalmente, oggi conosciamo molte più cose ma siamo anche molto più scettici sulla nostra capacità di prevedere.

Il fatto è che abbiamo studiato le nuvole e ne siamo rimasti molto impressionati…

… High school science tells us that clouds form when water vapor coalesces around dust particles. This sounds simple but exactly how a particular cloud develops—the shape it takes—depends on complex feedback interactions among droplets. To capture these interactions, computer modelers need equations that are highly sensitive to tiny butterfly-effect errors in data collection…

Purtroppo, quello che capita in cielo capita anche sulla terra

… A woman living in a Kansas City suburb may think Tunisia is another planet, and her life has no connection to it, but if she were married to an air force navigator who flies out of the nearby Whiteman Air Force Base, she might be surprised to learn that one obscure Tunisian’s actions led to protests, that led to riots, that led to the toppling of a dictator, that led to protests in Libya, that led to a civil war, that led to the 2012 NATO intervention, that led to her husband dodging antiaircraft fire over Tripoli…

Tuttavia, anche in un mondo complesso possiamo prevedere molte cose e lo facciamo tutti i giorni. Stamattina mi sono alzato un quarto d’ora prima per evitare l’ondata di traffico e mi è andata bene: notare che per avere successo in una simile previsione devo anticipare la vita di migliaia di persone, una vita che puo’ mutare il suo corso per un nonnulla.

Previsioni del genere sono di routine, fanno parte della nostra esistenza. L’Enel sa quando ci saranno i picchi nei consumi e aumenta le potenze disponibili. Questo sapere è un sapere che riguarda un mondo estremamente complesso. E vogliamo dire di quel che sanno le assicurazioni?

… Kansas City Life Insurance Company is in the business of forecasting disability and death, and it does a good job. That doesn’t mean it knows precisely when I will die, but it does have a good idea of how long someone of my age and profile—sex, income, lifestyle—is likely to live. Kansas City Life was founded in 1895. If its actuaries weren’t good forecasters, it would have gone bankrupt long ago…

Google o facebook ti conoscono al punto di farti proposte personalizzate ad orologeria.

Ma la nostra realtà assomiglia più ad un orologio o a una nuvola?

E’ un misto delle due cose, meglio non aggregarsi alla compagnia degli estremisti. Prevedibilità e imprevedibilità coesistono. Quel che conta è che si possono fare progressi

… Weather forecasts are typically quite reliable, under most conditions, looking a few days ahead, but they become increasingly less accurate…

L’unico modo di procedere è a tentoni, non c’è altra via…

… meteorologists are able to sharpen their understanding of how weather works and tweak their models. Then they try again. Forecast, measure, revise. Repeat. It’s a never-ending process of incremental improvement that explains why weather forecasts are good and slowly getting better…

La rivoluzione informatica e il big data possono aiutarci a fare un passettino oltre, inutile negarlo.

Ma il problema riguarda la domanda di accuratezza. Contrariamente alle apparenze, spesso noi “non vogliamo sapere”, non vogliamo testarci e non vogliamo testare i nostri beniamini. Eppure “misurare” è il segreto per migliorarsi.

Nessuna misurazione, nessuna revisione nei metodi. Nessuna revisione, nessun miglioramento.

Bill Gates

…  “I have been struck by how important measurement is to improving the human condition,” Bill Gates wrote. “You can achieve incredible progress if you set a clear goal and find a measure that will drive progress toward that goal. … This may seem basic, but it is amazing how often it is not done and how hard it is to get right.”…

Il fatto che non misuriamo non deve sorprendere. Diamo per scontato che fare previsioni serva a prevedere ma non è affatto così. A volte serve solo a divertirsi

… Think of CNBC’s Jim Cramer with his “booyah!” shtick, or John McLaughlin, the host of The McLaughlin Group, bellowing at his panelists to predict the likelihood of an event “on a scale from zero to ten, with zero representing zero possibility and ten representing complete metaphysical certitude!”…

Altre volte la profezia è solo un’arma politica: serve a dare speranze e a fare in modo che si auto-avveri.

A volte le previsioni si fanno per impressionare. In questi casi il profeta deve avere il phisique du role, dal curriculum all’abito indossato, tutto è curato al millimetro (tranne il record track). Le grandi banche e i governi sono i suoi clienti più generosi: sfoggiare certi esperti è segno di serietà. Più li si paga, più si è seri, la qualità della prestazione è secondaria.

Altre previsioni si fanno per confortare l’audience: il militante ha bisogno di tenere alto il morale. Una previsione benigna è come un bagno caldo.

Quando le funzioni della profezia sono così numerose e diversificate non c’è da meravigliarsi se poi nessuno perde tempo a verificare. Per la maggior parte degli scopi questa attività non serve affatto, anzi è dannosa!

Ma questo è solo motivo per essere fiduciosi: c’è ampio spazio di miglioramento.

Non resta che ricorrere al solito vecchio buon metodo sperimentale. Il Good Judgment Project (GJP) potrebbe essere un buon punto di partenza…

… we started in the summer of 2011, when my research (and life) partner Barbara Mellers and I launched the Good Judgment Project and invited volunteers to sign up and forecast the future. Bill Flack responded. So did a couple of thousand others that first year, and thousands more in the four years that followed. Cumulatively, more than twenty thousand intellectually curious laypeople tried to figure out if protests in Russia would spread, the price of gold would plummet, the Nikkei would close above 9,500, war would erupt on the Korean peninsula, and many other questions about complex, challenging global issues. By varying the experimental conditions, we could gauge which factors improved foresight, by how much, over which time frames, and how good forecasts could become if best practices were layered on each other… this is… part of a much larger research effort sponsored by the Intelligence Advanced Research Projects Activity (IARPA)… intelligence community that reports to the director of National Intelligence…

Nei nostri governi lavorano ben pagati molti esperti e nessuno si preoccupa della qualità previsionale che esprimono…

… By one rough estimate, the United States has twenty thousand intelligence analysts assessing everything from minute puzzles to major events such as the likelihood of an Israeli sneak attack on Iranian nuclear facilities or the departure of Greece from the eurozone… intelligence community, like so many major producers of forecasting, has never been keen on spending money to figure that out… this forecasting is critical to national security… To change that, IARPA created a forecasting tournament in which five scientific teams led by top researchers in the field would compete to generate accurate forecasts on the sorts of tough questions intelligence analysts deal with every day. The Good Judgment Project was one of those five teams. Each team would effectively be its own research project, free to improvise whatever methods it thought would work, but required to submit forecasts at 9 a.m. eastern standard time every day from September 2011 to June 2015. By requiring teams to forecast the same questions at the same time, the tournament created a level playing field—and a rich trove of data about what works, how well, and when. Over four years, IARPA posed nearly five hundred questions about world affairs…

Risultati

… In year 1, GJP beat the official control group by 60%. In year 2, we beat the control group by 78%. GJP also beat its university-affiliated competitors, including the University of Michigan and MIT, by hefty margins, from 30% to 70%, and even outperformed professional intelligence analysts with access to classified data. After two years, GJP was doing so much better than its academic competitors that IARPA dropped the other teams…

Conclusione: si puo’ migliorare.

L’abilità previsionale esiste, gente come Bill Flack la possiede: è reale e misurabile.

Qual è il segreto? Un particolare modo di pensare. Di raccogliere informazioni, di cambiare o aggiornare le proprie credenze. Tutta roba che si puo’ coltivare e imparare. Non è difficile.

Aaron Brown – un gestore di fondi d’investimento – ci tiene a spiegare che diventare dei buoni profeti è difficile perché troppo banale, troppo prosaico, basterebbe un minuto manualetto per contenere l’essenziale:

… “It’s so hard to see because it’s not dramatic”… “it’s the difference between a consistent winner who’s making a living, or the guy who’s going broke all the time.”…

I pokeristi conoscono bene la differenza tra l’ottimo giocatore e chi si guadagna da vivere con il poker

… The difference between heavyweights and amateurs, she said, is that the heavyweights know the difference between a 60⁄40 bet and a 40⁄60 bet…

E’ possibile migliorare limitandosi a misurare. Solo constatare l’errore ci spingerà a cambiare. Non lo facciamo per questioni psicologiche, e così ci convinciamo di sapere cose che non sappiamo.

La medicina insegna l’importanza della misurazione…

… For centuries, it hobbled progress in medicine… When physicians finally accepted that their experience and perceptions were not reliable means of determining whether a treatment works, they turned to scientific testing—and medicine finally started to make rapid advances…

Non conta tanto l’intelligenza. Certo, i “superprofeti” sono persone sveglie ma…

Non conta tanto la cultura. Certo, i “superprofeti” sono dei forti lettori ma…

Non conta tanto la matematica. Certo, i “superprofeti” ne sono appassionati ma…

… Superforecasting does require minimum levels of intelligence, numeracy, and knowledge of the world, but anyone who reads serious books about psychological research probably has those prerequisites…

Conta la testa, il modo di pensare: un “superprofeta” è curioso, attento, motivato, autocritico, vuole migliorarsi ed è disposto a cambiare per questo.

Il “superprofeta” vuole continuamente misurarsi e un feedback negativo è vissuto come la possibilità di progredire. Tutto questo è estremamente faticoso, la maggior parte di noi si fa abbattere dai feedback negativi, ma le motivazioni servono proprio a superare questo ostacolo.

Domanda legittima: l’avvento delle macchine non renderà obsoleto il “superprofeta”? Gli algoritmi e big data non lo detronizzeranno?…

… In 1954, a brilliant psychologist, Paul Meehl wrote a small book that caused a big stir. It reviewed twenty studies showing that well-informed experts predicting outcomes—whether a student would succeed in college or a parolee would be sent back to prison—were not as accurate as simple algorithms…

In molti casi l’algoritmo batte l’esperto. Infatti, vige una chiara legge: se hai un buon algoritmo usalo. Ma non sempre ce l’hai.

Puo’ darsi che i progressi della tecnologia segnino una discontinuità

… In 1997 IBM’s Deep Blue beat chess champion Garry Kasparov. Now, commercially available chess programs can beat any human. In 2011 IBM’s Watson beat Jeopardy! champions Ken Jennings and Brad Rutter. That was a vastly tougher computing challenge, but Watson’s engineers did it…

David Ferrucci, il padre di Watson, oggi è molto cauto sull’intelligenza artificiale. Anche se IA galoppa, le previsioni dei “superprofeti” non sono ancora alla loro portata e forse non lo saranno mai.

Quello che vedremo sarà una sintesi di uomo e macchina, un po’ quello che già succede negli scacchi free-style.

A chi è più utile il navigatore delle auto? Al guidatore che interagisce con lui al meglio! Non a quello che lo snobba ma nemmeno a quello si affida passivamente alle sue indicazioni. Ecco allora un esempio di tecnologia free-style che fa parte della nostra esperienza quotidiana.

Il “superprofeta” partorirà le sue profezie interagendo con le sue macchine e mantenendo il “comando” delle operazioni.

Uomo + Macchina batterà sia l’ Uomo che la Macchina. Mischiare è la ricetta migliore.

Ma soprattutto a sparire saranno i Guru, ovvero il modello oggi predominante.

Secondo Ferrucci a risentirne sarà l’autorità di chi esprime un giudizio soggettivo.

Forse ne risentirà anche chi campa di polemiche…

… that makes so many policy debates so puerile: “I’ll counter your Paul Krugman polemic with my Niall Ferguson counterpolemic, and rebut your Tom Friedman op-ed with my Bret Stephens blog.”…

Scommettere è un veleno mortale per le diatribe infinite.

HeadintheClouds_06

Lascia un commento

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione / Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione / Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione / Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione / Modifica )

Connessione a %s...

%d blogger cliccano Mi Piace per questo: