Ogni disaccordo è disonesto

E’ possibile dimostrare come dietro ogni disaccordo si celi una disonestà intellettuale, di questa singolare conclusione si occupa Robin Hanson nel saggio “Are Disagreements Honest?”.

Le persone sono in perenne disaccordo tra loro: politica, morale, religione, scienza, e chi più ne ha più ne metta.

Capita anche tra persone intelligenti: si discute ma il disaccordo persiste, persino tra chi ritiene che esista una verità oggettiva.

La cosa singolare è che noi non sembriamo imbarazzati dal nostro disaccordo, eppure è difficile che in casi del genere la nostra onestà non sia in discussione…

… according to well-known theory, such honest disagreement is impossible. Robert Aumann (1976) first developed general results about the irrationality of “agreeing to disagree.” He showed that if two or more Bayesians would believe the same thing given the same information (i.e., have “common priors”), and if they are mutually aware of each other’s opinions (i.e., have “common knowledge”), then those individuals cannot knowingly disagree. Merely knowing someone else’s opinion provides a powerful summary of everything that person knows, powerful enough to eliminate any differences of opinion due to differing information…

Si badi bene: la cosa vale se si discute della meccanica quantistica come dell’esistenza di Dio.

Certo, bisogna assumere che i soggetti posseggano un “common prior”, una conoscenza pregressa simile. Con una conoscenza simile si sviluppano credenze simili e si va d’accordo: se due persone si identificano nella stessa persona avranno un common prior perfetto e andranno d’amore e d’accordo (a meno che quella persona sia uno schizofrenico).

E’ anche necessario che i soggetti implicati condividano le informazioni che posseggono ma per farlo in modo compiuto devono essere degli autentici cercatori di verità. Non solo: devono sapere che l’altro lo è e sa che anche io lo sono e che lo so e che so che lui sa, e via all’infinito. Questa condizione è detta “common knowledge”.

Una persona è disonesta quando si proclama cercatore di verità e poi non lo è.

Se all’interno della discussione una persona afferma qualcosa a fin di bene senza credere nella verità di cio’ che dice, ai nostri fini è disonesta, anche se magari è la persona più buona del mondo. In genere le persone troppo buone sono disoneste (non meno di quelle troppo cattive, per esempio).

L’ambizione di essere originali a volte pregiudica il nostro status di cercatori di verità. “Avere il coraggio delle proprie idee”: ecco cosa vuol sentirsi dire un finto cercatore di verità. Il vero cercatore di verità non ha mai convinzioni salde, quindi sa che un simile elogio non è alla sua portata.

La gente ha più voglia di parlare che di ascoltare, questo non è cio’ che fanno i cercatori di verità: per ottenere un “common prior” l’ascolto dell’altro è fondamentale.

Purtroppo siamo inclini a credere quel che vogliamo credere, il che rende impossibile l’accordo.

Il conversatore medio si sente sopra la media, il che mina il suo essere cercatore di verità…

… For example, most people, especially men, estimate themselves to be more able than others… Gilovich (1991, p.77) cites a survey of university professors, which found that 94% thought they were better at their jobs than their average colleagues. A survey of sociologists found that almost half said they expected to become among the top ten 3 On the tendency for polarization, see Sunstein (1999)….

Tendiamo a sopravvalutare il gruppo a cui apparteniamo, il che rende impossibile l’accordo.

Ecco una semplice parabola che illustra come due onesti cercatori di verità (John e Mary) non possano che accordarsi su un fatto reale dove dapprima le loro opinioni erano divergenti…

… Imagine that John hears a noise, looks out his window and sees a car speeding away. Mary also hears the same noise, looks out a nearby window, and sees the same car. If there was a shooting, or a hit-and-run accident, it might be important to identify the car as accurately as possible. John and Mary’s immediate impressions about the car will differ, due both to differences in what they saw and how they interpreted their sense impressions. John’s first impression is that the car was an old tan Ford, and he tells Mary this. Mary’s first impression is that the car was a newer brown Chevy, but she updates her beliefs upon hearing from John. Upon hearing Mary’s opinion, John also updates his beliefs. They then continue back and forth, trading their opinions about the likelihood of various possible car features. (Note that they may also, but need not, trade evidence in support of those opinions.) If Mary sees John as an honest truth-seeker who would believe the same things as Mary given the same information… then Mary should treat John’s differing opinion as indicating things that he knows but she does not. Mary should realize that they are both capable of mistaken first impressions. If her goal is to predict the truth, she has no good reason to give her own observation greater weight, simply because it was hers. Of course, if Mary has 20/20 eyesight, while John is nearsighted, then Mary might reasonably give more weight to her own observation. But then John should give her observation greater weight as well. If they can agree on the relative weight to give their two observations, they can agree on their estimates regarding the car. Of course John and Mary might be unsure who has the better eyesight…. opinions should eventually stop changing, at which point they should become mutually aware (i.e., have “common knowledge”) of their opinions… They will each know their opinions, know that they know those opinions, and so on…

Il fatto fondamentale è che in una discussione “onesta” l’altro – quello che dissente da noi – non è un avversario dialettico ma una fonte di informazioni. Il botta e risposta crea una valanga di informazioni condivise che alla fine diventano conoscenza di fondo comune: da una conoscenza comune derivano le stesse credenze, ovvero l’accordo.

Per avere autentica condivisione – meglio ripeterlo – è necessario avere “common knowledge”: ogni interlocutore deve credere all’altro e credere che l’altro gli creda e cosi via.

Se l’altro (che reputo un onesto cercatore di verità) non è d’accordo con me, evidentemente c’è qualcosa che io non so e che lui sa, quindi devo ascoltarlo e cambiare la mia posizione, anche se non necessariamente deve coincidere con la sua visto che forse c’è qualcosa che io so e che lui non sa. Lo stesso ragionamento si sviluppa nel mio interlocutore, così finché tutte le conoscenze implicite vengono esplicitate e condivise. A quel punto l’accordo viene da sè (visto che siamo diventati la “stessa persona”).

Senonchè, i fattori che incidono sulla formazione in buona fede di una credenza sono molti: informazioni, mentalità, stile di analisi dei fatti, influenze di terzi, esperienze pregresse… c’è moltissimo da condividere per arrivare a un common prior:

… John should pay attention to Mary’s opinion not only because it may embody information that John does not have, but also because it is the product of a different mental context, and John should want to average over as many mental contexts as he can…

Si assume che la gente dica la verità ma spesso dice bugie e ancora più spesso non pensa di dire bugie. Questa complicazione non allunga semplicemente i tempi ma arriva a  pregiudicare l’accordo necessario.

Le cose ora stanno in questi termini: le persone dissentono perché hanno una conoscenza pregressa differente (basterebbe pensare al fatto che tutti noi abbiamo esperienze diverse), la discussione dovrebbe portarci alla condivisione ma alcune conoscenze pregresse inceppano il meccanismo. Per poter dire che il disaccordo è sempre irrazionale dobbiamo accertarci che conoscenze pregresse di questo tipo possano essere bollate come irrazionali anche dal senso comune…

…Does this allow typical human disagreement to be rational?… To answer this question, we would need to not only identify the prior differences that account for typical human disagreements, we would also have to decide if these prior differences are rational. And this last topic turns out to be very controversial… To evaluate the honesty of disagreement, we do not need to know what sorts of differing priors are actually rational, but only what sorts of differences people think are rational…

Alcuni pensano in modo estremo che qualsiasi differenza nelle conoscenza pregressa sia irrazionale. Le esperienze personali, per esempio, dovrebbero essere neutralizzate per poter parlare di vera conoscenza razionale…

… If John and Mary were witnesses to a crime, or jurors deciding guilt or innocence, it would be disturbing if their honest rational beliefs — the best we might hope to obtain from them — were influenced by personal characteristics unrelated to their information about the crime…

All’altro estremo c’è chi ritiene che qualsiasi conoscenza pregressa SIA razionale: la conoscenza è come una preferenza.

Le posizioni intermedie sono molte, alcune legate al senso comune. Per esempio, di solito consideriamo irrazionale quella credenza derivata violando la logica elementare, oppure quella posizione mantenuta ferma anche a fronte di evidenze contrarie.

Ma gli psicologi ci dicono che sulla formazione delle credenze incidono fattori come l’umore, il frame, il contesto eccetera. Dobbiamo considerare razionali queste credenze? Spesso si tratta di credenze che la discussione puo’ “ridurre”, che non inceppano il meccanismo, ma altre sono più insidiose…

… Imagine that John believes that he reasons better than Mary, independent of any evidence for such superiority, and that Mary similarly believes that she reasons better than John… Such priors are consistent in the sense that what John thinks he would believe if he were Mary, is in fact what Mary believes, no matter who “is” Mary. These priors are also “common” in the sense that everyone agrees about what Mary will think, no matter who really “is” Mary. These priors are not, however, “common” in the sense required for the theory of disagreement. Are such differing priors rational?…

Le “credenze identitarie” minano la teoria del disaccordo se non vengono tradotte in “credenze oggettive”…

… For example, how likely John is to be right in his current argument with Mary may depend on John and Mary’s experience, IQ, and education, but given a rich enough set of such relevant features, we do not expect to get more predictive ability from indexical information about who really “is” Mary…

Il senso comune ci porta anche a criticare chi crede cose per convenienza…

… Consider a school administrator who… favors his son for a school award, or a judge who does not excuse himself from a case in which he has an interest. Consider a manager who assigns himself to make an important sales presentation, or who uses his own judgment in an important engineering decision, rather than relying on apparently more qualified subordinates… Though critics acknowledge that self-favoring belief is a natural tendency, such critics do not seem to endorse those beliefs as accurate or reliable….

Molti di noi non sono cercatori di verità per il semplice fatto che avere delle convinzioni e credere in se stessi è conveniente. Si noti che per molti questo fatto è costitutivo della nostra identità: sarebbe disumano considerare tutto cio’ una forma di disonestà. Il cercatore di verità, per contro, cambia spesso opinione…

… believing in yourself can be more functional that believing in logical contradictions… while unbiased beliefs may be closer to the truth, self-favoring beliefs can better serve other goals…. The virtues of self-confidence and self-esteem are widely touted (Benabou and Tirole 2002). Parents who believe in their children care more for them, and the best salesmen believe in their product, whether it is good or bad. By thinking highly of himself, John may induce Mary to think more highly of John, making Mary more willing to associate with John. Scientists with unreasonably optimistic beliefs about their research projects may work harder and thus better advance scientific knowledge (Everett 2001; Kitcher 1990)….

Credere a cio’ che ci conviene è strategicamente razionale ma non lo è dal punto di vista epistemologico.

Anche l’auto-inganno è strategicamente razionale: aiuta a mentire meglio. Ma ovviamente è irragionevole per chi cerca la verità…

… For example, a salesman is more persuasive when thinks he likes his product because of its features, rather that the fact that it is his product. And people do seem to often be unaware that they think highly of 22 themselves because of their prior. If Mary asks John to explain his high opinion of himself, John will usually point to some objective evidence, such a project he did well on….

La psicologia evoluzionista conferma…

… The story we have outlined so far, of a widely recognized tendency toward self-favoring beliefs in others, together with self-deception about this tendency in ourselves, is commonly told in psychology and philosophy. Evolutionary arguments have even been offered for why we might have evolved to be biased and self-deceived. 15 15 Many have considered the evolutionary origins of self-deception and excess confidence one’s own abilities (Waldman 1994). For example, truth-seekers who find it hard to lie can benefit by changing their beliefs (Trivers 1985; Trivers 2000). On topics like politics or religion, which are widely discussed but which impose few direct penalties for mistaken beliefs, our distant ancestors may have mainly demonstrated their cleverness and knowledge by inventing original positions and defending them well (Miller 2000)…

Ma anche la letteratura…

… This story is also commonly told in literature. For example, the concluding dream in Fyodor Dostoevsky’s (1994 [1866]) Crime and Punishment seems to describe disagreement as the original sin, from which arises all other sins. In contrast, the description of the Houyhnhnms in Jonathan Swift’s (1962 [1726]) Gulliver’s Travels can be considered a critique showing how creatures (intelligent horses in this case) that agree too much lose their “humanity.”…

Si propone ora un criterio per distinguere credenze razionali da credenze irrazionali, è quello che adotta il meta-razionalista.

Il meta-razionalista è un onesto cercatore di verità il quale crede nella teoria del disaccordo irrazionale, ovvero crede che siano irrazionali solo quelle credenze pregresse che impediscono l’accordo tra cercatori di verità.

E’ chiaro che non puo’ esistere disaccordo tra due meta-razionalisti che discutono. Ma quanti meta-razionalisti ci sono in giro? Pochi, pochissimi visto il persistente disaccordo su tutto. La gente tende all’ipocrisia e al politicamente corretto in senso lato, usa il linguaggio per agire più che per conoscere.

I meta-razionalisti sono pochi, in più devono riconoscersi tra loro per iniziare una discussione fruttuosa. Magari due meta-razionalisti discutono senza riconoscersi e buttano via un’occasione. Ma come fare a riconoscersi?

Forse un meta-razionalista è riconoscibile dal suo stile: cambia spesso idea quando discute e discute a lungo. Un cattolico meta-razionalista, per esempio, non è cattolico per diversi mesi all’anno e gode nel mettere in discussione la sua fede…

… We know that, on a topic where self-favoring opinions would be relevant, the sequence of alternating opinions between a pair of people who are mutually aware of both being meta-rational must follow a random walk. And we know that the opinion sequence between typical non-meta-rational humans is nothing of the sort. If, when responding to the opinions of someone else of uncertain type, a meta-rational person acts differently from an ordinary non-meta-rational person, then two meta-rational people should be able to discern one another via a long enough conversation. And once they discern one another, two meta-rational people should no longer have dishonest disagreements…

Conclusione…

…We have therefore hypothesized that most disagreement is due to most people not being meta-rational, i.e., honest truth-seekers who understand disagreement theory and abide by the rationality standards that most people uphold. We have suggested that this is at root due to people fundamentally not being truth-seeking. This in turn suggests that most disagreement is dishonest…

Cosa fare per diventare meta-razionalisti?

1. Non considerare gli altri meno meta-razionali di te.

2. Cerca di adottare posizioni intermedie e di proporre una mediazione, anche per sondare se dall’altra parte hai un meta-razionalista.

3. Fatti un modello di bias cognitivi che la discussione tra meta-razionalisti puo’ e deve neutralizzare.

4. Sii prudente quando dissenti: ricorda che dietro ogni disaccordo c’è disonestà e il disonesto potresti essere tu.