Burdensome Details

De Racionalidade
Ir para: navegação, pesquisa

Original

Merely corroborative detail, intended to give artistic verisimilitude to an otherwise bald and unconvincing narrative...

—Pooh-Bah, in Gilbert and Sullivan’s The Mikado1

The conjunction fallacy is when humans rate the probability P(A,B) higher than the probability P(B), even though it is a theorem that P(A,B) ≤ P(B). For example, in one experiment in 1981, 68% of the subjects ranked it more likely that “Reagan will provide federal support for unwed mothers and cut federal support to local governments” than that “Reagan will provide federal support for unwed mothers.”

A long series of cleverly designed experiments, which weeded out alternative hypotheses and nailed down the standard interpretation, confirmed that conjunction fallacy occurs because we “substitute judgment of representativeness for judgment of probability.” By adding extra details, you can make an outcome seem more characteristic of the process that generates it. You can make it sound more plausible that Reagan will support unwed mothers, by adding the claim that Reagan will also cut support to local governments. The implausibility of one claim is compensated by the plausibility of the other; they “average out.”

Which is to say: Adding detail can make a scenario SOUND MORE PLAUSIBLE, even though the event necessarily BECOMES LESS PROBABLE.

If so, then, hypothetically speaking, we might find futurists spinning unconscionably plausible and detailed future histories, or find people swallowing huge packages of unsupported claims bundled with a few strong-sounding assertions at the center. If you are presented with the conjunction fallacy in a naked, direct comparison, then you may succeed on that particular problem by consciously correcting yourself. But this is only slapping a band-aid on the problem, not fixing it in general.

In the 1982 experiment where professional forecasters assigned systematically higher probabilities to “Russia invades Poland, followed by suspension of diplomatic relations between the USA and the USSR” than to “Suspension of diplomatic relations between the USA and the USSR,” each experimental group was only presented with one proposition.2 What strategy could these forecasters have followed, as a group, that would have eliminated the conjunction fallacy, when no individual knew directly about the comparison? When no individual even knew that the experiment was about the conjunction fallacy? How could they have done better on their probability judgments?

Patching one gotcha as a special case doesn’t fix the general problem. The gotcha is the symptom, not the disease.

What could the forecasters have done to avoid the conjunction fallacy, without seeing the direct comparison, or even knowing that anyone was going to test them on the conjunction fallacy? It seems to me, that they would need to notice the word “and.” They would need to be wary of it—not just wary, but leap back from it. Even without knowing that researchers were afterward going to test them on the conjunction fallacy particularly. They would need to notice the conjunction of two entire details, and be shocked by the audacity of anyone asking them to endorse such an insanely complicated prediction. And they would need to penalize the probability substantially—a factor of four, at least, according to the experimental details.

It might also have helped the forecasters to think about possible reasons why the US and Soviet Union would suspend diplomatic relations. The scenario is not “The US and Soviet Union suddenly suspend diplomatic relations for no reason,” but “The US and Soviet Union suspend diplomatic relations for any reason.”

And the subjects who rated “Reagan will provide federal support for unwed mothers and cut federal support to local governments”? Again, they would need to be shocked by the word “and.” Moreover, they would need to add absurdities—where the absurdity is the log probability, so you can add it—rather than averaging them. They would need to think, “Reagan might or might not cut support to local governments (1 bit), but it seems very unlikely that he will support unwed mothers (4 bits). Total absurdity: 5 bits.” Or maybe, “Reagan won’t support unwed mothers. One strike and it’s out. The other proposition just makes it even worse.”

Similarly, consider the six-sided die with four green faces and two red faces. The subjects had to bet on the sequence (1) RGRRR, (2) GRGRRR, or (3) GRRRRR appearing anywhere in twenty rolls of the dice.3 Sixty-five percent of the subjects chose GRGRRR, which is strictly dominated by RGRRR, since any sequence containing GRGRRR also pays off for RGRRR. How could the subjects have done better? By noticing the inclusion? Perhaps; but that is only a band-aid, it does not fix the fundamental problem. By explicitly calculating the probabilities? That would certainly fix the fundamental problem, but you can’t always calculate an exact probability.

The subjects lost heuristically by thinking: “Aha! Sequence 2 has the highest proportion of green to red! I should bet on Sequence 2!” To win heuristically, the subjects would need to think: “Aha! Sequence 1 is short! I should go with Sequence 1!”

They would need to feel a stronger emotional impact from Occam’s Razor—feel every added detail as a burden, even a single extra roll of the dice.

Once upon a time, I was speaking to someone who had been mesmerized by an incautious futurist (one who adds on lots of details that sound neat). I was trying to explain why I was not likewise mesmerized by these amazing, incredible theories. So I explained about the conjunction fallacy, specifically the “suspending relations ± invading Poland” experiment. And he said, “Okay, but what does this have to do with—” And I said, “It is more probable that universes replicate for any reason, than that they replicate via black holes because advanced civilizations manufacture black holes because universes evolve to make them do it.” And he said, “Oh.”

Until then, he had not felt these extra details as extra burdens. Instead they were corroborative detail, lending verisimilitude to the narrative. Someone presents you with a package of strange ideas, one of which is that universes replicate. Then they present support for the assertion that universes replicate. But this is not support for the package, though it is all told as one story.

You have to disentangle the details. You have to hold up every one independently, and ask, “How do we know this detail?” Someone sketches out a picture of humanity’s descent into nanotechnological warfare, where China refuses to abide by an international control agreement, followed by an arms race . . . Wait a minute—how do you know it will be China? Is that a crystal ball in your pocket or are you just happy to be a futurist? Where are all these details coming from? Where did that specific detail come from?

For it is written:

If you can lighten your burden you must do so. There is no straw that lacks the power to break your back.

http://lesswrong.com/lw/jk/burdensome_details/


Footnotes

1. William S. Gilbert and Arthur Sullivan, The Mikado, Opera, 1885.

2. Tversky and Kahneman, “Extensional Versus Intuitive Reasoning.”

3. Amos Tversky and Daniel Kahneman, “Judgments of and by Representativeness,” in Judgment Under Uncertainty: Heuristics and Biases, ed. Daniel Kahneman, Paul Slovic, and Amos Tversky (New York: Cambridge University Press, 1982), 84–98.

Detalhes onerosos

Detalhes meramente corroborativos, direcionados a dar verossimilhança artística a uma narrativa de outro modo nua e pouco convincente... - Pooh-Bah, em The Mikado, de Gilbert e Sullivan [1]

A falácia da conjunção é quando seres humanos julgam que a probabilidade P(A,B) é maior do que a probabilidade P(B), embora seja um teorema que P(A,B) ≤ P(B). Por exemplo, em um experimento em 1981, 68% dos indivíduos classificavam como mais provável que "Reagan dará apoio federal para mães solteiras e reduzirá o apoio federal aos governos locais" do que "Reagan dará apoio federal para mães solteiras."

Uma longa série de experimentos inteligentemente concebidos, que eliminou hipóteses alternativas e definiu a interpretação padrão, confirmou que a falácia da conjunção ocorre porque nós "usamos um juízo de representatividade em substituição ao juízo de probabilidade." Ao adicionar mais detalhes, você pode fazer um resultado parecer mais característico do processo que o gera. Você pode fazer parecer mais plausível que Reagan vai apoiar as mães solteiras, acrescentando a alegação de que Reagan vai também reduzir o apoio aos governos locais. A implausibilidade de uma alegação é compensada pela plausibilidade da outra; eles "chegam numa média."

O que significa dizer: adicionar detalhes pode fazer um cenário PARECER MAIS PLAUSÍVEL, embora o evento necessariamente TORNE-SE MENOS PROVÁVEL.

Se é assim, então, hipoteticamente falando, podemos encontrar futuristas contando histórias futuras exorbitantemente implausíveis e detalhadas, ou achar pessoas engolindo enormes pacotes de alegações infundadas embrulhadas com algumas afirmações aparentemente fortes no centro. Se você é se depara com a falácia da conjunção em uma comparação clara e direta, então talvez você tenha sucesso naquele problema específico ao se corrigir conscientemente. Mas isso é só colocar um band-aid no problema, não resolvê-lo em geral.

No experimento de 1982 em que analistas profissionais atribuíram probabilidades sistematicamente superiores para "Rússia invade a Polônia, seguido pela suspensão das relações diplomáticas entre os EUA e a URSS" do que para "suspensão das relações diplomáticas entre os EUA e a URSS", cada grupo experimental foi apresentado a apenas uma proposição [2]. Qual estratégia esses analistas poderiam ter seguido, como um grupo, que teria eliminado a falácia da conjunção, quando nenhum indivíduo sabia diretamente sobre a comparação? Quando nenhum indivíduo sequer sabia que o experimento era sobre a falácia da conjunção? Como eles poderiam ter ido melhor em seus juízos de probabilidade?

Remendar uma pegadinha como um caso especial não resolve o problema geral. A pegadinha é o sintoma, não a doença.

O que os analistas poderiam ter feito para evitar a falácia da conjunção, sem ver a comparação direta, nem saber que alguém iria testá-los sobre a falácia da conjunção? Parece-me que eles precisariam observar a palavra "e". Eles precisam ter cuidado com ela - não só ter cuidado, mas pular para longe dela. Mesmo sem saber que os pesquisadores depois iriam testá-los especificamente sobre a falácia da conjunção. Eles teriam de observar a conjunção de dois detalhes inteiros, e ficar chocados com a audácia de alguém pedindo-lhes para endossar tal previsão insanamente complicada. E eles seriam obrigados a penalizar substancialmente a probabilidade - por um fator de quatro, pelo menos, de acordo com os detalhes experimentais.

Também poderia ter ajudado se os analistas pensassem em possíveis razões pelas quais os EUA e a União Soviética suspenderiam relações diplomáticas. O cenário não é "os Estados Unidos e a União Soviética de repente suspendem relações diplomáticas sem nenhum motivo", mas "os Estados Unidos e a União Soviética suspendem relações diplomáticas por algum motivo."

E os sujeitos que avaliaram "Reagan dará apoio federal para mães solteiras e reduzirá o apoio federal aos governos locais"? Novamente, eles teriam que ficar chocados com a palavra "e". Além disso, eles precisariam somar absurdidade - onde a absurdidade é o logaritmo da probabilidade, então você pode somar - ao invés de tirar a média delas. Eles precisam pensar, "Reagan pode ou não cortar o apoio aos governos locais (1 bit), mas parece muito improvável que ele vai apoiar as mães solteiras (4 bits). Absurdeza total: 5 bits." Ou talvez, "Reagan não vai apoiar mães solteiras. Um strike, está fora. A outra proposição só deixa ainda pior."

Da mesma forma, imagine um dado de seis lados com quatro faces verdes e duas faces vermelhas. Os sujeitos tinham que apostar se a sequência (1) RGRRR, (2) GRGRRR, ou (3) GRRRRR apareceria em qualquer lugar em vinte lançamentos dos dados [3]. Sessenta e cinco por cento dos indivíduos escolheu GRGRRR, que é estritamente dominada por RGRRR, uma vez que qualquer sequência contendo GRGRRR também contém RGRRR. Como os sujeitos poderiam ter feito melhor? Percebendo a inclusão? Talvez; mas isso é só um band-aid, ele não resolve o problema fundamental. Calculando explicitamente as probabilidades? Isso certamente resolveria o problema fundamental, mas nem sempre é possível calcular uma probabilidade exata.

Os sujeitos perderam heuristicamente ao pensar: "Ahá! A Sequência 2 tem a maior proporção de verde para vermelho! Eu devia apostar na Sequência 2!" Para vencer heuristicamente, os indivíduos teriam de pensar: "Ahá! A Sequência 1 é curta! Eu deveria apostar na Sequência 1!"

Eles precisariam sentir um impacto emocional mais forte da Navalha de Occam - sentir cada detalhe acrescentado como um fardo, mesmo um único lançamento extra dos dados.

Era uma vez, em que eu estava falando com alguém que tinha sido hipnotizada por um futurista incauto (um daqueles que acrescenta muitos detalhes que soam bonitos). Eu estava tentando explicar por que eu não estava igualmente fascinado por essas teorias incríveis, inacreditáveis. Então eu expliquei sobre a falácia da conjunção, especificamente o experimento sobre "suspensão de relações ± invasão da Polônia". E ele disse, "Ok, mas o que isso tem a ver com-" E eu disse: "É mais provável que os universos se replicam por algum motivo, do que que eles se replicam via buracos negros porque civilizações avançadas fabricam buracos negros porque universos evoluem para levá-los a fazer isso". E ele disse, "Oh."

Até então, ele não tinha sentido esses detalhes extras como fardos adicionais. Em vez disso, eles eram detalhes corroborativos, emprestando verossimilhança à narrativa. Alguém lhe apresenta um pacote de idéias estranhas, uma das quais é que universos se replicam. Em seguida, eles apresentam suporte para a afirmação de que universos se replicam. Mas isso não apoia o pacote, embora tudo sera contado como uma história só.

Você tem que separar os detalhes. Você tem que segurar cada um independentemente, e perguntar: "Como sabemos este detalhe?" Alguém esboça uma imagem da descida da humanidade à guerra nanotecnológica, onde a China se recusa a acatar um acordo internacional de controle, seguido de uma corrida armamentista... Espere um minuto, como é que você sabe que vai ser a China? Isso no seu bolso é uma bola de cristal, ou você só está feliz por ser um futurista? De onde vêm todos esses detalhes? Do onde veio esse detalhe específico?

Pois está escrito:

Se você pode aliviar seu fardo, você deve fazê-lo.

Não há palha alguma que não tenha o poder de quebrar suas costas.

http://lesswrong.com/lw/jk/burdensome_details/


Notas de Rodapé

  1. William S. Gilbert e Arthur Sullivan, The Mikado, Opera, 1885.
  2. Tversky and Kahneman, "Extensional Versus Intuitive Reasoning".
  3. Amos Tversky and Daniel Kahneman, “Judgments of and by Representativeness,” in Judgment Under Uncertainty: Heuristics and Biases, ed. Daniel Kahneman, Paul Slovic, and Amos Tversky (New York: Cambridge University Press, 1982), 84–98.