Your Strength as a Rationalist

De Racionalidade
Ir para: navegação, pesquisa

Original

The following happened to me in an IRC chatroom, long enough ago that I was still hanging around in IRC chatrooms. Time has fuzzed the memory and my report may be imprecise.

So there I was, in an IRC chatroom, when someone reports that a friend of his needs medical advice. His friend says that he’s been having sudden chest pains, so he called an ambulance, and the ambulance showed up, but the paramedics told him it was nothing, and left, and now the chest pains are getting worse. What should his friend do?

I was confused by this story. I remembered reading about homeless people in New York who would call ambulances just to be taken someplace warm, and how the paramedics always had to take them to the emergency room, even on the 27th iteration. Because if they didn’t, the ambulance company could be sued for lots and lots of money. Likewise, emergency rooms are legally obligated to treat anyone, regardless of ability to pay. (And the hospital absorbs the costs, which are enormous, so hospitals are closing their emergency rooms . . . It makes you wonder what’s the point of having economists if we’re just going to ignore them.) So I didn’t quite understand how the described events could have happened. Anyone reporting sudden chest pains should have been hauled off by an ambulance instantly.

And this is where I fell down as a rationalist. I remembered several occasions where my doctor would completely fail to panic at the report of symptoms that seemed, to me, very alarming. And the Medical Establishment was always right. Every single time. I had chest pains myself, at one point, and the doctor patiently explained to me that I was describing chest muscle pain, not a heart attack. So I said into the IRC channel, “Well, if the paramedics told your friend it was nothing, it must really be nothing—they’d have hauled him off if there was the tiniest chance of serious trouble.”

Thus I managed to explain the story within my existing model, though the fit still felt a little forced . . .

Later on, the fellow comes back into the IRC chatroom and says his friend made the whole thing up. Evidently this was not one of his more reliable friends.

I should have realized, perhaps, that an unknown acquaintance of an acquaintance in an IRC channel might be less reliable than a published journal article. Alas, belief is easier than disbelief; we believe instinctively, but disbelief requires a conscious effort.1

So instead, by dint of mighty straining, I forced my model of reality to explain an anomaly that never actually happened. And I knew how embarrassing this was. I knew that the usefulness of a model is not what it can explain, but what it can’t. A hypothesis that forbids nothing, permits everything, and thereby fails to constrain anticipation.

Your strength as a rationalist is your ability to be more confused by fiction than by reality. If you are equally good at explaining any outcome, you have zero knowledge.

We are all weak, from time to time; the sad part is that I could have been stronger. I had all the information I needed to arrive at the correct answer, I even noticed the problem, and then I ignored it. My feeling of confusion was a Clue, and I threw my Clue away.

I should have paid more attention to that sensation of still feels a little forced. It’s one of the most important feelings a truthseeker can have, a part of your strength as a rationalist. It is a design flaw in human cognition that this sensation manifests as a quiet strain in the back of your mind, instead of a wailing alarm siren and a glowing neon sign reading:

EITHER YOUR MODEL IS FALSE OR THIS STORY IS WRONG.

http://lesswrong.com/lw/if/your_strength_as_a_rationalist/


Footnotes

1. Daniel T. Gilbert, Romin W. Tafarodi, and Patrick S. Malone, “You Can’t Not Believe Everything You Read,” Journal of Personality and Social Psychology 65 (2 1993): 221–233, doi:10.1037/0022-3514.65.2.221.

A Sua Força como um Racionalista

A história a seguir aconteceu comigo numa sala de bate-papo de IRC, há muito tempo atrás, na época em que eu ainda passava o tempo em salas de bate-papo de IRC. O tempo borrou as memórias, e o relato pode ser impreciso.

Lá estava eu, numa sala de IRC, quando alguém diz que um amigo seu precisa de aconselhamento médico. O amigo disse que tem tido dores súbitas no peito e então chamou uma ambulância, mas quando ela chegou os paramédicos disseram que ele não tinha problema algum e foram embora, e agora as dores estavam piorando. O que o tal amigo deveria fazer?

A história me deixou confuso. Eu lembrava de ter lido sobre mendigos de Nova Iorque que chamavam ambulâncias só para serem levados para algum lugar quente, e os paramédicos sempre tinham que levá-los para o pronto-socorro, mesmo na 27ª vez. Porque se não levassem, a empresa de ambulâncias podia ser processada e ser obrigada a pagar muito dinheiro. Da mesma forma, os pronto-socorros são obrigados juridicamente a tratar a todos, independentemente de sua capacidade de pagar pelo serviço. (E o hospital tem que absorver os custos, que são enormes, e por isso os hospitais estão fechando seus pronto-socorros... Faz você pensar, de que serve ter economistas se é para simplesmente ignorá-los.) Então eu não entendi bem como a história do amigo podia ter acontecido. Qualquer pessoa afirmando sentir dores no peito deveria ter sido levada pela ambulância imediatamente.

E foi aí que eu falhei como racionalista. Eu me lembrei de várias vezes em que o meu médico ficara absolutamente impassível ao ser informado de sintomas que me pareciam alarmantes. E o Sistema Médico estava sempre certo. Todas as vezes. Eu mesmo já tinha tido dores no peito, e o médico tinha explicado calmamente que o que eu estava descrevendo eram dores nos músculos do peito, não um ataque cardíaco. Então eu disse no IRC: “Bom, se os paramédicos disseram que não era nada, então realmente não deve ser nada – eles teriam levado seu amigo para o hospital se tivesse a mínima chance de ser algo sério.”

E assim eu consegui explicar a história usando o modelo que eu já tinha, embora o encaixe ainda parecesse um pouco forçado...

Mais tarde, a pessoa aparece novamente no IRC e diz que o tal amigo tinha inventado a história toda. Claramente, não era um amigo muito confiável.

Eu deveria ter percebido, talvez, que um conhecido de um conhecido de uma sala de bate-papo do IRC podia ser menos confiável do que um artigo publicado numa revista. Infelizmente, acreditar é mais fácil que desconfiar; nós acreditamos instintivamente, mas desconfiar exige um esforço consciente1.

Ao invés disso, com esforço considerável, eu forcei meu modelo da realidade para explicar uma anomalia que nunca tinha acontecido. E eu sabia quão embaraçoso isso era. Eu sabia que a utilidade de um modelo não é o que ele consegue explicar, mas o que ele não consegue. Uma hipótese que não proíbe nada permite tudo, portanto não controla expectativas.

A sua força como racionalista é sua capacidade de ficar mais confuso diante da ficção do que diante da realidade. Se você é igualmente bom em explicar qualquer resultado, seu conhecimento é zero.

Todos fraquejamos, de tempos em tempos; o triste é que eu poderia ter sido mais forte. Eu tinha toda a informação que precisava para chegar à resposta correta, eu até notei o problema, e eu o ignorei. Meu sentimento de confusão era uma Pista, e eu joguei minha Pista fora.

Eu deveria ter prestado mais atenção àquele sentimento de ainda parece um pouco forçado. É um dos sentimentos mais importantes que alguém em busca da verdade pode ter, uma parte da sua força como racionalista. É uma falha de design da cognição humana que essa sensação se manifeste como uma leve pressão no fundo da sua mente, ao invés de uma sirene ensurdecedora e um sinal de néon brilhante dizendo:

OU O SEU MODELO É FALSO, OU ESSA HISTÓRIA ESTÁ ERRADA.

http://lesswrong.com/lw/if/your_strength_as_a_rationalist/


Notas de Rodapé

1. Daniel T. Gilbert, Romin W. Tafarodi, and Patrick S. Malone, “You Can’t Not Believe Everything You Read,” Journal of Personality and Social Psychology 65 (2 1993): 221–233, doi:10.1037/0022-3514.65.2.221.