Making History Available

De Racionalidade
Ir para: navegação, pesquisa

Original

There is a habit of thought which I call the logical fallacy of generalization from fictional evidence. Journalists who, for example, talk about the Terminator movies in a report on AI, do not usually treat Terminator as a prophecy or fixed truth. But the movie is recalled—is available—as if it were an illustrative historical case. As if the journalist had seen it happen on some other planet, so that it might well happen here. More on this in Section 7 of ”Cognitive biases potentially affecting judgment of global risks.”1

There is an inverse error to generalizing from fictional evidence: failing to be sufficiently moved by historical evidence. The trouble with generalizing from fictional evidence is that it is fiction—it never actually happened. It’s not drawn from the same distribution as this, our real universe; fiction differs from reality in systematic ways. But history has happened, and should be available.

In our ancestral environment, there were no movies; what you saw with your own eyes was true. Is it any wonder that fictions we see in lifelike moving pictures have too great an impact on us? Conversely, things that really happened, we encounter as ink on paper; they happened, but we never saw them happen. We don’t remember them happening to us.

The inverse error is to treat history as mere story, process it with the same part of your mind that handles the novels you read. You may say with your lips that it is “truth,” rather than “fiction,” but that doesn’t mean you are being moved as much as you should be. Many biases involve being insufficiently moved by dry, abstract information.

Once upon a time, I gave a Mysterious Answer to a mysterious question, not realizing that I was making exactly the same mistake as astrologers devising mystical explanations for the stars, or alchemists devising magical properties of matter, or vitalists postulating an opaque “élan vital” to explain all of biology.

When I finally realized whose shoes I was standing in, there was a sudden shock of unexpected connection with the past. I realized that the invention and destruction of vitalism—which I had only read about in books—had actually happened to real people, who experienced it much the same way I experienced the invention and destruction of my own mysterious answer. And I also realized that if I had actually experienced the past—if I had lived through past scientific revolutions myself, rather than reading about them in history books—I probably would not have made the same mistake again. I would not have come up with another mysterious answer; the first thousand lessons would have hammered home the moral.

So (I thought), to feel sufficiently the force of history, I should try to approximate the thoughts of an Eliezer who had lived through history—I should try to think as if everything I read about in history books had actually happened to me. (With appropriate reweighting for the availability bias of history books—I should remember being a thousand peasants for every ruler.) I should immerse myself in history, imagine living through eras I only saw as ink on paper.

Why should I remember the Wright Brothers’ first flight? I was not there. But as a rationalist, could I dare to not remember, when the event actually happened? Is there so much difference between seeing an event through your eyes—which is actually a causal chain involving reflected photons, not a direct connection—and seeing an event through a history book? Photons and history books both descend by causal chains from the event itself.

I had to overcome the false amnesia of being born at a particular time. I had to recall—make available—all the memories, not just the memories which, by mere coincidence, belonged to myself and my own era.

The Earth became older, of a sudden.

To my former memory, the United States had always existed—there was never a time when there was no United States. I had not remembered, until that time, how the Roman Empire rose, and brought peace and order, and lasted through so many centuries, until I forgot that things had ever been otherwise; and yet the Empire fell, and barbarians overran my city, and the learning that I had possessed was lost. The modern world became more fragile to my eyes; it was not the first modern world.

So many mistakes, made over and over and over again, because I did not remember making them, in every era I never lived . . .

And to think, people sometimes wonder if overcoming bias is important.

Don’t you remember how many times your biases have killed you? You don’t? I’ve noticed that sudden amnesia often follows a fatal mistake. But take it from me, it happened. I remember; I wasn’t there.

So the next time you doubt the strangeness of the future, remember how you were born in a hunter-gatherer tribe ten thousand years ago, when no one knew of Science at all. Remember how you were shocked, to the depths of your being, when Science explained the great and terrible sacred mysteries that you once revered so highly. Remember how you once believed that you could fly by eating the right mushrooms, and then you accepted with disappointment that you would never fly, and then you flew. Remember how you had always thought that slavery was right and proper, and then you changed your mind. Don’t imagine how you could have predicted the change, for that is amnesia. Remember that, in fact, you did not guess. Remember how, century after century, the world changed in ways you did not guess.

Maybe then you will be less shocked by what happens next.

http://lesswrong.com/lw/j0/making_history_available/

Footnotes

1. Eliezer Yudkowsky, “Cognitive Biases Potentially Affecting Judgment of Global Risks,” in Global Catastrophic Risks, ed. Nick Bostrom and Milan M. Ćirković (New York: Oxford University Press, 2008), 91–119.

Tornando a História Disponível

Há um hábito de pensamento que eu chamo de falácia lógica da generalização a partir de evidências fictícias. Jornalistas que, por exemplo, falam sobre os filmes Exterminador do Futuro em reportagens sobre IA não costumam tratar Exterminador do Futuro como uma profecia ou verdade imutável. Mas o filme é lembrado — ele está disponível — como se fosse um caso histórico ilustrativo. Como se o jornalista tivesse visto isso acontecer em algum outro planeta, e, portanto, pudesse muito bem acontecer aqui. Mais sobre isso na seção 7 de ”Vieses cognitivos que potencialmente afetam a avaliação de riscos globais[Título original: Cognitive biases potentially affecting judgment of global risks].[1]

Há um erro inverso ao de generalizar a partir de evidências fictícias: deixar de ser suficientemente afetado pelas evidências históricas. O problema com a generalização a partir de evidências fictícias é que elas são ficção — algo que nunca realmente aconteceu. Não são extraídas da mesma distribuição que esse nosso verdadeiro universo; a ficção difere da realidade de modo sistemático. Mas a história aconteceu de verdade, e deveria estar disponível.

Em nosso ambiente ancestral, não havia filmes; o que você via com seus próprios olhos era verdade. É de se admirar que as ficções que vemos em imagens realistas em movimento tenham também um grande impacto sobre nós? Por outro lado, as coisas que realmente aconteceram nós encontramos na forma de tinta no papel; elas aconteceram, mas nós nunca as vimos acontecer. Não nos lembramos delas acontecendo conosco.

O erro inverso é tratar a história como mera estória, processá-la com a mesma parte da sua mente que lida com os romances que você lê. Você pode dizer com os lábios que é "verdade", ao invés de "ficção", mas isso não significa que você está sendo afetado tanto quanto você deveria ser. Muitos vieses envolvem o fato de sermos insuficientemente afetados por informações secas, abstratas.

Era uma vez, eu dei uma resposta misteriosa a uma pergunta misteriosa, sem perceber que eu estava cometendo exatamente o mesmo erro que os astrólogos concebendo explicações místicas para as estrelas, ou alquimistas concebendo propriedades mágicas da matéria, ou vitalistas postulando um "élan vital" opaco para explicar toda a biologia.

Quando eu finalmente percebi em que clube eu estava entrando com esse erro, tive um choque repentino com a inesperada conexão com o passado. Eu percebi que a invenção e destruição do vitalismo — que eu só tinha lido nos livros — tinha realmente acontecido com pessoas reais, que vivenciaram a experiência da mesma maneira que eu experimentei a invenção e destruição de minha própria resposta misteriosa. E eu também percebi que se eu realmente tivesse experimentado o passado, se eu tivesse vivido durante as revoluções científicas do passado, em vez de ler sobre elas em livros de história, eu provavelmente não teria cometido o mesmo erro novamente. Eu não teria inventado mais uma resposta misteriosa; as primeiras mil lições teriam me ensinado a moral na marra.

Então (eu pensei), para sentir suficientemente a força da história, eu deveria tentar aproximar os pensamentos de um Eliezer que tivesse vivido ao longo da história, eu deveria tentar pensar como se tudo o que li nos livros de história tivesse realmente acontecido comigo. (Com a devida reponderação levando em conta o viés de disponibilidade dos livros de história — eu deveria me imaginar como mil camponeses para cada governante.) Eu deveria mergulhar na história, me imaginar vivendo através de eras que eu só vi como tinta no papel.

Por que eu deveria lembrar do primeiro voo dos irmãos Wright? Eu não estava lá. Mas, como um racionalista, eu poderia ousar não me lembrar, uma vez que o evento realmente aconteceu? Existe muita diferença entre ver um evento com seus próprios olhos — que, na verdade, é uma cadeia causal envolvendo fótons refletidos, não uma conexão direta &mash; e ver um evento através de um livro de história? Tanto fótons quanto livros de história descendem do evento em si por meio de cadeias causais.

Eu precisava superar a falsa amnésia de ter nascido em um determinado momento. Eu precisava lembrar — tornar disponíveis — de todas as memórias, e não apenas das memórias que, por mera coincidência, pertenciam a mim e minha própria era.

A Terra ficou mais velha, de repente.

Para a minha memória anterior, os Estados Unidos sempre tinham existido — nunca houvera um momento em que não havia Estados Unidos. Eu não tinha lembrado, até esse momento, da ascenção do Império Romano, e de como ele trouxera a paz e a ordem, e tinha durado por tantos séculos, até que eu tivesse esquecido que as coisas já tinham sido de outra forma; e ainda assim o Império caiu, e bárbaros invadiram a minha cidade, e o aprendizado que eu possuíra se perdeu. O mundo moderno tornou-se mais frágil aos meus olhos; ele não é o primeiro mundo moderno.

Tantos erros, cometidos de novo e de novo e de novo, porque eu não me lembrava de tê-los cometido, em cada época que eu jamais vivi...

E pensar que as pessoas às vezes se perguntam se superar vieses é importante.

Você não se lembra de quantas vezes os seus vieses te mataram? Não? Eu percebi que uma amnésia repentina muitas vezes surge após um erro fatal. Mas acredite em mim, aconteceu. Eu lembro; Eu não estava lá.

Então, da próxima vez que você duvidar da estranheza do futuro, lembre-se de como você nasceu em uma tribo de caçadores-coletores 10 mil anos atrás, quando ninguém sabia nada de Ciência. Lembre-se de como você ficou chocado, nas profundezas do seu ser, quando a ciência explicou os grandes e terríveis mistérios sagrados que você uma vez reverenciara tanto. Lembre-se de como você acreditava que poderia voar se comesse os cogumelos certos, e então aceitou com decepção que nunca voaria, e então voou. Lembre-se de como você sempre pensou que a escravidão era certa e apropriada, e então mudou de idéia. Não imagine como você poderia ter previsto a mudança, por que isso é amnésia. Lembre-se que, na verdade, você não previu. Lembre-se de como, século após século, o mundo mudou de maneiras que você não pôde adivinhar.

Talvez assim você fique menos chocado com o que acontecerá a seguir.

http://lesswrong.com/lw/j0/making_history_available/

Notas de Rodapé

  1. Eliezer Yudkowsky, “Cognitive Biases Potentially Affecting Judgment of Global Risks,” in Global Catastrophic Risks, ed. Nick Bostrom and Milan M. Ćirković (New York: Oxford University Press, 2008), 91–119.