My Wild and Reckless Youth

De Racionalidade
Ir para: navegação, pesquisa

Original

It is said that parents do all the things they tell their children not to do, which is how they know not to do them.

Long ago, in the unthinkably distant past, I was a devoted Traditional Rationalist, conceiving myself skilled according to that kind, yet I knew not the Way of Bayes. When the young Eliezer was confronted with a mysterious-seeming question, the precepts of Traditional Rationality did not stop him from devising a Mysterious Answer. It is, by far, the most embarrassing mistake I made in my life, and I still wince to think of it.

What was my mysterious answer to a mysterious question? This I will not describe, for it would be a long tale and complicated. I was young, and a mere Traditional Rationalist who knew not the teachings of Tversky and Kahneman. I knew about Occam’s Razor, but not the conjunction fallacy. I thought I could get away with thinking complicated thoughts myself, in the literary style of the complicated thoughts I read in science books, not realizing that correct complexity is only possible when every step is pinned down overwhelmingly. Today, one of the chief pieces of advice I give to aspiring young rationalists is “Do not attempt long chains of reasoning or complicated plans.”

Nothing more than this need be said: Even after I invented my “answer,” the phenomenon was still a mystery unto me, and possessed the same quality of wondrous impenetrability that it had at the start.

Make no mistake, that younger Eliezer was not stupid. All the errors of which the young Eliezer was guilty are still being made today by respected scientists in respected journals. It would have taken a subtler skill to protect him than ever he was taught as a Traditional Rationalist.

Indeed, the young Eliezer diligently and painstakingly followed the injunctions of Traditional Rationality in the course of going astray.

As a Traditional Rationalist, the young Eliezer was careful to ensure that his Mysterious Answer made a bold prediction of future experience. Namely, I expected future neurologists to discover that neurons were exploiting quantum gravity, a la Sir Roger Penrose. This required neurons to maintain a certain degree of quantum coherence, which was something you could look for, and find or not find. Either you observe that or you don’t, right?

But my hypothesis made no retrospective predictions. According to Traditional Science, retrospective predictions don’t count—so why bother making them? To a Bayesian, on the other hand, if a hypothesis does not today have a favorable likelihood ratio over “I don’t know,” it raises the question of why you today believe anything more complicated than “I don’t know.” But I knew not the Way of Bayes, so I was not thinking about likelihood ratios or focusing probability density. I had Made a Falsifiable Prediction; was this not the Law?

As a Traditional Rationalist, the young Eliezer was careful not to believe in magic, mysticism, carbon chauvinism, or anything of that sort. I proudly professed of my Mysterious Answer, “It is just physics like all the rest of physics!” As if you could save magic from being a cognitive isomorph of magic, by calling it quantum gravity. But I knew not the Way of Bayes, and did not see the level on which my idea was isomorphic to magic. I gave my allegiance to physics, but this did not save me; what does probability theory know of allegiances? I avoided everything that Traditional Rationality told me was forbidden, but what was left was still magic.

Beyond a doubt, my allegiance to Traditional Rationality helped me get out of the hole I dug myself into. If I hadn’t been a Traditional Rationalist, I would have been completely screwed. But Traditional Rationality still wasn’t enough to get it right. It just led me into different mistakes than the ones it had explicitly forbidden.

When I think about how my younger self very carefully followed the rules of Traditional Rationality in the course of getting the answer wrong, it sheds light on the question of why people who call themselves “rationalists” do not rule the world. You need one whole hell of a lot of rationality before it does anything but lead you into new and interesting mistakes.

Traditional Rationality is taught as an art, rather than a science; you read the biography of famous physicists describing the lessons life taught them, and you try to do what they tell you to do. But you haven’t lived their lives, and half of what they’re trying to describe is an instinct that has been trained into them.

The way Traditional Rationality is designed, it would have been acceptable for me to spend thirty years on my silly idea, so long as I succeeded in falsifying it eventually, and was honest with myself about what my theory predicted, and accepted the disproof when it arrived, et cetera. This is enough to let the Ratchet of Science click forward, but it’s a little harsh on the people who waste thirty years of their lives. Traditional Rationality is a walk, not a dance. It’s designed to get you to the truth eventually, and gives you all too much time to smell the flowers along the way.

Traditional Rationalists can agree to disagree. Traditional Rationality doesn’t have the ideal that thinking is an exact art in which there is only one correct probability estimate given the evidence. In Traditional Rationality, you’re allowed to guess, and then test your guess. But experience has taught me that if you don’t know, and you guess, you’ll end up being wrong.

The Way of Bayes is also an imprecise art, at least the way I’m holding forth upon it. These essays are still fumbling attempts to put into words lessons that would be better taught by experience. But at least there’s underlying math, plus experimental evidence from cognitive psychology on how humans actually think. Maybe that will be enough to cross the stratospherically high threshold required for a discipline that lets you actually get it right, instead of just constraining you into interesting new mistakes.

http://lesswrong.com/lw/iy/my_wild_and_reckless_youth/

Minha Selvagem e Irresponsável Juventude

Dizem que os pais fazem todas as coisas que orientam os filhos a não fazer, e é por isso que sabem que elas não devem ser feitas.

Há muito tempo, em um passado inconcebivelmente distante, eu era um Racionalista Tradicional devoto e considerava-me habilidoso nesse tipo. Ainda não conhecia o Caminho de Bayes. Quando o jovem Eliezer foi confrontado com uma pergunta aparentemente misteriosa, os preceitos da Racionalidade Tradicional não o impediram de elaborar uma Resposta Misteriosa. Esse é, de longe, o erro mais embaraçoso que cometi na vida, e ainda estremeço ao pensar sobre ele.

Qual foi a resposta misteriosa à pergunta misteriosa? Isso eu não vou descrever, seria uma longa e complicada história. Eu era jovem e um mero Racionalista Tradicional que não conhecia os ensinamentos de Tversky e Kahneman. Eu sabia a respeito da Navalha de Ocam, mas não sobre a falácia da conjunção. Eu pensava que podia escapar de qualquer pensamento complicado por mim mesmo, no estilo literário dos pensamentos complicados que eu lia em livros de ciência, não percebendo que a verdadeira complexidade só é possível quando cada passo está fixado esmagadoramente. Hoje, uma das principais peças de conselho que dou aos jovens aspirantes a racionalistas é “Não tente longas cadeias de raciocínio ou planos complicados.”

Nada além disso precisa ser dito: Mesmo depois de inventar a minha “resposta”, o fenômeno continuava um mistério para mim, e possuía a mesma qualidade de impenetrabilidade maravilhosa que tinha no início.

Para não ser injusto, é preciso dizer que aquele jovem Eliezer não era estúpido. Todos os erros dos quais ele era culpado continuam sendo cometidos por cientistas respeitados em jornais respeitados. Devia existir uma habilidade muito sutil para protegê-lo, habilidade esta que nunca lhe foi ensinada como um Racionalista Tradicional.

Na verdade, o jovem Eliezer diligentemente e meticulosamente seguiu as injunções da Racionalidade Tradicional rumo ao curso de extravio. Como um Racionalista Tradicional, o jovem Eliezer foi cuidadoso em garantir que a sua Resposta Misteriosa fizesse uma predição ousada sobre a experiência futura. A saber, eu esperava os futuros neurologistas descobrindo que neurônios estavam explorando a gravidade quântica, a la Sir Roger Penrose. Isso requer que neurônios mantenham um certo grau de coerência quântica, que era algo que você poderia procurar, e encontrar ou não encontrar. Ou você observa a veracidade da predição, ou não, certo?

Mas a minha hipótese não fez predições retrospectivas. De acordo com a Ciência Tradicional, predições retrospectivas não contam – então por que o incômodo de fazê-las? Para um Bayesiano, por outro lado, se uma hipótese não tem hoje uma probabilidade favorável sobre “Eu não sei”, levanta-se a questão de por que acreditar hoje em algo mais complicado que “Eu não sei”. Mas eu não conhecia o Caminho de Bayes, logo não estava pensando em taxas de verossimilhança ou focando em densidade de probabilidade. Eu tinha feito uma Previsão Refutável; essa não era a lei?

Como um Racionalista Tradicional, o jovem Eliezer era cuidadoso em não acreditar em mágica, misticismo, chauvinismo de carbono, ou qualquer coisa do tipo. Eu orgulhosamente professei a minha Misteriosa Resposta: “Isto é apenas física, como todo o resto da física!” Como se pudesse salvar a magia de ser um isomorfo cognitivo da magia, chamando-a de gravidade quântica. Mas eu não conhecia o Caminho de Bayes, e não enxergava o nível em que minha ideia era um isomorfo da magia. Entreguei a minha lealdade à física, mas isso não me salvou; o que a teoria da probabilidade sabe sobre alianças? Evitei tudo o que a Racionalidade Tradicional disse que era proibido, mas o que restou ainda era mágica.

Além de uma dúvida, minha fidelidade à Racionalidade Tradicional ajudou-me a sair do buraco que eu tinha cavado. Se eu não tivesse sido um Racionalista Tradicional, teria estado completamente errado. Mas a Racionalidade Tradicional ainda não era suficiente para obter o certo. Apenas levou a erros diferentes dos que eram explicitamente proibidos.

Quando penso sobre como o eu jovem muito cuidadosamente seguiu as regras da Racionalidade Tradicional no curso de obter a resposta errada, isso lança uma luz sobre a questão de porque as pessoas que se chamam “racionalistas” não governam o mundo. Você precisa encarar uma dose gigantesca de racionalidade somente para que ela te leve a novos e interessantes enganos.

A Racionalidade Tradicional é ensinada como uma arte, ao invés de ciência; você lê a biografia de físicos famosos descrevendo as lições que a vida os ensinou, e tenta fazer o que eles dizem para fazer. Mas você não viveu as suas vidas, e metade do que estão tentando descrever é um instinto que foi treinado dentro deles.

Da forma como a Racionalidade Tradicional é projetada, teria sido aceitável para mim passar 30 anos em uma ideia boba, desse que eu conseguisse falseá-la finalmente, e fosse honesto comigo mesmo sobre o que a teoria predizia, e aceitasse a refutação quando ela chegasse, etc. É o suficiente para deixar a Engrenagem da Ciência seguir avante, mas um pouco duro para pessoas que perdem 30 anos de suas vidas. A Racionalidade Tradicional é um caminho, não uma dança. É projetada para levá-lo à verdade, finalmente, com muito tempo para cheirar as flores ao longo do caminho.

Racionalistas Tradicionais podem concordar em discordar. Racionalistas Tradicionais não têm o ideal de que o pensamento é uma arte exata em que há apenas uma probabilidade correta dada a evidência. Na Racionalidade Tradicional, você é autorizado a supor, e em seguida testar a sua suposição. Mas a experiência tem me ensinado que se você não sabe e supõe, acabará errado.

O Caminho de Bayes é também uma arte imprecisa, pelo menos da forma como estou me apoiando nele. Esses ensaios continuam tentativas tateantes de colocar em palavras lições que seriam melhor aprendidas pela experiência. Mas ao menos há uma matemática subjacente, mais evidência experimental da psicologia cognitiva em como seres humanos realmente pensam. Talvez isso será suficiente para atravessar o estratosfericamente alto limiar requerido para uma disciplina que permite que você realmente comece da forma correta, ao invés de apenas restringi-lo a novos interessantes erros.


http://lesswrong.com/lw/iy/my_wild_and_reckless_youth/