What Do I Mean By "Rationality"?

De Racionalidade
Ir para: navegação, pesquisa

Original

I mean:

  1. Epistemic rationality: systematically improving the accuracy of your beliefs.
  2. Instrumental rationality: systematically achieving your values.

When you open your eyes and look at the room around you, you’ll locate your laptop in relation to the table, and you’ll locate a bookcase in relation to the wall. If something goes wrong with your eyes, or your brain, then your mental model might say there’s a bookcase where no bookcase exists, and when you go over to get a book, you’ll be disappointed.

This is what it’s like to have a false belief, a map of the world that doesn’t correspond to the territory. Epistemic rationality is about building accurate maps instead. This correspondence between belief and reality is commonly called “truth,” and I’m happy to call it that.

Instrumental rationality, on the other hand, is about steering reality—sending the future where you want it to go. It’s the art of choosing actions that lead to outcomes ranked higher in your preferences. I sometimes call this “winning.”

So rationality is about forming true beliefs and making winning decisions.

Pursuing “truth” here doesn’t mean dismissing uncertain or indirect evidence. Looking at the room around you and building a mental map of it isn’t different, in principle, from believing that the Earth has a molten core, or that Julius Caesar was bald. Those questions, being distant from you in space and time, might seem more airy and abstract than questions about your bookcase. Yet there are facts of the matter about the state of the Earth’s core in 2015 CE and about the state of Caesar’s head in 50 BCE. These facts may have real effects upon you even if you never find a way to meet Caesar or the core face-to-face.

And “winning” here need not come at the expense of others. The project of life can be about collaboration or self-sacrifice, rather than about competition. “Your values” here means anything you care about, including other people. It isn’t restricted to selfish values or unshared values.

When people say “X is rational!” it’s usually just a more strident way of saying “I think X is true” or “I think X is good.” So why have an additional word for “rational” as well as “true” and “good”?

An analogous argument can be given against using “true.” There is no need to say “it is true that snow is white” when you could just say “snow is white.” What makes the idea of truth useful is that it allows us to talk about the general features of map-territory correspondence. “True models usually produce better experimental predictions than false models” is a useful generalization, and it’s not one you can make without using a concept like “true” or “accurate.”

Similarly, “Rational agents make decisions that maximize the probabilistic expectation of a coherent utility function” is the kind of thought that depends on a concept of (instrumental) rationality, whereas “It’s rational to eat vegetables” can probably be replaced with “It’s useful to eat vegetables” or “It’s in your interest to eat vegetables.” We need a concept like “rational” in order to note general facts about those ways of thinking that systematically produce truth or value—and the systematic ways in which we fall short of those standards.

Sometimes experimental psychologists uncover human reasoning that seems very strange. For example, someone rates the probability “Bill plays jazz” as less than the probability “Bill is an accountant who plays jazz.” This seems like an odd judgment, since any particular jazz-playing accountant is obviously a jazz player. But to what higher vantage point do we appeal in saying that the judgment is wrong?

Experimental psychologists use two gold standards: probability theory, and decision theory.

Probability theory is the set of laws underlying rational belief. The mathematics of probability describes equally and without distinction (a) figuring out where your bookcase is, (b) figuring out the temperature of the Earth’s core, and (c) estimating how many hairs were on Julius Caesar’s head. It’s all the same problem of how to process the evidence and observations to revise (“update”) one’s beliefs. Similarly, decision theory is the set of laws underlying rational action, and is equally applicable regardless of what one’s goals and available options are.

Let “P(such-and-such)” stand for “the probability that such-and-such happens,” and P(A,B) for “the probability that both A and B happen.” Since it is a universal law of probability theory that P(A) ≥ P(A,B), the judgment that P(Bill plays jazz) is less than P(Bill plays jazz, Bill is an accountant) is labeled incorrect.

To keep it technical, you would say that this probability judgment is non-Bayesian. Beliefs and actions that are rational in this mathematically well-defined sense are called “Bayesian.”

Note that the modern concept of rationality is not about reasoning in words. I gave the example of opening your eyes, looking around you, and building a mental model of a room containing a bookcase against the wall. The modern concept of rationality is general enough to include your eyes and your brain’s visual areas as things-that-map. It includes your wordless intuitions as well. The math doesn’t care whether we use the same English-language word, “rational,” to refer to Spock and to refer to Bayesianism. The math models good ways of achieving goals or mapping the world, regardless of whether those ways fit our preconceptions and stereotypes about what “rationality” is supposed to be.

This does not quite exhaust the problem of what is meant in practice by “rationality,” for two major reasons:

First, the Bayesian formalisms in their full form are computationally intractable on most real-world problems. No one can actually calculate and obey the math, any more than you can predict the stock market by calculating the movements of quarks.

This is why there is a whole site called “Less Wrong,” rather than a single page that simply states the formal axioms and calls it a day. There’s a whole further art to finding the truth and accomplishing value from inside a human mind: we have to learn our own flaws, overcome our biases, prevent ourselves from self-deceiving, get ourselves into good emotional shape to confront the truth and do what needs doing, et cetera, et cetera.

Second, sometimes the meaning of the math itself is called into question. The exact rules of probability theory are called into question by, e.g., anthropic problems in which the number of observers is uncertain. The exact rules of decision theory are called into question by, e.g., Newcomblike problems in which other agents may predict your decision before it happens.1

In cases like these, it is futile to try to settle the problem by coming up with some new definition of the word “rational” and saying, “Therefore my preferred answer, by definition, is what is meant by the word ‘rational.’” This simply raises the question of why anyone should pay attention to your definition. I’m not interested in probability theory because it is the holy word handed down from Laplace. I’m interested in Bayesian-style belief-updating (with Occam priors) because I expect that this style of thinking gets us systematically closer to, you know, accuracy, the map that reflects the territory.

And then there are questions of how to think that seem not quite answered by either probability theory or decision theory—like the question of how to feel about the truth once you have it. Here, again, trying to define “rationality” a particular way doesn’t support an answer, but merely presumes one.

I am not here to argue the meaning of a word, not even if that word is “rationality.” The point of attaching sequences of letters to particular concepts is to let two people communicate — to help transport thoughts from one mind to another. You cannot change reality, or prove the thought, by manipulating which meanings go with which words.

So if you understand what concept I am generally getting at with this word “rationality,” and with the sub-terms “epistemic rationality” and “instrumental rationality,” we have communicated: we have accomplished everything there is to accomplish by talking about how to define “rationality.” What’s left to discuss is not what meaning to attach to the syllables “ra-tio-na-li-ty”; what’s left to discuss is what is a good way to think.

If you say, “It’s (epistemically) rational for me to believe X, but the truth is Y,” then you are probably using the word “rational” to mean something other than what I have in mind. (E.g., “rationality” should be consistent under reflection—“rationally” looking at the evidence, and “rationally” considering how your mind processes the evidence, shouldn’t lead to two different conclusions.)

Similarly, if you find yourself saying, “The (instrumentally) rational thing for me to do is X, but the right thing for me to do is Y,” then you are almost certainly using some other meaning for the word “rational” or the word “right.” I use the term “rationality” normatively, to pick out desirable patterns of thought.

In this case — or in any other case where people disagree about word meanings—you should substitute more specific language in place of “rational”: “The self-benefiting thing to do is to run away, but I hope I would at least try to drag the child off the railroad tracks,” or “Causal decision theory as usually formulated says you should two-box on Newcomb’s Problem, but I’d rather have a million dollars.”

In fact, I recommend reading back through this essay, replacing every instance of “rational” with “foozal,” and seeing if that changes the connotations of what I’m saying any. If so, I say: strive not for rationality, but for foozality.

The word “rational” has potential pitfalls, but there are plenty of non-borderline cases where “rational” works fine to communicate what I’m getting at. Likewise “irrational.” In these cases I’m not afraid to use it.

Yet one should be careful not to overuse that word. One receives no points merely for pronouncing it loudly. If you speak overmuch of the Way, you will not attain it.

http://lesswrong.com/lw/31/what_do_we_mean_by_rationality/


Footnotes

1. Editor’s Note: For a good introduction to Newcomb’s Problem, see Holt.2 More generally, you can find definitions and explanations for many of the terms in this book at the website http://wiki.lesswrong.com/wiki/RAZ_Glossary.

2. Jim Holt, “Thinking Inside the Boxes,” Slate (2002), http://www.slate.com/articles/arts/egghead/2002/02/ thinkinginside%5C_the%5C_boxes.single.html.

O que quero dizer com "racionalidade"?

Quero dizer:

  1. Racionalidade epistêmica : melhorar sistematicamente a precisão de suas crenças.
  2. Racionalidade instrumental: alcançar sistematicamente os seus valores.

Quando você abrir os olhos e olhar para o quarto ao seu redor, você vai localizar seu laptop próximo à mesa, e vai localizar uma estante próxima à parede. Se algo der errado com seus olhos, ou com seu cérebro, então o seu modelo mental pode dizer que há uma estante onde não existe estante alguma, e quando você for até lá para pegar um livro, você vai se desapontar.

Isso é ter uma crença falsa, um mapa do mundo que não corresponde ao território. Racionalidade epistêmica tem a ver com construir mapas que sejam precisos. Esta correspondência entre crença e realidade é comumente chamada de "verdade", e eu fico feliz em chamá-la assim.

Racionalidade instrumental, por outro lado, tem a ver com dirigir a realidade - mandar o futuro para onde você quer que ele vá. É a arte de escolher ações que levam a resultados classificados como melhores segundo as suas preferências. Eu, às vezes, chamo isso de "vencer".

Assim, racionalidade tem a ver com formar crenças verdadeiras e tomar decisões vencedoras.

Perseguir a "verdade", aqui, não significa dispensar evidências incertas ou indiretas. Olhar para o quarto ao seu redor e construir um mapa mental dele não é diferente, em princípio, de acreditar que a Terra tem um núcleo derretido, ou que Júlio César era careca. Estas questões, por estarem distantes de você no espaço e no tempo, podem parecer mais etéreas e abstratas do que questões a respeito da sua estante. No entanto, há fatos reais sobre o estado do núcleo da Terra em 2015 DC e sobre o estado da cabeça de César em 50 AC. Esses fatos podem ter efeitos reais sobre você, mesmo que você nunca encontre uma maneira de ficar face-a-face com César ou com o núcleo.

E "vencer", aqui, não precisa vir à custa dos outros. O projeto de vida pode ter como foco a colaboração ou auto-sacrifício, em vez da concorrência. "Seus valores", aqui, significa qualquer coisa com que você se importa, inclusive outras pessoas. Ele não se limita a valores egoístas ou valores não partilhados.

Quando as pessoas dizem "X é racional!", normalmente é apenas uma maneira mais estridente de dizer "eu acho que X é verdadeiro" ou "eu acho que X é bom." Então, por que ter uma palavra a mais para "racional", além de "verdadeiro" e "bom"?

Um argumento análogo pode ser dado contra o uso de "verdade". Não há necessidade de dizer "é verdade que a neve é ​​branca" quando você pode simplesmente dizer "a neve é ​​branca". O que torna a idéia de verdade útil é que ela nos permite falar sobre as características gerais da correspondência entre mapa e território. "Modelos verdadeiros costumam produzir previsões experimentais melhores do que modelos falsos" é uma generalização útil, e você não consegue fazê-la sem usar um conceito como "verdadeiro" ou "preciso".

Da mesma forma, "agentes racionais tomam decisões que maximizam a expectativa probabilística de uma função de utilidade coerente" é o tipo de pensamento que depende de um conceito de racionalidade (instrumental), enquanto que "é racional comer vegetais" provavelmente pode ser substituído por "é útil comer vegetais" ou "é de seu interesse comer vegetais". Precisamos de um conceito como "racional" a fim de observar fatos gerais sobre essas formas de pensar que sistematicamente produzem verdade ou valor - e os modos sistemáticos pelos quais falhamos em alcançar esses padrões.

Às vezes, psicólogos experimentais descobrem raciocínios humanos que parecem muito estranhos. Por exemplo, alguém classifica a probabilidade de que "Bill toca jazz" como menor do que a probabilidade de que "Bill é um contador que toca jazz". Este parece ser um julgamento estranho, uma vez que qualquer contador que toca jazz é, obviamente, uma pessoa que toca jazz. Mas a que ponto de vista superior recorremos para dizer que a avaliação é errada?

Os psicólogos experimentais usam dois padrões de ouro: a teoria da probabilidade e a teoria da decisão.

A teoria da probabilidade é o conjunto de leis subjacentes à crença racional. A matemática da probabilidade descreve igualmente e sem distinção como (a) descobrir onde sua estante está, (b) descobrir a temperatura do núcleo da Terra, e (c) estimar quantos fios de cabelos havia na cabeça de Júlio César. É tudo o mesmo problema de como processar as evidências e observações para rever ("atualizar") suas crenças. De forma similar, a teoria da decisão é o conjunto de leis subjacentes à ação racional, e é igualmente aplicável independentemente do quais são as suas metas e opções disponíveis.

Defina "P(tal-e-tal)" como "a probabilidade de que tal-e-tal aconteça", e P(A,B) como "a probabilidade de que A e B ambos aconteçam". Uma vez que é uma lei universal da teoria da probabilidade que P(A) ≥ P(A,B), o juízo de que P(Bill toca jazz) é menor que P(Bill toca jazz, Bill é um contador) é considerado incorreto.

No jargão técnico, diz-se que esse juízo de probabilidade é não-Bayesiano. Crenças e ações que são racionais, nesse sentido matematicamente bem definido, são chamados de "Bayesianos".

Note que o conceito moderno de racionalidade não é sobre o raciocínio verbal. Eu dei o exemplo de abrir os olhos, olhar ao seu redor, e construir um modelo mental de uma sala contendo uma estante contra a parede. O conceito moderno de racionalidade é geral o suficiente para incluir seus olhos e áreas visuais do seu cérebro como coisas-que-mapeiam. Ele inclui suas intuições não-verbais também. A matemática não se importa se usamos a mesma palavra em português, "racional", para se referir a Spock e ao Bayesianismo. A matemática modela boas maneiras de alcançar metas ou mapear o mundo, independentemente de se essas formas se encaixam em nossos preconceitos e estereótipos sobre o que a "racionalidade" deve ser.

Isso não chega a esgotar o problema do que se quer dizer, na prática, por "racionalidade", por duas razões principais:

Em primeiro lugar, os formalismos Bayesianos em sua forma plena são computacionalmente intratáveis na maioria dos problemas do mundo real. Ninguém consegue realmente calcular e obedecer a matemática, assim como você não consegue prever o mercado de ações calculando os movimentos dos quarks.

É por isso que existe um site inteiro chamado "Less Wrong [Menos Errado]", ao invés de uma única página que simplesmente indica os axiomas formais e encerra o assunto. Há ainda toda uma arte de encontrar a verdade e alcançar valor a partir de uma mente humana: temos que aprender nossas próprias falhas, superar nossos vieses, nos impedir de enganar a nós mesmos, nos preparar emocionalmente para encarar a verdade e fazer o que precisa ser feito, et cetera, et cetera.

Em segundo lugar, às vezes o próprio significado da matemática é colocado em questão. As regras exatas da teoria das probabilidades são colocadas em questão, por exemplo, por problemas antrópicos em que o número de observadores é incerto. As regras exatas da teoria da decisão são colocadas em questão, por exemplo, por problemas como o de Newcomb em que outros agentes podem prever a sua decisão antes que aconteça.[1]

Em casos como esses, é inútil tentar resolver o problema inventando uma nova definição para a palavra "racional" e dizendo: "Portanto, a minha resposta preferida, por definição, é o que significa a palavra 'racional'". Isso simplesmente levanta a questão de por que alguém deve prestar atenção à sua definição. Eu não estou interessado na teoria da probabilidade porque é a santa palavra transmitida por Laplace. Eu me interesso pela a atualização de crenças no estilo Bayesiano (com prévias Occamianas) porque espero que este estilo de pensamento nos leve sistematicamente mais perto da, você sabe, precisão, do mapa que reflete o território.

E depois há as questões sobre como pensar que parecem não ser bem respondidas seja pela teoria da probabilidade, seja pela teoria da decisão - como a questão de como se sentir a respeito da verdade, quando você a possui. Aqui, mais uma vez, tentar definir "racionalidade" de alguma forma específica não apoia uma resposta, apenas pressupõe uma.

Eu não estou aqui para discutir sobre o significado de uma palavra, nem mesmo se essa palavra é "racionalidade". O objetivo de vincular sequências de letras a conceitos particulares é permitir que duas pessoas se comuniquem - para ajudar a transportar pensamentos de uma mente a outra. Você não pode mudar a realidade, ou provar o pensamento, manipulando quais significados seguem quais palavras.

Então, se você entende qual conceito eu estou querendo passar, de forma geral, com esta palavra "racionalidade", e com o sub-termos "racionalidade epistêmica" e "racionalidade instrumental", nós nos comunicamos: alcançamos tudo o que se pode alcançar ao discutir como definir "racionalidade". O que resta para discutir não é que significado vincular às sílabas "ra-cio-na-li-da-de"; o resta para discutir é qual é uma boa maneira de pensar.

Se você diz, "É (epistemologicamente) racional que eu acredite em X, mas a verdade é Y", então provavelmente você está usando a palavra "racional" com um significado diferente do que eu tenho em mente (por exemplo, a "racionalidade" deve ser consistente sob reflexão - "racionalmente" olhar para as evidências e "racionalmente" ponderar como sua mente processa as evidências não deve levar a duas conclusões diferentes).

Da mesma forma, se você se pegar dizendo, "A coisa (instrumentalmente) racional a fazer é X, mas a coisa certa a fazer é Y", então você está quase certamente usando algum outro significado para a palavra "racional" ou para a palavra "certo". Eu uso o termo "racionalidade" normativamente, para especificar os padrões desejáveis ​​de pensamento.

Neste caso - ou em qualquer outro caso em que as pessoas discordem sobre significados de palavras - você deve usar uma linguagem mais específica no lugar de "racional": "a coisa auto-benéfica a fazer é fugir, mas eu espero que eu iria pelo menos tentar arrastar a criança para fora dos trilhos da ferrovia", ou "a Teoria Causal da Decisão, como usualmente formulada, diz que você deve pegar as duas caixas no Problema de Newcomb, mas eu prefiro ganhar um milhão de dólares."

Na verdade, eu recomendo a releitura deste ensaio, substituindo todas as ocorrências de "racional" por "foozal", e ver se isso muda as conotações do que eu estou dizendo qualquer. Se assim for, eu digo: não se esforcem em busca da racionalidade, mas da foozalidade.

A palavra "racional" tem armadilhas em potencial, mas há uma abundância de casos não-limítrofes em que "racional" funciona bem para comunicar o que eu estou pensando. Assim como "irracional". Nesses casos, eu não tenho medo de usar essas palavras.

No entanto, deve-se ter cuidado para não abusar da palavra. Você não recebe pontos simplesmente para pronunciá-la em voz alta. Se você falar em demasia sobre o Caminho, você não vai alcançá-lo.

http://lesswrong.com/lw/31/what_do_we_mean_by_rationality/


Notas de Rodapé

  1. Nota do Editor: Para uma boa introdução para o problema de Newcomb, ver Holt2. De modo mais geral, você pode encontrar definições e explicações para muitos dos termos deste livro no site http://wiki.lesswrong.com/wiki/RAZ_Glossary Tradução do Glossário.

2. Jim Holt, “Thinking Inside the Boxes,” Slate (2002), http://www.slate.com/articles/arts/egghead/2002/02/ thinkinginside%5C_the%5C_boxes.single.html.