Bayesian Judo

De Racionalidade
Ir para: navegação, pesquisa

Original

You can have some fun with people whose anticipations get out of sync with what they believe they believe.

I was once at a dinner party, trying to explain to a man what I did for a living, when he said: “I don’t believe Artificial Intelligence is possible because only God can make a soul.”

At this point I must have been divinely inspired, because I instantly responded: “You mean if I can make an Artificial Intelligence, it proves your religion is false?”

He said, “What?”

I said, “Well, if your religion predicts that I can’t possibly make an Artificial Intelligence, then, if I make an Artificial Intelligence, it means your religion is false. Either your religion allows that it might be possible for me to build an AI; or, if I build an AI, that disproves your religion.”

There was a pause, as the one realized he had just made his hypothesis vulnerable to falsification, and then he said, “Well, I didn’t mean that you couldn’t make an intelligence, just that it couldn’t be emotional in the same way we are.”

I said, “So if I make an Artificial Intelligence that, without being deliberately preprogrammed with any sort of script, starts talking about an emotional life that sounds like ours, that means your religion is wrong.”

He said, “Well, um, I guess we may have to agree to disagree on this.”

I said: “No, we can’t, actually. There’s a theorem of rationality called Aumann’s Agreement Theorem which shows that no two rationalists can agree to disagree. If two people disagree with each other, at least one of them must be doing something wrong.”

We went back and forth on this briefly. Finally, he said, “Well, I guess I was really trying to say that I don’t think you can make something eternal.”

I said, “Well, I don’t think so either! I’m glad we were able to reach agreement on this, as Aumann’s Agreement Theorem requires.” I stretched out my hand, and he shook it, and then he wandered away.

A woman who had stood nearby, listening to the conversation, said to me gravely, “That was beautiful.”

“Thank you very much,” I said.

http://lesswrong.com/lw/i5/bayesian_judo/

Judô Bayesiano

É possível se divertir com pessoas cujas expectativas estão fora de sincronia com o que eles acreditam que acreditam.

Estava eu certa vez em um jantar, tentando explicar a um homem a minha profissão, quando ele disse: "Eu não acredito que a Inteligência Artificial é possível, porque só Deus pode fazer uma alma."

Neste ponto eu devo ter sido divinamente inspirado, porque eu imediatamente respondi: "Você quer dizer que se eu conseguir fazer uma Inteligência Artificial, isso prova que a sua religião é falsa?"

Ele disse: "O quê?"

Eu disse: "Bem, se sua religião prediz que eu não posso, em hipótese alguma, fazer uma Inteligência Artificial, então, se eu fizer uma Inteligência Artificial, significa que sua religião é falsa. Ou a sua religião admite que deve ser possível eu construir uma I.A.; ou, se eu construir uma I.A., isso desmente a sua religião".

Houve uma pausa, enquanto o homem percebia que tinha acabado de tornar sua hipótese vulnerável a falsificação, e então ele disse: "Bem, eu não quis dizer que você não poderia fazer uma inteligência, só que ela não poderia ser emocional da mesma maneira que nós somos. "

Eu disse: "Então, se eu fizer uma Inteligência Artificial que, sem ser deliberadamente pré-programada com qualquer tipo de roteiro, começa a falar sobre uma vida emocional parecida com a nossa, isso significa que a sua religião está errada."

Ele disse: "Bem, hum, acho que talvez nós tenhamos que concordar em discordar sobre isso."

Eu disse: "Não, nós não podemos, na verdade. Há um teorema da racionalidade chamado de Teorema do Concordância de Aumann que mostra que dois racionalistas nunca podem concordar em discordar. Se duas pessoas discordam entre si, pelo menos uma delas deve estar fazendo algo errado. "

Nós ficamos indo e voltando nessa questão por um breve período. Por fim, ele disse: "Bem, eu acho que o que eu realmente estava tentando dizer é que eu não acho que você pode fazer algo eterno."

Eu disse: "Bem, também acho que não! Estou contente que fomos capazes de chegar a um acordo sobre isso, como o Teorema do Acordo de Aumann requer." Eu estendi a minha mão, e ele a apertou, e então ele se afastou.

Uma mulher que estava ali perto, ouvindo a conversa, me disse seriamente, "Isso foi lindo.".

"Muito obrigado", eu disse.

http://lesswrong.com/lw/i5/bayesian_judo/