Cover sheet

Original Eliezer Yudkowsky is a Research Fellow at the Machine Intelligence Research Institute. Written by Eliezer Yudkowsky Published in 2015 Machine Intelligence Research Institute Berkeley 94704 United States of America intelligence.org Released under the Creative Commons Attribution-NonCommercial-ShareAlike 3.0 Unported license. CC BY-NC-SA 3.0 isbn-10: 1-939311-15-2 isbn-13: 978-1-939311-15-3 (epub) The Machine Intelligence Research Institute gratefully acknowledges the generous support of all those involved in the publication of this book, and the donors who support MIRI’s work in general. Cover by Tim Woolley.

Folha de rosto Eliezer Yudkowsky é Pesquisador no Machine Intelligence Research Institute (Instituto de Pesquisa de Inteligência de Máquina). Escrito por Eliezer Yudkowsky. Publicado em 2015 Machine Intelligence Research Institute Berkeley 94704 Estados Unidos da América intelligence.org Disponibilizado sob os termos da licença Creative Commons Atribuição-Uso Não Comercial-Compartilhamento pela mesma licença 3.0 (não adaptada). CC BY-NC-SA 3.0 isbn-10: 1-939311-15-2 isbn-13: 978-1-939311-15-3 (epub) O Machine Intelligence Research Institute agradece ao generoso apoio de todos os envolvidos na publicação deste livro, e aos doadores que financiam o trabalho do MIRI em geral. Capa feita por Tim Woolley.