robótica, ficção e ética

16
Ficção, Ética e Robótica Cairo Rocha, Jean M. Winter, Luiz Otávio Oliveira, Renan Maffei Resumo A ficção cientifica e a computação sempre andaram de mãos dadas. Desde a antiguidade, o homem realizou pela ficção seus desejos de produzir máquinas e autômatos que facilitassem suas tarefas e imaginou formas de vidas artificiais criadas pela humanidade. Desde o início do século XX esses desejos se uniram à tecnologia, onde os impactos do desenvolvimento de computadores e robôs foram imaginados pelos mais diversos escritores e muitas dessas obras ajudaram a construir a realidade atual. O eixo de ficção, ética e robótica vai explorar questionamentos como o quão próximos a tecnologia está do que é sonhado há tantos anos pela ficção e se as "profecias" se realizarão ou não, e também quais são as questões éticas envolvidas caso consiga-se criar máquinas conscientes. 1. Ficção 1.1. Introdução O ser humano sempre teve o anseio de criar vida artificial, e isso se concretizou primariamente na ficção. O exemplo mais famosos são os golens, criaturas míticas criadas a partir de magia. Adão, o primeiro homem segundo a Bíblia e o Alcorão, antes de receber o sopro da vida do Criador era um corpo sem vida, um golem. Imagens: Golem_by_Philippe_Semeria

Upload: dinhquynh

Post on 07-Jan-2017

220 views

Category:

Documents


2 download

TRANSCRIPT

Page 1: Robótica, ficção e ética

Ficção, Ética e Robótica

Cairo Rocha, Jean M. Winter, Luiz Otávio Oliveira, Renan Maffei

Resumo A ficção cientifica e a computação sempre andaram de mãos dadas. Desde a antiguidade, o homem realizou pela ficção seus desejos de produzir máquinas e autômatos que facilitassem suas tarefas e imaginou formas de vidas artificiais criadas pela humanidade. Desde o início do século XX esses desejos se uniram à tecnologia, onde os impactos do desenvolvimento de computadores e robôs foram imaginados pelos mais diversos escritores e muitas dessas obras ajudaram a construir a realidade atual. O eixo de ficção, ética e robótica vai explorar questionamentos como o quão próximos a tecnologia está do que é sonhado há tantos anos pela ficção e se as "profecias" se realizarão ou não, e também quais são as questões éticas envolvidas caso consiga-se criar máquinas conscientes.

1. Ficção

1.1. Introdução

O ser humano sempre teve o anseio de criar vida artificial, e isso se concretizou primariamente na ficção. O exemplo mais famosos são os golens, criaturas míticas criadas a partir de magia. Adão, o primeiro homem segundo a Bíblia e o Alcorão, antes de receber o sopro da vida do Criador era um corpo sem vida, um golem.

Imagens: Golem_by_Philippe_Semeria

Pinóquio, do romance de 1883 de Carlo Collodi, foi esculpido em madeira e recebeu o sopro da vida da fada azul, mas desejava além disso ter um corpo de menino de verdade, pois sofria na mão dos outros garotos por ser diferente. O monstro do Frankenstein, do romance de 1831 de Mary Shelley, foi criado a partir de restos de cadáveres e, semelhante ao Pinóquio, busca

Page 2: Robótica, ficção e ética

aprovação da humanidade e, após sucessivas rejeições, ordena que seu criador lhe faça uma noiva para que possam viver em paz isolados.

Imagens: 435px-Pinocchio, karloff-frankenstein

1.2. Histórico

O termo “robô” surgiu na peça de 1920 Rossum’s Universal Robot, de Karel Capek, onde existem pessoas artificais que pensam por si próprios e podem até ser confudidos com humanos.

O filme Metropolis (1927) de Fritz Lang mostra a personagem Futura, que se tornou a mais representativa figura de andróide (na verdade ginóide, andróide feminina). Futura se infiltra entre operários revoltados de uma realidade distópica com a missão de fomentar ódio entre a classe operária. Ela substitui Maria, uma operária que media a relação entre operários e senhores. É um exemplo de Robô-como-Pathos, robôs servis que obedecem criadores cruéis.

Imagens : RUR-Capek-1920, metropolis2

1.3. Literatura

Page 3: Robótica, ficção e ética

Hugo Gersback, criador do termo ficção científica, ajudou na popularização das históricas e autores através da publicação da revista popular Amazing Stories. Trabalho semelhante foi feito posteriormente por John Campbell em sua Astounding Stories. Essas publicações contavam principalmente com histórias sobre ciência futurista, robôs e viagens espaciais.

Essas publicações auxiliaram a promover modernizadores da ficção cientifica, como Isaac Asimov, Arthur C. Clarke e Robert Heinlein. Mais do que nos fornecer uma espécie de antecipação da tecnologia que poderia vir a surgir, as obras desses autores fomentam discussões sobre os limites do uso da ciência, sobre o que caracteriza um ser humano, sobre o futuro da humanidade, etc.

A série Robôs de Isaac Asimov (Nós, Robôs; Sonhos de Robôs e Visões de robôs) inserem no imaginário popular novas visões sobre os robôs, além de Robô-como-Ameaça e Robô-como Pathos (robôs controlados por seres humanos cruéis). Além de inspirar o trabalho de milhares de cientistas e autores de ficção, essa obra introduziu o termo robótica, criou a noção de cérebro positrônico (com circuitos cerebrais que produzem e eliminam positrons, permitiria os robôs terem esquemas de pensamentos similares aos humanos) e inicio das discussões sobre leis éticas para robôs.

1.4. Cinema

T-800, T-100 (Exterminador do futuro ): Robôs programados para executar certas ações. Podem ser considerados ferramentas. São incapazes de “pensar” por si próprios e, portanto não podem responder pelos seus atos. Sua índole depende do seu controlador / programador.

Skynet (Exterminador do futuro ), Máquinas (Matrix): Computadores com inteligência artificial avançada. Percebem que os humanos representam uma ameaça para a sua segurança e decidem destruí-los, como auto-proteção.

HAL 9000 (2001: Uma odisséia no espaço) e VIKI (Eu, robô): Possuem interpretação própria de suas diretivas (programadas). HAL vê sua missão ameaçada pelos humanos (que querem desligá-lo) e, a fim de cumprí-la com sucesso, tenta matá-los. VIKI possui as quatro leis de Asimov como diretivas, mas reinterpreta-as, levando-a a pensar que para proteger a humanidade (seguindo a lei 0) ela tenha que lutar contra o senso auto-destrutivo humano. Isto leva-a a infringir a lei 1.

Marvin (Guia do Mochileiro das Galáxias), Bender (Futurama), Robocop: Robôs com personalidade humana (ou resquícios desta, no caso do Robocop) e livre arbítrio. Robocop é um típico robô programável, mas possui influências de sua vida passada humana, levando-o a pensar, em certos casos, de maneira livre.

C3PO e R2D2 (Star Wars), Rosie (Jetsons), Wall-E: Robôs programados para executar tarefas específicas, mas que possuem sentimentos e emoções humanas.

Andrew (O homem bicentenário), Data (Star Trek), Replicantes (Blade Runner), David (AI): Robôs com livre arbítrio em busca de humanidade ou proximidade com essa. Os replicantes buscam uma forma de prolongar sua existência além de seu “prazo de validade”, como qualquer ser vivente. Andrew, Data e David buscam uma forma de aproximarem-se das

Page 4: Robótica, ficção e ética

emoções e sensações apresentadas pelos humanos. Andrew vai além, querendo experimentar a fragilidade humana causada pelo envelhecimento e a morte.

2. Robótica e ética

2.1. Robótica

O conceito de robot data do início da história, quando os mitos faziam referência a mecanismos que ganhavam vida. Começando na civilização grega, os primeiros modelos de robot que encontramos eram figuras com aparência humana e/ou animal, que usavam sistemas de pesos e bombas pneumáticas. As civilizações daquele tempo não tinham nenhuma necessidade prática ou econômica, nem nenhum sistema complexo de produtividade que exigisse a existência deste tipo de aparelhos.

O termo robô tem origem na palavra checa robota, que significa "trabalho forçado". O robô presente no imaginário mundial teve origem na peça do dramaturgo Karel Capek, na qual existia um autômato com forma humana, capaz de fazer tudo em lugar do homem.

O grande catalisador do desenvolvimento de autômatos foi a Revolução Industrial. Com ela, foram desenvolvidos e aperfeiçoados dispositivos automáticos capazes de manipular e executar peças, permitindo a automatização da produção.

Em 1924, surgiu o primeiro modelo de robô mecânico. Roy J. Wensley, engenheiro elétrico da Westinghouse, desenvolveu uma unidade de controle supervisionada. O dispositivo podia, utilizando o sistema de telefonia, ligar e desligar ou regular remotamente qualquer coisa que estivesse conectado a ele. Três anos depois, ele criou o Televox, um pequeno robô com aspecto humano que conseguia executar movimentos básicos, de acordo com os comandos de seu operador.

Em 1937 nascia o Elektro. Ele também era tele operado e obedecia a comandos de voz. A grande evolução era que Elektro podia andar mover a cabeça para cima e para baixo e para os lados. Seus braços se movimentavam separadamente e quando "falava", sua boca coordenava o movimento das palavras. Além disso, tinha sensores fotoelétricos nos olhos, permitindo que ele distinguisse entre as cores vermelho e verde. Para fazer companhia a Elektro, os pesquisadores e engenheiros da Westinghouse Appliance Division criaram, em 1940, o cachorro-robô Sparky. Os dois robôs viajaram pelos EUA em apresentações, feiras e shows. Participaram até de um filme, "Sex Kittens Go to College" em 1960, [2].

Page 5: Robótica, ficção e ética

Imagem. Elektro, robô da Westinghouse – Na época o fumo ainda era politicamente correto.

Robôs Industriais

Com o avanço da eletrônica e dos conhecimentos em engenharia, máquinas ferramentas capazes de produzir componentes com elevada precisão (Século XIX), a disponibilidade de várias fontes de energia para atuação (hidráulica, pneumática e elétrica), os conceitos sobre transmissão mecânica, motores, suspensões, a disponibilidade de sensores, etc., permitiu a construção, entre outras, máquinas que permitam emular o “braço humano” sendo estas muito utilizadas na indústria.

O primeiro robô industrial, o “Unimate”, foi desenvolvido por George Devol e Joseph Engelberger na companhia americana Unimation Inc. (1959-1962). O Unimate era programado através de um computador e podia ser usado para varias aplicações desde que devidamente reprogramado e equipado com as ferramentas próprias. Embora muito poderosa para época, já havia sido percebida que a flexibilidade e adaptabilidade desta nova ferramenta poderiam ser largamente melhoradas usando retroação sensorial .

Unimate, primeiro robô industrial.

Page 6: Robótica, ficção e ética

As pesquisas continuaram o que conduziu entre as décadas de 50 e 60 o desenvolvimento dos primeiros robôs controlados por computador (com retroação sensorial), como o T3 (Tool of The Future) produzido por Cincinatti Millacron (1974). Tempos mais tarde a divisão de robótica da Cincinatti foi comprada pela ABB que ainda tem esta linha de produtos (robôs manipuladores). Desde então os manipuladores mecânicos evoluíram muito, várias técnicas de controle foram propostas vislumbrando melhores resultados e maiores aplicações. Atualmente, um robô manipulador industrial é constituído por vários elos rígidos ligados em serie por juntas, tendo uma das extremidades fixa (base) e outra livre para se mover (elemento terminal). As juntas são geralmente atuadas por motores elétricos, embora também se use atuadores pneumáticos e hidráulicos. Softwares utilizam sinais sensoriais para calcular os sinais de controle necessários para obter o movimento desejado, e enviar os sinais aos atuadores. Os robôs atuais são muito utilizados em vários ambientes de produção automatizados, executando tarefas repetitivas em linhas de montagem.

Imagens. Robôs industriais.

Robôs Humanóides

Um robô humanóide é um robô cuja aparência global é baseada na aparência do corpo humano, permitindo sua interação com ferramentas e ambientes feitos para uso humano. Em geral robôs humanóides possuem um tronco com uma cabeça, dois braços e duas pernas, embora algumas formas de robôs humanóides possam ter apenas parte do corpo, por exemplo, a partir da cintura para cima. Alguns robôs humanóides podem também ter um "rosto", com "olhos" e "boca". Andróides e ginóides são robôs humanóides construídos para se assemelharem esteticamente a um humano.

Actróide

Actróide é um robô humanóide desenvolvido pela Universidade de Osaka e fabricado pela Kokoro Company Ltd. (a divisão de animatrônica da Sanrio) que se assemelha fisicamente a um ser humano. Foi exibido pela primeira vez em 2003 na Exposição Internacional de Robôs, em Tóquio. Várias versões diferentes do produto foram produzidas desde então. Na maioria dos

Page 7: Robótica, ficção e ética

casos, a aparência dos robôs foi desenvolvida com base em mulheres jovens de ascendência nipônica.

As Actróides são um exemplo pioneiro das máquinas que a ficção científica chama de andróides ou ginóides. Ela pode imitar algumas funções de criaturas vivas, tais como piscar os olhos, falar e respirar. Os modelos "Repliee" são robôs interativos com a capacidade de reconhecer e processar fala e responder de forma semelhante.

Imagem. Actroid-DER_01.

Asimo

ASIMO é um robô de 1,20 metros de altura e 52 quilogramas produzido pela Honda. Seu nome, curiosamente, não é uma referência ao escritor russo de ficção científica Isaac Asimov. Em japonês, ASIMO é pronunciado ashimo, que significa algo como "também com pernas". A sigla ASIMO em Inglês significa Advanced Step in Innovative Mobility, ou seja, Desenvolvimento Avançado em inovações para Mobilidade. Ele pode andar em superfícies irregulares, virar-se, pegar coisas e reconhecer pessoas através de suas câmeras que funcionam como olhos. O ASIMO foi atualizado pelos engenheiros da Honda, que levaram 17 anos trabalhando em seu desenvolvimento, os quais os ajustaram de tal forma que agora o ASIMO pode correr, com movimentos mais fluidos, atingindo uma velocidade máxima de até 6,5 quilômetros por hora. A nova versão apresentada pela Honda em 11 de Dezembro de 2007 apresenta um sistema de comunicação que lhe confere a capacidade de trabalhar em equipe, partilhando informações e coordenando tarefas. Através do sistema de ligação desenvolvido, os robôs partilham informações tais como a sua localização ou a tarefa que desempenham .

Page 8: Robótica, ficção e ética

Imagem. Robô da Honda, Asimo.

Aibo

Aibo, o cão robô da Sony, não só interage com o dono como é capaz de ''amadurecer'' com ele. Um software registra e trata os dados recolhidos pelos seus sensores, e produz reações apropriadas. Quanto mais acariciado for, mais alegre fica.

Surgido em 1999, o seu desenvolvimento e produção foram descontinuados em 2006, uando já ia à terceira geração. Embora tenha o aspecto de um brinquedo, trata-se de um robô sofisticado não aconselhado a crianças.

Imagem. Aibo, robô cachorro da Sony.

Page 9: Robótica, ficção e ética

O futuro dos robôs

O que ocorrerá quando os robôs forem inteligentes? Ou melhor, mais inteligentes do que o homem? Apesar de o cenário de robôs pensantes estar longe da realidade, a distancia, que há alguns anos parecia infinita, hoje começa a dar sinais de que pode não ser tão longa. Mas será que teremos um embate entre as duas espécies? A preocupação com o relacionamento entre homem e máquina, especialmente num cenário em que a inteligência deixa de ser privilegio apenas do primeiro é uma questão que nos acompanhará durante os próximos anos.

A Robótica é uma ciência que atualmente encontra-se em constante e acelerado crescimento, pois situações que no passado não muito distante do presente em que vivemos foram consideradas ficções científicas, hoje são perfeitamente possíveis, graças ao avanço de pesquisas em áreas como a da eletrônica, mecânica, informática e também da Inteligência Artificial

2.2. Ética

Ética é a teoria ou ciência do comportamento moral dos homens em sociedade. Em seu sentido mais abrangente, o termo "ética" implicaria um exame dos hábitos da espécie humana e do seu caráter em geral, e envolveria até mesmo uma descrição ou história dos hábitos humanos em sociedades específicas e em diferentes épocas.

A chegada dos robôs implica em estudos que permitam que eles convivam e participem de forma harmoniosa na sociedade de forma a não trazer danos para o homem. Trata-se de garantir o controle do homem sobre os robôs e prever as implicações sociais dessa interação social, além de impedir a sua utilização clandestina e como armamento de ataque, proteger os dados neles contidos e estabelecer a sua identificação e seguimento.

A ética associada à Inteligência Artificial pode ser analisada através de dois diferentes pontos de vista. O primeiro deles, bastante abordado na ficção, é a chamada Ética de Máquina, que foca sobre a moral no comportamento dos robôs. O segundo é um campo de estudo que se popularizou em última década chamado Roboética, o qual trata das preocupações morais que cabem aos projetistas quanto ao desenvolvimento, construção e uso de robôs.

Há mais de meio século, Isaac Asimov em seu livro de ficção "Eu, Robô” percebeu a necessidade da criação de regras éticas para definir o comportamento dos robôs. Desde sua proposição, as Três Leis da Robótica se firmaram no senso comum como o principal exemplo de modelo de comportamento artificial. São elas:

. 1ª lei: Um robô não pode ferir um ser humano ou, por omissão, permitir que um ser humano sofra algum mal.

. 2ª lei: Um robô deve obedecer as ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a Primeira Lei.

. 3ª lei: Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou a Segunda Lei

Page 10: Robótica, ficção e ética

Diversos autores de ficção, incluindo o próprio Asimov, exploraram ambiguidades nas Três Leis da Robótica criando situações indesejadas decorrentes de sua utilização. Asimov ainda imaginou uma quarta lei, chamada de Lei Zero, a qual deveria preceder as outras:

. Um robô não pode ferir a humanidade, ou por falta de ação, permitir que a humanidade sofra algum mal.

Muitas obras da ficção baseiam-se nas Leis da Robótica. Dentre elas, muitas obras de Asimov, como o “O Homem Bicentenário”, onde o robô Andrew é programado segundo as leis, e “Eu, Robô”, onde o supercomputador VIKI reinterpreta as leis decidindo subjugar os humanos para protegê-los de sua natureza auto-destrutiva.

No filme Aliens, de 1986, o andróide Bishop serve a tripulação de sua nave segundo a primeira lei de Asimov, ao contrário de Ash, androide do filme Alien, de 1979, que para cumprir sua missão, decide matar toda tripulação.

Em Robocop, de 1987, um ciborgue é construído a partir do corpo de um policial morto em serviço, e programado para seguir três leis similares às Leis de Asimov: servir à população, proteger inocentes e cumprir a lei. Porém, existe uma quarta diretiva secreta, que garante sua submissão aos seus chefes, mesmo implicando na quebra de alguma das outras leis. Contudo, no clímax do filme sua natureza humana consegue desobedecer esta lei (o que nunca ocorreria com robôs reais). Ainda no mesmo filme, é mostrado um resultado perigoso de autonomia em robôs, quando o protótipo de robô policial ED-209 entra em mau-funcionamento durante uma demonstração e acaba assassinando uma pessoa.

Apesar de as leis parecerem adequadas em um primeiro momento, existe uma série de problemas decorrentes da utilização de um conjunto pequeno de regras para guiar o comportamento de um indivíduo. Por exemplo, um robô teria a capacidade de perceber se uma pessoa está sendo ferida? Então ele poderia interromper uma cirurgia evitando que um médico realizasse uma incisão? Como ele poderia analisar o contexto de uma situação para decidir?

Quanto a sempre obedecer ordens dados por humanos, desde que nenhum mal seja causado, surge a dúvida se é adequado que um robô siga qualquer ordem que lhe seja dada por qualquer pessoa. Pode ocorrer de alguém ordenar uma tarefa sem propósito e isso acabar impedindo o robô de executar uma atividade possivelmente mais relevante. Outra questão é que em muitas ocasiões, medidas tomadas por humanos podem ser piores do que aquelas que robôs tomariam. No entanto, ao permitir a um robô a execução facultativa de ordens, abre-se um precedente para insubordinação total entre máquina e homem, como tratado em muitas obras.

Visto que criar um conjunto de regras para definir um comportamento ético é muito complexo, uma alternativa para a construção de robôs morais seria permitir a um robô aprender o comportamento ético, da mesma forma que crianças ao crescer aprendem quais comportamentos são morais. Alan Turing respalda essa idéia no artigo “Can Machines Think?” de 1950, onde é dita a seguinte frase:

Page 11: Robótica, ficção e ética

“Ao invés de tentar produzir um programa para simular a mente adulta, por que não tentar produzir um que simule a mente de uma criança. Se ela for sujeita a um processo de ensino apropriado, então obteremos o cérebro adulto.”

Isto implica em introduzir conceitos de evolução e aprendizado de máquina no desenvolvimento do robô permitindo que o próprio tenha a capacidade de construir o seu comportamento.

Por outro lado, técnicas evolutivas nem sempre levam a formação de comportamentos éticos. Em 2009, em um experimento feito na Escola Politécnica de Lausanne, na Suíça, robôs programados para cooperar na busca de recursos relativamente escassos aprenderam a mentir uns para os outros com a finalidade de não dividir os recursos encontrados.

Outro aspecto ético muito importante é o relacionada à construção de robôs militares. Construir robôs com a capacidade para matar pessoas é um dos principais focos de discussão associada à ética das máquinas. Mesmo com o alto grau de reprovação, é cada vez maior o número de robôs que vêm sendo ativamente utilizados em conflitos armados, inclusive com alguns tendo a capacidade de decidir quanto atirar em alguém.

No ano 2000, o Congresso dos E.U.A. ordenou que um terço dos veículos militares de solo e bombardeiros aéreos fossem substituídos por veículos robóticos. Segundo matéria do New York Times de 2005, o Pentágono possui o objetivo de substituir futuramente soldados por robôs autônomos.

O principal argumento a favor da utilização de robôs militares é que se estará poupando vidas de soldados. Em contrapartida, muitos argumentam que não é adequado transmitir para um robô a responsabilidade sobre a vida de pessoas. Em abril de 2011, o Ministro da Defesa do Reino Unido ressaltou em um relatório que é preciso analisar se substituindo humanos por robôs em uma guerra, os homens não estariam arriscando perder sua humanidade e acabar tornando a guerra mais comum.

Com a proximidade cada vez maior da coexistência entre humanos e robôs em sociedade surgiu o conceito de Roboética, proposto por Gianmarco Veruggio em 2002. A Roboética se preocupa em estudar como os robôs devem ser projetados, construídos, utilizados e tratados pelos homens.

Um dos principais tópicos de estudo é como deve ser o direito dos robôs (caso eles venham a ter direitos). Um argumento para a criação dos direitos dos robôs, similar ao utilizado para os direitos de animais, é que se houver senciência, isto é, se os robôs forem capazes de sentir, sofrer ou ficarem felizes, então devem ter direitos.

Por outro lado, no momento em que robôs adquirem direitos, surge a dúvida de como pode se atribuir responsabilidades a um robô, e se isso reduz a responsabilidade de seus projetistas ou donos. Várias obras da ficção tratam sobre questões de direitos e responsabilidades de robôs, podendo-se destacar “O Homem Bicentenário” e “Eu, Robô”.

3. Vídeos

Page 12: Robótica, ficção e ética

Robôs industriais:

. Braços robóticos: http://www.youtube.com/watch?v=8KlG5GoEw4k

. Robôs de vários tipos: http://www.youtube.com/watch?v=DkNVhtOCcrE

Robôs humanóides:

. Robô dançarino: http://www.youtube.com/watch?v=9vwZ5FQEUFg

. Androide: http://www.youtube.com/watch?v=cFVlzUAZkHY

. Asimo: http://www.youtube.com/watch?v=lvruMLGiAdI

. BigDog: http://www.youtube.com/watch?v=AGo0xsImasw

. Violinista: http://www.youtube.com/watch?v=EzjkBwZtxp4

. Futebol de robôs: http://www.youtube.com/watch?v=XLKKbz2mNyo

Outros Robôs:

. Guerra de robôs: http://www.youtube.com/watch?v=XcsuZfE0dcI

. Luta de robôs: http://www.youtube.com/watch?v=wqy1bDf9fVo

. Robô pássaro: http://www.youtube.com/watch?v=4l0xavWi7kU

Robôs da ficção:

. C3PO e R2D2: http://www.youtube.com/watch?v=hhwSbHytvuU

. Terminator: http://www.youtube.com/watch?v=bQ7Ecs1GuTM

. Rosey: http://www.youtube.com/watch?v=WIcU5C7HQMs

Referências

[1] BALDESSIN, M. G. S., A Ficção Científica Como Derivação da Utopia -a Inteligência Artificial. Campinas, 2006. 151 págs. Dissertação (Mestrado em História e Teoria Literária) Instituto de Estudos da Linguagem da Universidade Estadual de Campinas.

[2] Nós, robôs. Isaac Asimov.

[3] Moral Machines. Moral Machines: Teaching Robots Right from Wrong. Wendell Wallach and Colin Allen