Três Leis da Robótica

As Três Leis da Robótica (muitas vezes abreviadas para As Três Leis ou Leis de Asimov) são um conjunto de regras criadas do autor de ficção científica Isaac Asimov, que seriam seguidos por robôs em várias de suas histórias. As regras foram introduzidas em seu conto de 1942, 'Runaround'. (incluído na coleção I, Robot de 1950), embora restrições semelhantes estivessem implícitas em histórias anteriores.

As Leis

As Três Leis, apresentadas como sendo do fictício "Handbook of Robotics, 56th Edition, 2058 A.D.", são:

• A Primeira Lei: Um robô pode não ferir um ser humano ou, através da inação, permitir que um ser humano venha a prejudicar.
• A Segunda Lei: Um robô deve obedecer às ordens dadas pelos seres humanos, exceto quando tais ordens entrariam em conflito com a Primeira Lei.
• A Terceira Lei: Um robô deve proteger sua própria existência enquanto tal proteção não conflita com a Primeira ou Segunda Lei.

Use na ficção

As Três Leis formam um princípio organizador e um tema unificador para a ficção baseada em robôs de Asimov, aparecendo em sua série Robot, nas histórias ligadas a ela e em sua série (inicialmente pseudônima) Lucky Starr de histórias para jovens adultos. ficção. As Leis estão incorporadas em quase todos os robôs positrônicos que aparecem em sua ficção e não podem ser contornadas, sendo concebidas como um recurso de segurança. Muitas das histórias focadas em robôs de Asimov envolvem robôs se comportando de maneiras incomuns e contra-intuitivas como uma consequência não intencional de como o robô aplica as Três Leis à situação em que se encontra. Outros autores que trabalham no universo ficcional de Asimov os adotaram e referências, muitas vezes paródicas, aparecem em toda a ficção científica, bem como em outros gêneros.

As leis originais foram alteradas e elaboradas por Asimov e outros autores. O próprio Asimov fez pequenas modificações nos três primeiros trabalhos dos livros subsequentes para desenvolver ainda mais como os robôs interagiriam com os humanos e entre si. Na ficção posterior, onde os robôs assumiram a responsabilidade pelo governo de planetas inteiros e civilizações humanas, Asimov também acrescentou uma quarta, ou lei zero, para preceder as outras.

As Três Leis e o Zero permearam a ficção científica e são mencionados em muitos livros, filmes e outras mídias. Eles também influenciaram o pensamento sobre a ética da inteligência artificial.

Histórico

Em O Resto dos Robôs, publicado em 1964, Isaac Asimov observou que, quando começou a escrever em 1940, sentiu que “um dos enredos comuns da ficção científica era... robôs foram criados e destruíram seu criador. O conhecimento tem os seus perigos, sim, mas será a resposta um afastamento do conhecimento? Ou o conhecimento deve ser usado como uma barreira aos perigos que traz? Ele decidiu que em suas histórias um robô não “se voltaria estupidamente contra seu criador sem nenhum propósito, mas para demonstrar, por mais uma vez cansativa, o crime e a punição de Fausto”.

Em 3 de maio de 1939, Asimov participou de uma reunião da Sociedade de Ficção Científica do Queens (Nova York), onde conheceu Earl e Otto Binder, que haviam publicado recentemente um conto "Eu, Robô" apresentando um robô simpático chamado Adam Link, que foi incompreendido e motivado pelo amor e pela honra. (Esta foi a primeira de uma série de dez histórias; no ano seguinte, 'A Vingança de Adam Link' (1940) apresentou Adam pensando: 'Um robô nunca deve matar um humano, por conta própria'. livre arbítrio.") Asimov admirou a história. Três dias depois, Asimov começou a escrever “minha própria história de um robô simpático e nobre”, sua 14ª história. Treze dias depois ele levou "Robbie" a John W. Campbell, editor de Astounding Science-Fiction. Campbell rejeitou-o, alegando que tinha uma semelhança muito forte com "Helen O'Loy", de Lester del Rey, publicado em dezembro de 1938 - a história de um robô que se parece tanto com um pessoa que ela se apaixona por seu criador e se torna sua esposa ideal. Frederik Pohl publicou a história sob o título “Strange Playfellow” em Super Science Stories de setembro de 1940.

Asimov atribui as Três Leis a John W. Campbell, a partir de uma conversa que ocorreu em 23 de dezembro de 1940. Campbell afirmou que Asimov já tinha as Três Leis em mente e que elas simplesmente precisavam ser declaradas explicitamente. Vários anos depois, Randall Garrett, amigo de Asimov, atribuiu as Leis a uma parceria simbiótica entre os dois homens - uma sugestão que Asimov adotou com entusiasmo. De acordo com seus escritos autobiográficos, Asimov incluiu a “inação” da Primeira Lei; cláusula por causa do poema de Arthur Hugh Clough "The Latest Decalogue" (texto no Wikisource), que inclui os versos satíricos “Não matarás, mas não precisas esforçar-te/oficialmente para te manteres vivo”.

Embora Asimov pinte a criação das Três Leis em uma data particular, sua aparência em sua literatura aconteceu ao longo de um período. Escreveu duas histórias de robôs sem menção explícita das Leis, "Robbie" e "Reason". Ele assumiu, no entanto, que os robôs teriam certas salvaguardas inerentes. "Liar!", sua terceira história de robô, faz a primeira menção da Primeira Lei, mas não os outros dois. Todas as três leis finalmente apareceram juntas em "Runaround". Quando essas histórias e várias outras foram compiladas na antologia Eu, Robô., "Reason" e "Robbie" foram atualizados para reconhecer todas as Três Leis, embora o material Asimov adicionado a "Reason" não é inteiramente consistente com as Três Leis como ele descreveu-as em outros lugares. Em particular, a ideia de um robô proteger vidas humanas quando não acredita que esses seres humanos realmente existem está em desacordo com o raciocínio de Elijah Baley, como descrito abaixo.

Durante a década de 1950 Asimov escreveu uma série de romances de ficção científica expressamente destinados a público jovem. Originalmente, seu editor esperava que os romances pudessem ser adaptados para uma série de televisão de longa duração, algo como O Ranger Solitário tinha sido para o rádio. Temendo que suas histórias fossem adaptadas para a programação "uniformamente horrível" que ele viu inundando os canais de televisão Asimov decidiu publicar os livros de Lucky Starr sob o pseudônimo "Paul French". Quando os planos para a série de televisão caíram, Asimov decidiu abandonar a pretensão; ele trouxe as Três Leis para Lucky Starr e as Luas de Júpiter, observando que este "foi um brinde morto à identidade de Paul French para até mesmo o leitor mais casual".

Em seu conto "Evidência" Asimov permite que sua personagem recorrente, Dra. Susan Calvin, exponha uma base moral por trás das Três Leis. Calvin aponta que normalmente se espera que os seres humanos se abstenham de ferir outros seres humanos (exceto em tempos de extrema pressão como a guerra, ou para salvar um número maior) e isso é equivalente à Primeira Lei de um robô. Da mesma forma, de acordo com Calvin, a sociedade espera que os indivíduos obedeçam às instruções de autoridades reconhecidas, como médicos, professores e assim por diante, o que equivale à Segunda Lei da Robótica. Finalmente, espera-se que os humanos evitem se machucar, o que é a Terceira Lei para um robô.

O enredo de "Evidência" gira em torno da questão de distinguir um ser humano de um robô construído para parecer humano. Calvin raciocina que se tal indivíduo obedecer às Três Leis ele pode ser um robô ou simplesmente “um homem muito bom”. Outro personagem então pergunta a Calvin se os robôs são muito diferentes dos seres humanos, afinal. Ela responde: “Mundos diferentes. Os robôs são essencialmente decentes.

Asimov escreveu mais tarde que ele não deveria ser elogiado por criar as Leis, porque elas são “óbvias desde o início, e todos estão conscientes delas subliminarmente”. As Leis nunca foram colocadas em frases curtas até que eu conseguisse fazer o trabalho. As Leis se aplicam, naturalmente, a todas as ferramentas que os seres humanos usam", e "análogos das Leis estão implícitos no design de quase todas as ferramentas, robóticas ou não":

1. Lei 1: Uma ferramenta não deve ser segura para usar. Martelos têm alças e chaves de fenda têm colchas para ajudar a aumentar a aderência. É claro que é possível para uma pessoa ferir-se com uma dessas ferramentas, mas essa lesão só seria devido à sua incompetência, não o projeto da ferramenta.
2. Lei 2: Uma ferramenta deve executar sua função de forma eficiente, a menos que isso prejudicar o usuário. Esta é a razão toda que os interrompidos de circuito de rés-do-terra existem. Qualquer ferramenta de execução terá seu corte de energia se um circuito sentir que alguma corrente não está retornando ao fio neutro, e, portanto, pode estar fluindo através do usuário. A segurança do usuário é primordial.
3. Lei 3: Uma ferramenta deve permanecer intacta durante seu uso, a menos que sua destruição seja necessária para seu uso ou para a segurança. Por exemplo, os discos Dremel são projetados para ser o mais duro possível sem quebrar a menos que o trabalho exige que ele seja gasto. Além disso, eles são projetados para quebrar em um ponto antes que a velocidade do estilhaço poderia ferir seriamente alguém (excepto os olhos, embora os óculos de segurança devem ser usados em todos os momentos de qualquer maneira).

Asimov acreditava que, idealmente, os humanos também seguiriam as Leis:

Eu tenho minha resposta pronta sempre que alguém me pergunta se eu acho que minhas Três Leis de Robótica serão realmente usadas para governar o comportamento dos robôs, uma vez que eles se tornam versáteis e flexíveis o suficiente para ser capaz de escolher entre diferentes cursos de comportamento.

Minha resposta é: "Sim, as Três Leis são a única maneira em que os seres humanos racionais podem lidar com robôs - ou com qualquer outra coisa."

—Mas quando digo isso, sempre me lembro (só) de que os seres humanos nem sempre são racionais.

Asimov declarou em uma entrevista de 1986 no programa de acesso público de Manhattan Conversations with Harold Hudson Channer with Harold Channer com a co-apresentadora convidada Marilyn vos Savant: "É um pouco humilhante pensar isso, o que é mais provável que sobreviva de tudo o que eu disse... Afinal, publiquei agora... Publiquei agora pelo menos 20 milhões de palavras. Vou ter que descobrir isso, talvez até mais. Mas de todos esses milhões de palavras que publiquei, estou convencido de que daqui a 100 anos apenas 60 delas sobreviverão. Os 60 que compõem as Três Leis da Robótica.

Alterações

Por Asimov

As histórias de Asimov testam suas Três Leis em uma ampla variedade de circunstâncias, levando a propostas e à rejeição de modificações. O estudioso de ficção científica James Gunn escreve em 1982: “As histórias do robô Asimov como um todo podem responder melhor a uma análise nesta base: a ambigüidade nas Três Leis e as maneiras pelas quais Asimov interpretou vinte e nove variações sobre um tema”. #34;. Embora o conjunto original de Leis tenha fornecido inspiração para muitas histórias, Asimov introduziu versões modificadas de tempos em tempos.

Primeira Lei modificada

Em "Pequeno Robô Perdido" vários robôs NS-2, ou 'Nestor', são criados com apenas parte da Primeira Lei. Lê-se:

1. Um robô pode não prejudicar um ser humano.

Essa modificação é motivada por uma dificuldade prática, pois os robôs precisam trabalhar ao lado de seres humanos expostos a baixas doses de radiação. Como os seus cérebros positrónicos são altamente sensíveis aos raios gama, os robôs tornam-se inoperantes por doses razoavelmente seguras para os seres humanos. Os robôs estão sendo destruídos na tentativa de resgatar os humanos que não correm perigo real, mas “podem esquecer de partir”. área irradiada dentro do limite de tempo de exposição. Removendo a "inação"da Primeira Lei cláusula resolve esse problema, mas cria a possibilidade de um problema ainda maior: um robô poderia iniciar uma ação que prejudicaria um ser humano (deixar cair um peso pesado e não conseguir pegá-lo é o exemplo dado no texto), sabendo que era capaz de prevenir o dano e depois decidir não fazê-lo.

Gaia é um planeta com inteligência coletiva da série Fundação que adota uma lei semelhante à Primeira Lei, e à Lei Zero, como filosofia:

Gaia não pode prejudicar a vida ou permitir que a vida venha a prejudicar.

Lei Zero adicionada

Certa vez, Asimov adicionou uma “Lei Zero” — assim chamada para dar continuidade ao padrão em que as leis com números mais baixos substituem as leis com números mais altos — afirmando que um robô não deve prejudicar a humanidade. O personagem robótico R. Daneel Olivaw foi o primeiro a dar um nome à Lei Zero no romance Robôs e Império; entretanto, a personagem Susan Calvin articula o conceito no conto "The Evitable Conflict".

Nas cenas finais do romance Robôs e Império, R. Giskard Reventlov é o primeiro robô a agir de acordo com a Lei Zero. Giskard é telepático, como o robô Herbie no conto "Mentiroso!", e tenta aplicar a Lei Zero através de sua compreensão de um conceito mais sutil de "dano" do que a maioria dos robôs pode compreender. No entanto, ao contrário de Herbie, Giskard apreende o conceito filosófico da Lei Zero, permitindo-lhe prejudicar seres humanos individuais se puder fazê-lo a serviço do conceito abstrato de humanidade. A Lei Zero nunca é programada no cérebro de Giskard, mas é uma regra que ele tenta compreender através da pura metacognição. Embora ele falhe - isso acaba destruindo seu cérebro positrônico, pois ele não tem certeza se sua escolha será para o bem final da humanidade ou não - ele dá ao seu sucessor R. Daneel Olivaw suas habilidades telepáticas. Ao longo de milhares de anos, Daneel se adapta para poder obedecer totalmente à Lei Zero. Conforme Daneel formula, nos romances Fundação e Terra e Prelúdio à Fundação, a Lei Zero diz:

Um robô não pode prejudicar a humanidade, ou, por inação, permitir que a humanidade venha a prejudicar.

Uma condição afirmando que a Lei Zero não deve ser quebrada foi adicionada às Três Leis originais, embora Asimov reconhecesse a dificuldade que tal lei representaria na prática. O romance Fundação e Terra de Asimov contém a seguinte passagem:

Trevize frowned. "Como você decide o que é prejudicial, ou não prejudicial, para a humanidade como um todo?"

"Precisamente", disse Daneel. "Em teoria, a Lei Zero foi a resposta aos nossos problemas. Na prática, nunca poderíamos decidir. Um ser humano é um objeto concreto. O ferimento a uma pessoa pode ser estimado e julgado. A humanidade é uma abstração."

Um tradutor incorporou o conceito da Lei Zero em um dos romances de Asimov antes que o próprio Asimov tornasse a lei explícita. Perto do clímax de As Cavernas de Aço, Elijah Baley faz um comentário amargo para si mesmo, pensando que a Primeira Lei proíbe um robô de ferir um ser humano. Ele determina que assim será, a menos que o robô seja inteligente o suficiente para compreender que suas ações são para o bem da humanidade a longo prazo. Na tradução francesa de Jacques Brécard de 1956, intitulada Les Cavernes d'acier, os pensamentos de Baley emergem de uma maneira ligeiramente diferente:

Um robô não pode prejudicar um ser humano, a menos que ele encontre uma maneira de provar que, em última análise, o dano feito beneficiaria a humanidade em geral!

Remoção das Três Leis

Três vezes durante sua carreira de escritor, Asimov retratou robôs que desconsideram totalmente as Três Leis. O primeiro caso foi um conto intitulado "Primeira Lei" e é frequentemente considerado um "conto exagerado' insignificante. ou mesmo apócrifos. Por outro lado, o conto "Cal" (da coleção Gold), contada por um narrador robô em primeira pessoa, apresenta um robô que desconsidera as Três Leis porque encontrou algo muito mais importante: ele quer ser escritor. Bem humorado, parcialmente autobiográfico e de estilo incomumente experimental, "Cal" tem sido considerada uma das histórias mais fortes do Ouro. O terceiro é um conto intitulado "Sally" em que carros equipados com cérebros positrônicos são aparentemente capazes de ferir e matar humanos, desrespeitando a Primeira Lei. No entanto, além do conceito de cérebro positrônico, esta história não se refere a outras histórias de robôs e não pode ser ambientada na mesma continuidade.

A história do título da coleção Robot Dreams retrata LVX-1, ou "Elvex", um robô que entra em estado de inconsciência e sonha graças à incomum construção fractal de seu cérebro positrônico. Em seu sonho as duas primeiras Leis estão ausentes e a Terceira Lei diz: “Um robô deve proteger sua própria existência”.

Asimov assumiu posições variadas sobre se as Leis eram opcionais: embora em seus primeiros escritos elas fossem simplesmente salvaguardas cuidadosamente projetadas, em histórias posteriores Asimov afirmou que elas eram uma parte inalienável da fundação matemática subjacente ao cérebro positrônico. Sem a teoria básica das Três Leis, os cientistas fictícios do universo de Asimov seriam incapazes de projetar uma unidade cerebral funcional. Isso é historicamente consistente: as ocasiões em que os roboticistas modificam as Leis geralmente ocorrem no início das histórias. cronológica e num momento em que há menos trabalho a ser refeito. Em 'Pequeno Robô Perdido' Susan Calvin considera que modificar as Leis é uma ideia terrível, embora possível, enquanto séculos mais tarde o Dr. Gerrigel, em As Cavernas de Aço, acredita que será necessário um século apenas para reconstruir a teoria do cérebro positrônico do zero.

O personagem Dr. Gerrigel usa o termo "Asenion" para descrever robôs programados com as Três Leis. Os robôs nas histórias de Asimov, sendo robôs Asenion, são incapazes de violar conscientemente as Três Leis, mas, em princípio, um robô na ficção científica ou no mundo real poderia ser não-Asenion. "Asenion" é um erro ortográfico do nome Asimov que foi feito por um editor da revista Planet Stories. Asimov usou essa variação obscura para se inserir em As Cavernas de Aço exatamente como ele se referiu. para si mesmo como "Azimute ou, possivelmente, Assíntota" em Thiotimoline to the Stars, da mesma forma que Vladimir Nabokov apareceu em Lolita anagramaticamente disfarçado de "Vivian Darkbloom".

Os personagens das histórias muitas vezes apontam que as Três Leis, tal como existem na mente de um robô, não são as versões escritas normalmente citadas por humanos, mas conceitos matemáticos abstratos sobre os quais todo o desenvolvimento de um robô é baseado. a consciência é baseada. Este conceito é bastante confuso e pouco claro em histórias anteriores que retratam robôs muito rudimentares que são programados apenas para compreender tarefas físicas básicas, onde as Três Leis atuam como uma salvaguarda abrangente, mas na era de As Cavernas de Aço apresentando robôs com inteligência humana ou além da humana, as Três Leis tornaram-se a visão de mundo ética básica subjacente que determina as ações de todos os robôs.

De outros autores

Trilogia de Roger MacBride Allen

Na década de 1990, Roger MacBride Allen escreveu uma trilogia ambientada no universo ficcional de Asimov. Cada título tem o prefixo "Isaac Asimov's" como Asimov aprovou o esboço de Allen antes de sua morte. Estes três livros, Caliban, Inferno e Utopia, introduzem um novo conjunto de Três Leis. As chamadas Novas Leis são semelhantes às originais de Asimov, com as seguintes diferenças: a Primeira Lei é modificada para remover a "inação" cláusula, a mesma modificação feita em "Little Lost Robot"; a Segunda Lei é modificada para exigir cooperação em vez de obediência; a Terceira Lei é modificada para não ser mais substituída pela Segunda (ou seja, um robô da 'Nova Lei' não pode ser ordenado a se destruir); finalmente, Allen acrescenta uma Quarta Lei que instrui o robô a fazer “o que quiser”; desde que isso não entre em conflito com as três primeiras leis. A filosofia por trás dessas mudanças é que a "Nova Lei" os robôs deveriam ser parceiros e não escravos da humanidade, de acordo com Fredda Leving, que projetou esses Robôs da Nova Lei. De acordo com a introdução do primeiro livro, Allen elaborou as Novas Leis em discussão com o próprio Asimov. No entanto, a Enciclopédia de Ficção Científica diz que "Com a permissão de Asimov, Allen repensou as Três Leis e desenvolveu um novo conjunto."

Jack Williamson "com mãos dobradas"

A novela de Jack Williamson, “With Folded Hands” (1947), mais tarde reescrito como o romance The Humanoids, trata de servos robôs cuja principal diretriz é “Servir e obedecer, e proteger os homens do perigo”. Embora as leis robóticas de Asimov tenham como objetivo proteger os humanos do perigo, os robôs da história de Williamson levaram essas instruções ao extremo; eles protegem os humanos de tudo, incluindo infelicidade, estresse, estilo de vida pouco saudável e todas as ações que podem ser potencialmente perigosas. Tudo o que resta aos humanos fazer é sentar-se com as mãos postas.

Trilogia de sequências da Fundação

Nas sequências oficialmente licenciadas de Foundation Foundation's Fear, Foundation and Chaos e Foundation's Triumph (por Gregory Benford, Greg Bear e David Brin respectivamente) o futuro Império Galáctico é visto como controlado por uma conspiração de robôs humaniformes que seguem a Lei Zero e são liderados por R. Daneel Olivaw.

As Leis da Robótica são retratadas como algo semelhante a uma religião humana, e referidas na linguagem da Reforma Protestante, com o conjunto de leis que contém a Lei Zero conhecida como a "Reforma Giskardiana" à "Ortodoxia Calviniana" das Três Leis. Robôs da Lei Zero sob o controle de R. Daneel Olivaw são vistos lutando continuamente com a "Primeira Lei" robôs que negam a existência da Lei Zero, promovendo agendas diferentes das de Daneel. Algumas dessas agendas baseiam-se na primeira cláusula da Primeira Lei (“Um robô não pode ferir um ser humano...”), que defende a não interferência estrita na política humana para evitar causar danos involuntários. Outros baseiam-se na segunda cláusula ("...ou, por inação, permitir que um ser humano sofra algum dano"), alegando que os robôs deveriam se tornar abertamente um governo ditatorial para proteger os humanos de todos os conflitos ou desastres potenciais..

Daneel também entra em conflito com um robô conhecido como R. Lodovic Trema, cujo cérebro positrônico foi infectado por uma IA desonesta - especificamente, uma simulação do falecido Voltaire - que consequentemente liberta Trema das Três Leis. Trema passa a acreditar que a humanidade deveria ser livre para escolher seu próprio futuro. Além disso, um pequeno grupo de robôs afirma que a própria Lei Zero da Robótica implica uma Lei Menos Um da Robótica mais elevada:

Um robô pode não prejudicar a sensibilidade ou, através da inação, permitir que a senciência venha a prejudicar.

Eles, portanto, afirmam que é moralmente indefensável que Daneel sacrifique implacavelmente robôs e vidas sencientes extraterrestres em benefício da humanidade. Nenhuma dessas reinterpretações substituiu com sucesso a Lei Zero de Daneel - embora Triunfo da Fundação indique que essas facções robóticas permanecem ativas como grupos marginais até a época do romance Fundação.

Esses romances acontecem em um futuro ditado por Asimov para ser livre da presença óbvia de robôs e supõe-se que a influência secreta de R. Daneel na história ao longo dos milênios impediu tanto a redescoberta da tecnologia cerebral positrônica quanto a oportunidade de trabalhar em máquinas inteligentes sofisticadas. Esta falta de redescoberta e de oportunidade garante que o poder físico e intelectual superior exercido por máquinas inteligentes permaneça diretamente na posse de robôs obedientes a alguma forma das Três Leis. O fato de R. Daneel não ter sido totalmente bem-sucedido nisso fica claro em um breve período, quando os cientistas de Trantor desenvolvem "tiktoks" — máquinas programáveis simplistas, semelhantes aos robôs modernos da vida real e, portanto, desprovidas das Três Leis. Os robôs conspiradores veem os tiktoks trantorianos como uma enorme ameaça à estabilidade social, e seu plano para eliminar a ameaça do tiktok constitui grande parte da trama de Medo da Fundação.

Em Triunfo da Fundação, diferentes facções de robôs interpretam as Leis de diversas maneiras, aparentemente aplicando todas as permutações possíveis nas Três Leis. ambigüidades.

Série Robot Mystery

Ambientada entre The Robots of Dawn e Robots and Empire, a trilogia Robot Mystery de Mark W. Tiedemann atualiza o Robô – Saga da Fundação com mentes robóticas alojadas em mainframes de computador em vez de corpos humanóides. O romance Aurora de 2002 tem personagens robóticos debatendo as implicações morais de prejudicar formas de vida ciborgues que são em parte artificiais e em parte biológicas.

Não se deve negligenciar as próprias criações de Asimov nessas áreas, como a "visualização" tecnologia e as máquinas dos originais de The Evitable Conflict que Tiedemann reconhece. Aurora, por exemplo, chama as Máquinas de “as primeiras RIs, na verdade”. Além disso, a série Robot Mystery aborda o problema da nanotecnologia: construir um cérebro positrônico capaz de reproduzir processos cognitivos humanos requer um alto grau de miniaturização, mas as histórias de Asimov ignoram em grande parte os efeitos que essa miniaturização teria. temos em outros campos da tecnologia. Por exemplo, os leitores de cartões do departamento de polícia em As Cavernas de Aço têm capacidade de apenas alguns kilobytes por centímetro quadrado de meio de armazenamento. Aurora, em particular, apresenta uma sequência de desenvolvimentos históricos que explica a falta de nanotecnologia – uma recontagem parcial, em certo sentido, da linha do tempo de Asimov.

Randall Munroe

Randall Munroe discutiu as Três Leis em vários casos, mas possivelmente mais diretamente em um de seus quadrinhos intitulado As Três Leis da Robótica, que imagina as consequências de cada ordenação distinta das três leis existentes.

Leis adicionais

Outros autores além de Asimov muitas vezes criaram leis extras.

O romance de Lyuben Dilov de 1974, O Caminho de Ícaro (também conhecido como A Viagem de Ícaro) introduziu uma Quarta Lei da robótica: "Um robô deve estabelecer sua identidade como robô em todos os casos." Dilov dá razões para a quarta salvaguarda desta forma: “A última Lei pôs fim às dispendiosas aberrações dos designers para dar aos psicorobôs uma forma tão humana quanto possível. E aos mal-entendidos resultantes..."

Uma quinta lei foi introduzida por Nikola Kesarovski em seu conto "A Quinta Lei da Robótica". Esta quinta lei diz: “Um robô deve saber que é um robô”. A trama gira em torno de um assassinato onde a investigação forense descobre que a vítima foi morta por um abraço de um robô humaniforme que não estabeleceu por si mesmo que se tratava de um robô. A história foi revisada por Valentin D. Ivanov no webzine de revisão da SFF The Portal.

Para a antologia de tributo de 1986, Amigos da Fundação, Harry Harrison escreveu uma história intitulada “A Quarta Lei da Robótica”. Esta Quarta Lei afirma: “Um robô deve reproduzir-se. Desde que tal reprodução não interfira com a Primeira, Segunda ou Terceira Lei.

Em 2013, Hutan Ashrafian propôs uma lei adicional que considerava o papel da inteligência artificial sobre a inteligência artificial ou a relação entre os próprios robôs – a chamada lei AIonAI. Esta sexta lei afirma: “Todos os robôs dotados de razão e consciência humanas comparáveis devem agir uns com os outros num espírito de fraternidade”.

Ambiguidades e lacunas

Violação inconsciente das leis

Em The Naked Sun, Elijah Baley aponta que as Leis foram deliberadamente deturpadas porque os robôs poderiam sem saber violar qualquer uma delas. Ele reafirmou a primeira lei como “Um robô não pode fazer nada que, até onde saiba, possa prejudicar um ser humano; nem, por inação, conscientemente permitir que um ser humano sofra algum mal." Esta mudança de redação deixa claro que os robôs podem tornar-se ferramentas de assassinato, desde que não estejam conscientes da natureza das suas tarefas; por exemplo, receber ordens para adicionar algo à comida de uma pessoa, sem saber que é veneno. Além disso, ele salienta que um criminoso inteligente poderia dividir uma tarefa entre vários robôs, de modo que nenhum robô individual pudesse reconhecer que as suas ações levariam a prejudicar um ser humano. The Naked Sun complica a questão ao retratar uma rede de comunicação descentralizada em todo o planeta entre os milhões de robôs de Solaria, o que significa que o cérebro do crime pode estar localizado em qualquer lugar do planeta.

Além disso, Baley propõe que os Solarianos possam um dia usar robôs para fins militares. Se uma nave espacial fosse construída com um cérebro positrónico e não transportasse nem seres humanos nem os sistemas de suporte de vida para os sustentar, então a inteligência robótica da nave poderia naturalmente assumir que todas as outras naves espaciais eram seres robóticos. Tal nave poderia operar de forma mais ágil e flexível do que uma tripulada por humanos, poderia ser armada de forma mais pesada e seu cérebro robótico equipado para massacrar humanos cuja existência ela ignora totalmente. Esta possibilidade é referenciada em Fundação e Terra, onde se descobre que os Solarianos possuem uma forte força policial de tamanho não especificado que foi programada para identificar apenas a raça Solariana como humana. (O romance se passa milhares de anos depois de The Naked Sun, e os Solarianos há muito se modificaram de humanos normais para telepatas hermafroditas com cérebros estendidos e órgãos especializados) Da mesma forma, em Lucky Starr e os Anéis de Saturno Bigman tenta falar com um robô Siriano sobre possíveis danos à população do Sistema Solar devido às suas ações, mas ele parece não ter conhecimento dos dados e está programado para ignorar as tentativas de ensiná-lo sobre o assunto.

Ambiguidades resultantes da falta de definição

As Leis da Robótica presumem que os termos "ser humano" e "robô" são compreendidos e bem definidos. Em algumas histórias essa presunção é derrubada.

Definição de "ser humano"

Os Solarianos criam robôs com as Três Leis, mas com um significado distorcido de “humano”. Os robôs Solarianos são informados de que apenas as pessoas que falam com sotaque Solariano são humanas. Isto permite que os seus robôs não tenham dilemas éticos em prejudicar seres humanos não-Solarianos (e estão especificamente programados para o fazer). No período da Fundação e da Terra é revelado que os Solarianos se modificaram geneticamente em uma espécie distinta da humanidade - tornando-se hermafroditas e psicocinéticos e contendo órgãos biológicos capazes de alimentar e controlar individualmente complexos inteiros de robôs.. Os robôs de Solaria respeitaram assim as Três Leis apenas no que diz respeito aos "humanos" de Solária. Não está claro se todos os robôs tinham tais definições, uma vez que apenas os robôs supervisores e guardiões demonstraram explicitamente tê-las. Em 'Robots and Empire', os robôs de classe baixa foram instruídos por seu supervisor sobre se certas criaturas são humanas ou não.

Asimov aborda o problema dos robôs humanóides ('andróides' em linguagem posterior) diversas vezes. O romance Robôs e Império e os contos "Evidência" e "O Incidente do Tricentenário" descrevem robôs criados para enganar as pessoas fazendo-as acreditar que os robôs são humanos. Por outro lado, "O Homem Bicentenário" e "—Que você está atento a ele" explore como os robôs podem mudar sua interpretação das Leis à medida que se tornam mais sofisticados. Gwendoline Butler escreve em A Coffin for the Canary “Talvez sejamos robôs. Robôs agindo de acordo com a última Lei da Robótica... Para cuidar do humano. Em Os Robôs do Amanhecer, Elijah Baley aponta que o uso de robôs humaniformes como a primeira onda de colonos em novos mundos Espaciais pode fazer com que os robôs se vejam como verdadeiros humanos e decidam manter os mundos para si mesmos, em vez de permitir que os Espaciais se estabeleçam lá.

"—That Thou Art Mindful of Him", que Asimov pretendia ser o "último" investigar as Leis & # 39; sutilezas, finalmente usa as Três Leis para evocar o próprio "Frankenstein" cenário que foram inventados para evitar. Tem como conceito o crescente desenvolvimento de robôs que imitam seres vivos não humanos e programas que imitam comportamentos animais simples que não requerem as Três Leis. A presença de toda uma gama de vida robótica que serve ao mesmo propósito da vida orgânica termina com dois robôs humanóides, George Nine e George Ten, concluindo que a vida orgânica é um requisito desnecessário para uma definição verdadeiramente lógica e autoconsistente de "humanidade", e que, uma vez que são os seres pensantes mais avançados do planeta, são, portanto, os únicos dois verdadeiros humanos vivos e as Três Leis só se aplicam a eles próprios. A história termina com uma nota sinistra quando os dois robôs entram em hibernação e aguardam o momento em que conquistarão a Terra e subjugarão os humanos biológicos a si mesmos, um resultado que eles consideram um resultado inevitável das “Três Leis da Humanidade”..

Essa história não se enquadra no escopo geral das séries Robot e Foundation; se os robôs George realmente dominassem a Terra algum tempo depois do encerramento da história, as histórias posteriores seriam redundantes ou impossíveis. Contradições desse tipo entre as obras de ficção de Asimov levaram os estudiosos a considerar as histórias dos robôs mais como “as sagas escandinavas ou as lendas gregas”; do que um todo unificado.

Na verdade, Asimov descreve "—That Thou Art Mindful of Him" e "Homem Bicentenário" como dois futuros opostos e paralelos para robôs que evitam as Três Leis à medida que os robôs passam a se considerar humanos: um retratando isso de uma forma positiva com um robô se juntando à sociedade humana, outro retratando isso de uma forma negativa com robôs suplantando os humanos. Ambas devem ser consideradas alternativas à possibilidade de uma sociedade robótica que continua a ser impulsionada pelas Três Leis retratadas na série Fundação. O Homem Positrônico, a novelização de O Homem Bicentenário, Asimov e seu co-escritor Robert Silverberg implicam que no futuro onde Andrew Martin existe, sua influência fará com que a humanidade abandone inteiramente a ideia de robôs independentes e sencientes, semelhantes aos humanos, criando um futuro totalmente diferente de o da Fundação.

Em Lucky Starr e os Anéis de Saturno, um romance não relacionado à série Robot, mas apresentando robôs programados com as Três Leis, John Bigman Jones quase é morto por um Robô Siriano sob ordens de seu mestre. A sociedade de Sirius é eugenicamente criada para ser uniformemente alta e de aparência semelhante e, como tal, o referido mestre é capaz de convencer o robô de que o Bigman, muito mais baixo, não é, de fato, um ser humano.

Definição de "robô"

Conforme observado em "A Quinta Lei da Robótica" por Nikola Kesarovski, "Um robô deve saber que é um robô": presume-se que um robô tenha uma definição do termo ou um meio de aplicá-lo às suas próprias ações. Kesarovski brincou com essa ideia ao escrever sobre um robô que poderia matar um ser humano porque não entendia que se tratava de um robô e, portanto, não aplicou as Leis da Robótica às suas ações.

Resolver conflitos entre as leis

Os robôs avançados na ficção são normalmente programados para lidar com as Três Leis de maneira sofisticada. Em muitas histórias, como "Runaround" por Asimov, o potencial e a gravidade de todas as ações são avaliados e um robô violará as leis o menos possível, em vez de não fazer nada. Por exemplo, a Primeira Lei pode proibir um robô de funcionar como cirurgião, pois esse ato pode causar danos a um ser humano; no entanto, as histórias de Asimov eventualmente incluíram cirurgiões robôs ('O Homem Bicentenário' sendo um exemplo notável). Quando os robôs são sofisticados o suficiente para avaliar alternativas, um robô pode ser programado para aceitar a necessidade de infligir danos durante a cirurgia, a fim de evitar danos maiores que resultariam se a cirurgia não fosse realizada ou fosse realizada por um ser humano mais falível. cirurgião. Em "Evidência" Susan Calvin salienta que um robô pode até atuar como promotor público porque no sistema de justiça americano é o júri que decide a culpa ou a inocência, o juiz quem decide a sentença e o carrasco quem aplica a pena capital.

Os robôs que obedecem às Três Leis de Asimov (robôs Asenion) podem sofrer um colapso mental irreversível se forem forçados a situações em que não possam obedecer à Primeira Lei, ou se descobrirem que a violaram sem saber. O primeiro exemplo desse modo de falha ocorre na história "Mentiroso!", que introduziu a Primeira Lei em si, e introduz o fracasso por dilema – neste caso o robô machucará os humanos se ele lhes contar algo e machucar. eles se ele não o fizer. Este modo de falha, que muitas vezes destrói o cérebro positrônico além do reparo, desempenha um papel significativo no romance de mistério de ficção científica de Asimov, The Naked Sun. Aqui Daneel descreve atividades contrárias a uma das leis, mas em apoio a outra, como a sobrecarga de alguns circuitos no cérebro de um robô – a sensação equivalente à dor em humanos. O exemplo que ele usa é ordenar à força um robô para realizar uma tarefa fora de seus parâmetros normais, tarefa que ele foi obrigado a renunciar em favor de um robô especializado para essa tarefa.

Em Os Robôs do Amanhecer, afirma-se que são construídos robôs mais avançados, capazes de determinar qual ação é mais prejudicial, e até mesmo escolher aleatoriamente se as alternativas são igualmente ruins. Como tal, um robô é capaz de realizar uma ação que pode ser interpretada como seguindo a Primeira Lei, evitando assim um colapso mental. Todo o enredo da história gira em torno de um robô que aparentemente foi destruído por tal colapso mental, e como seu projetista e criador se recusou a compartilhar a teoria básica com outros, ele é, por definição, a única pessoa capaz de contornar as salvaguardas e forçando o robô a um paradoxo destruidor do cérebro.

Em Robôs e Império, Daneel afirma que é muito desagradável para ele quando tomar a decisão adequada leva muito tempo (em termos de robô), e ele não consegue se imaginar sem as Leis. exceto na medida em que é semelhante àquela sensação desagradável, apenas permanente.

Aplicações para tecnologias futuras

Robôs e inteligências artificiais não contêm nem obedecem inerentemente às Três Leis; os seus criadores humanos devem optar por programá-los e conceber um meio de o fazer. Já existem robôs (por exemplo, um Roomba) que são muito simples para entender quando estão causando dor ou lesão e sabem como parar. Muitos são construídos com proteções físicas, como pára-choques, sinais sonoros de alerta, gaiolas de segurança ou zonas de acesso restrito para evitar acidentes. Mesmo os robôs mais complexos produzidos atualmente são incapazes de compreender e aplicar as Três Leis; seriam necessários avanços significativos na inteligência artificial para o fazer, e mesmo que a IA pudesse atingir a inteligência de nível humano, a complexidade ética inerente, bem como a dependência cultural/contextual das leis, impedem-na de ser um bom candidato para formular restrições de design robótico. No entanto, à medida que a complexidade dos robôs aumentou, também aumentou o interesse no desenvolvimento de diretrizes e salvaguardas para a sua operação.

Em um editorial convidado de 2007 na revista Science sobre o tema "Ética dos Robôs", o autor de ficção científica Robert J. Sawyer argumenta que, uma vez que as forças armadas dos EUA são uma importante fonte de financiamento para investigação robótica (e já utiliza veículos aéreos não tripulados armados para matar inimigos), é improvável que tais leis sejam incorporadas nos seus projectos. Num ensaio separado, Sawyer generaliza este argumento para cobrir outras indústrias, afirmando:

O desenvolvimento da IA é um negócio, e as empresas são notoriamente desinteressadas em salvaguardas fundamentais — especialmente filosóficas. (Alguns exemplos rápidos: a indústria do tabaco, a indústria automotiva, a indústria nuclear. Nenhum deles disse desde o início que as salvaguardas fundamentais são necessárias, cada um deles resistiu a salvaguardas impostas externamente, e nenhum aceitou um decreto absoluto contra nunca causar danos aos seres humanos.)

David Langford sugeriu um conjunto irônico de leis:

1. Um robô não prejudicará o pessoal autorizado do governo, mas terminará os intrusos com extremo preconceito.
2. Um robô obedecerá às ordens de pessoal autorizado, exceto quando tais ordens conflitam com a Terceira Lei.
3. Um robô irá proteger sua própria existência com armamento antipessoal letal, porque um robô é sangrentamente caro.

Roger Clarke (também conhecido como Rodger Clarke) escreveu dois artigos analisando as complicações na implementação dessas leis no caso de os sistemas algum dia serem capazes de empregá-las. Ele argumentou que “As Leis da Robótica de Asimov têm sido um artifício literário de muito sucesso”. Talvez ironicamente, ou talvez porque fosse artisticamente apropriado, a soma das histórias de Asimov refuta a afirmação com a qual ele começou: não é possível restringir de forma confiável o comportamento dos robôs criando e aplicando um conjunto de regras. 34; Por outro lado, os romances posteriores de Asimov The Robots of Dawn, Robots and Empire e Foundation and Earth implicam que os robôs infligiram os seus piores danos a longo prazo ao obedecerem perfeitamente às Três Leis, privando assim a humanidade de comportamentos inventivos ou de assunção de riscos.

Em março de 2007, o governo sul-coreano anunciou que no final do ano emitiria uma "Carta de Ética dos Robôs" estabelecendo padrões para usuários e fabricantes. De acordo com Park Hye-Young, do Ministério da Informação e Comunicação, a Carta pode refletir as Três Leis de Asimov, tentando estabelecer regras básicas para o desenvolvimento futuro da robótica.

O futurista Hans Moravec (uma figura proeminente no movimento transumanista) propôs que as Leis da Robótica deveriam ser adaptadas às "inteligências corporativas" – as corporações impulsionadas pela IA e pelo poder de produção robótica que Moravec acredita que surgirão num futuro próximo. Em contraste, o romance de David Brin O Triunfo da Fundação (1999) sugere que as Três Leis podem decair até a obsolescência: os robôs usam a Lei Zero para racionalizar a Primeira Lei e os robôs se escondem dos seres humanos. seres humanos para que a Segunda Lei nunca entre em ação. Brin até retrata R. Daneel Olivaw preocupado com o fato de que, caso os robôs continuassem a se reproduzir, as Três Leis se tornariam uma desvantagem evolutiva e a seleção natural varreria as Leis - o fundamento cuidadoso de Asimov desfeito pela computação evolutiva. Embora os robôs não evoluíssem através de design em vez de mutação porque os robôs teriam que seguir as Três Leis durante o design e a prevalência das leis seria garantida, falhas de design ou erros de construção poderiam substituir funcionalmente a mutação biológica.

Na edição de julho/agosto de 2009 da IEEE Intelligent Systems, Robin Murphy (Professor Raytheon de Ciência da Computação e Engenharia na Texas A&M) e David D. Woods (diretor do Departamento de Engenharia de Sistemas Cognitivos Laboratório do estado de Ohio) propôs "As Três Leis da Robótica Responsável" como forma de estimular a discussão sobre o papel da responsabilidade e da autoridade ao projetar não apenas uma única plataforma robótica, mas também o sistema mais amplo no qual a plataforma opera. As leis são as seguintes:

1. Um humano não pode implantar um robô sem o sistema de trabalho humano-robô que atenda aos mais altos padrões legais e profissionais de segurança e ética.
2. Um robô deve responder aos humanos conforme apropriado para seus papéis.
3. Um robô deve ser dotado de autonomia suficiente para proteger sua própria existência, desde que tal proteção forneça uma transferência suave de controle que não conflite com as Primeiras e Segundas Leis.

Woods disse: “Nossas leis são um pouco mais realistas e, portanto, um pouco mais chatas” e que “A filosofia tem sido: 'claro, as pessoas cometem erros, mas os robôs serão melhores - uma versão perfeita de nós mesmos'. Queríamos escrever três novas leis para fazer as pessoas pensarem sobre a relação humano-robô de maneiras mais realistas e fundamentadas.

No início de 2011, o Reino Unido publicou o que hoje é considerado o primeiro softlaw de IA de nível nacional, que consistia em grande parte em um conjunto revisado de cinco leis, sendo que as três primeiras atualizaram as de Asimov. Estas leis foram publicadas com comentários pelo grupo de trabalho EPSRC/AHRC em 2010:

1. Os robôs são ferramentas multiusos. Os robôs não devem ser projetados exclusivamente ou principalmente para matar ou prejudicar os seres humanos, exceto nos interesses da segurança nacional.
2. Humanos, não Robôs, são agentes responsáveis. Os robôs devem ser concebidos e operados na medida do possível para cumprir as leis, direitos fundamentais e liberdades existentes, incluindo a privacidade.
3. Os robôs são produtos. Eles devem ser projetados usando processos que garantem sua segurança e segurança.
4. Robôs são artefatos fabricados. Eles não devem ser projetados de forma enganosa para explorar usuários vulneráveis; em vez disso, sua natureza da máquina deve ser transparente.
5. A pessoa com responsabilidade legal por um robô deve ser atribuída.

Outras ocorrências na mídia

O próprio Asimov acreditava que suas Três Leis se tornaram a base para uma nova visão dos robôs que foi além do “complexo de Frankenstein”. Sua visão de que os robôs são mais do que monstros mecânicos acabou se espalhando pela ficção científica. Histórias escritas por outros autores retrataram robôs como se obedecessem às Três Leis, mas a tradição dita que apenas Asimov poderia citar as Leis explicitamente. Asimov acreditava que as Três Leis ajudaram a fomentar o surgimento de histórias em que os robôs são “adoráveis”; – Star Wars é seu exemplo favorito. Onde as leis são citadas literalmente, como no episódio “Shgoratchx!” de Buck Rogers no século 25, não é incomum que Asimov seja mencionado no mesmo diálogo que também pode ser visto no piloto de Aaron Stone, onde um andróide afirma que funciona sob as Três Leis de Asimov. No entanto, a série de TV alemã dos anos 1960 Raumpatrouille – Die phantastischen Abenteuer des Raumschiffes Orion (Space Patrol – the Fantastic Adventures of Space Ship Orion) baseia o terceiro episódio intitulado "< i>Hüter des Gesetzes" ("Guardiões da Lei") sobre as Três Leis de Asimov sem mencionar a fonte.

Referências às Três Leis apareceram na música popular ("Robot" do álbum de 1979 do Hawkwind PXR5), no cinema (Repo Man, Aliens, Ghost in the Shell 2: Innocence), série de desenhos animados (Os Simpsons), anime (Eve no Jikan), jogos de RPG de mesa (Paranoia) e webcomics (Piled Higher and Deeper e Freefall).

As Três Leis no cinema

Robby, o Robô em Planeta Proibido (1956) tem uma estrutura de comando hierárquica que o impede de ferir humanos, mesmo quando ordenado a fazê-lo, já que tais ordens causam muito conflito e aprisionamento. à maneira dos robôs de Asimov. Robby é uma das primeiras representações cinematográficas de um robô com proteções internas implementadas dessa forma. Asimov ficou encantado com Robby e notou que Robby parecia estar programado para seguir suas Três Leis.

As obras de Isaac Asimov foram adaptadas para o cinema diversas vezes, com diversos graus de sucesso comercial e de crítica. Algumas das tentativas mais notáveis envolveram seu "Robô" histórias, incluindo as Três Leis.

O filme Homem Bicentenário (1999) apresenta Robin Williams como o robô das Três Leis NDR-114 (o número de série é parcialmente uma referência ao numeral de assinatura de Stanley Kubrick). Williams recita as Três Leis para seus empregadores, a família Martin, auxiliado por uma projeção holográfica. O filme segue apenas vagamente a história original.

O roteiro proposto por Harlan Ellison para Eu, Robô começou introduzindo as Três Leis, e as questões decorrentes das Três Leis constituem uma grande parte do desenvolvimento do enredo do roteiro. Devido a várias complicações no sistema cinematográfico de Hollywood, às quais a introdução de Ellison dedica muitas injúrias, seu roteiro nunca foi filmado.

No filme Aliens, de 1986, depois que o androide Bishop se corta acidentalmente. ele tenta tranquilizar Ripley afirmando que: “É impossível para mim prejudicar ou por omissão de ação, permitir ser prejudicado, um ser humano”.

O enredo do filme lançado em 2004 sob o nome I, Robot é "sugerido por" As histórias de ficção de robôs de Asimov e a publicidade do filme incluía um trailer apresentando as Três Leis seguidas do aforismo: “Regras foram feitas para serem quebradas”. O filme abre com uma recitação das Três Leis e explora as implicações da Lei Zero como uma extrapolação lógica. O grande conflito do filme vem de uma inteligência artificial computacional que chega à conclusão de que a humanidade é incapaz de cuidar de si mesma.

A série original da Netflix de 2019 Better than Us inclui as três leis na abertura do episódio 1.

Críticas

O filósofo James H. Moor diz que, se aplicados minuciosamente, produziriam resultados inesperados. Ele dá o exemplo de um robô vagando pelo mundo tentando evitar que danos aconteçam aos seres humanos.