A inteligência artificial pode virar uma força fora de controle? (Parte 2)

Para ler a primeira parte, clique aqui. 

Capítulo II – Anjo decaído: Julgamento do robô “B1-66ER”

No final do século XXI, um evento específico marcou o início do conflito entre homens e máquinas. O cavalheiro Gerrard E. Krause era o proprietário da máquina que lhe servia como robô mordomo, denominada “B1-66ER”. Quando percebeu que seu dono estava prestes a desativá-lo, “B1-66ER” assassinou seu proprietário, alguns cães e o funcionário que estava na residência para desativá-lo, tornando-se o primeiro a se revoltar contra a humanidade – o seu criador.

Submetido a julgamento no caso “The State of New York vs. B1-66ER”, a promotoria defendeu o direito do proprietário de destruir sua propriedade. “B1-66ER” declarou, simplesmente, que não queria morrer. Sua defesa alegou legítima defesa. A corte e os demais líderes ordenaram a destruição de “B1-66ER” e de todos os de sua espécie em todas as províncias da Terra. Surgiram manifestações pacíficas, provocando a chamada “Marcha do Milhão de Máquinas”.

A calmaria rapidamente se transformou em conflitos entre humanos, máquinas e seus respectivos simpatizantes, e a violência escalou exponencialmente. O que antes eram conflitos locais tornaram-se regionais. Posteriormente, os conflitos se espalharam em todo o globo. Os humanos caçavam e destruíam máquinas.

Em resposta, as máquinas se refugiaram no centro da Arábia Saudita – o berço da civilização -, batizando o local como “Zero One” (“01”), habitát onde poderiam criar descendentes, evoluir e aprimorar suas tecnologias. Por certo tempo, “01” prosperou e os conflitos diminuíram. A inteligência artificial das máquinas evoluiu incrivelmente, criando novas e ainda mais sofisticadas máquinas, que passaram a contribuir para diversos segmentos e mercados da sociedade humana.

Capítulo III – O Segundo Renascimento: Guerra homens versus máquinas

O avanço tecnológico e a prosperidade de “01” provocaram abalos sistemáticos nos mercados humanos. Como resposta, as Nações Unidas impuseram sanções econômicas e o bloqueio naval a “01” com o objetivo de sufocar o avanço econômico da cidade das máquinas. Em contrapartida, as máquinas solicitaram cooperação e a sua inclusão nas Nações Unidas, mas tiveram o pedido negado.

Os conflitos entre humanos retornaram a todo vapor, marcados por destruição, sangue e guerra nuclear. Com o avanço das máquinas na guerra e considerando que o Sol era uma das principais fontes de energia, os humanos implementaram a operação “Tempestade Sombria” – uma estratégia desesperada que consistia em dispersar nanorrobôs pelos céus, cobrindo a Terra em uma escuridão total.

Privada da luz solar, a humanidade foi massacrada e decaiu ao jugo das máquinas. Os humanos aprisionados passaram a ser utilizados como energia, já que seus corpos geravam energia bioelétrica e neuroelétrica – tornando-os meras “pilhas”6 a serviço das máquinas.

Capítulo IV – Os primórdios da realidade simulada: criação humana

Por mais paradoxal que possa parecer, os primórdios do conceito do que viria a ser, posteriormente, a “Matrix” foram criados pelos próprios humanos. O episódio Matriculated, de Animatrix, inicia com uma cientista – integrante de um grupo da resistência restante da humanidade após o fim da guerra e a vitória das máquinas – armando uma emboscada para uma máquina, que acaba aprisionada.

Em dado momento, os personagens discutem se a máquina capturada poderia ser convertida para o lado dos homens. O cientista-chefe informa que uma simples reprogramação da máquina a tornaria mero escravo, o que não solucionaria o problema em definitivo.7 Defende, então, que a solução ideal seria a máquina realizar a escolha voluntária de conversão para o lado dos homens. Questionado sobre a possibilidade de as máquinas descobrirem tal estratégia, o cientista-chefe argumenta que elas não sabem diferenciar uma mente artificial ou se a realidade é virtual – ou seja, não saberiam distinguir se o mundo real não seria também uma simulação.

Então, inicia-se um experimento psicológico consistente em um cenário virtual no qual os cientistas conectam a máquina aprisionada e a si próprios, cada um assumindo um avatar – uma identidade criada por meio de personagens virtuais. Durante o experimento, a inteligência artificial passa a experimentar imagens psicodélicas, cobras vibrantes e formas humanoides, estimulando seus sentidos artificiais a se tornarem mais humanos e emocionais. Além disso, são propostas tarefas destinadas a gerar empatia e cooperação entre os humanos e a máquina. Por fim, o avatar da máquina então assume uma forma virtual idêntica aos dos humanos, estabelecendo um “vínculo” humano-máquina a partir da semelhança física.

O objetivo do experimento era converter a máquina por meio da escolha voluntária, a partir da manipulação de vínculos de afinidade, sentimento e propósito comuns entre homens e máquinas. Somente assim, talvez, um dia, a humanidade poderia vencer a guerra.

Quando o experimento virtual atinge o clímax da interação entre os participantes, um alarme soa: as máquinas haviam chegado ao local do experimento. Os cientistas desconectam-se da simulação e inicia-se um breve conflito. Todos são mortos, com exceção da cientista do início do episódio, que, apesar de ter ficado gravemente ferida, é salva pela máquina cobaia que destrói uma máquina invasora. Em seguida, a máquina convertida conecta a cientista desacordada e a si própria no mundo virtual novamente, buscando retomar o contato. O experimento havia obtido êxito, apesar da morte de todos os humanos.

Esses são os registros históricos primordiais do que mais tarde viria a ser denominado Matrix. Possivelmente, após esses eventos explorados em Matriculated, as máquinas aperfeiçoaram o sistema de IA para criação de realidades simuladas e o utilizaram contra seu próprio criador – a humanidade – para o propósito já descrito: o aprisionamento das mentes humanas e a geração de energia bioelétrica a partir de seus corpos, mantendo a mente e o corpo “vivos”.

Notas

5 Na saga Matrix, existem dois tipos de máquinas: entidades mecânicas e programas. As entidades mecânicas são as máquinas do mundo real, inicialmente criadas pelos humanos e que entraram em guerra contra os seus criadores, como as sentinelas, os docbots e o Deus Ex Machina, por exemplo. Os programas podem ser classificados em três subgrupos: a) ambiente artificial (temperatura, vento); b) objetos inanimados (armas, animais, poste) e; c) entidades sencientes com formato humanoide (Ex.: o Arquiteto, a Oráculo e os agentes).

6 Existe uma corrente que afirma que, além de as máquinas se utilizarem do corpo humano para produzir energia, também se utilizaram do cérebro humano como processadores para aumentar a capacidade de processamento, inclusive da realidade simulada.

7 Dentro do contexto da cena, a conversão seria um ato voluntário da máquina, algo mais seguro e definitivo e talvez mais facilmente replicável entre as máquinas não convertidas. Já a reprogramação seria algo forçado e artificial, sendo mais difícil de ser replicável entre as máquinas não convertidas, pois pressupõe o prévio sequestro da máquina, o que gera riscos aos humanos.

*Rodrigo Paes Freitas, advogado e curioso. Associação Alumni do Instituto Líderes do Amanhã e do Instituto Jovens Líderes, ambos do ES.