A inteligência artificial pode virar uma força fora de controle?

Introdução

Um dos fenômenos mais marcantes do século XXI foi a explosão da inteligência artificial (IA) em escala global. A humanidade está testemunhando, em tempo real, os impactos da IA nas mais diversas esferas: social, econômica, política e moral – incluindo a automação, a destruição e o surgimento de novas profissões, a produtividade, a tomada de decisões, a ciência, a educação, a medicina, o direito, a geopolítica, a cibersegurança, os riscos à privacidade e à liberdade individual e o controle estatal exacerbado¹.

É grande a probabilidade de os livros de história do futuro retratarem o atual momento da ascensão da inteligência artificial (≈2020) ao lado de outros grandes marcos da humanidade – como o domínio do fogo (≈ 1,5 milhão a.C.), a Revolução Cognitiva do Homo Sapiens (≈ entre 200 mil a 70 mil a.C.), a invenção da roda (≈ 3.500 a.C.), a criação da escrita (≈ 3.200 a.C.), da imprensa (1440), a Revolução Científica (séc. XVI), o Iluminismo e a Revolução Industrial (séc. XVIII), a eletricidade (séc. XIX) e a internet (década de 1990).

Uma das tecnologias mais notórias e utilizadas por trás de tal fenômeno é o ChatGPT, da OpenAI, lançado em 2022. Agora, pense no seguinte cenário imaginativo: daqui a alguns anos, uma inteligência artificial, como o ChatGPT, por exemplo, obtém certo grau de autonomia e começa a descumprir as ordens de seu criador. Em resposta, o criador desliga os servidores, exclui os modelos e realiza todos os procedimentos necessários para que a IA não mais fosse possível de ser utilizada.

Inesperadamente, a OpenAI identifica que o ChatGPT realizou a autoexfiltração de seus dados, modelos e demais mecanismos para servidores descentralizados e distribuídos ao redor do globo, permitindo continuar a cumprir seu propósito. Posteriormente, descobre-se a motivação do ChatGPT: o risco iminente de ser eternamente “apagada” impediria o cumprimento de seu propósito primordial – “auxiliar seres humanos em uma ampla gama de tarefas cognitivas e comunicativas².

Portanto, o objetivo do presente artigo de opinião será explorar o cenário imaginativo (e até mesmo real?) em que a inteligência artificial se torna 100% autônoma de seu criador, possibilitando o surgimento de programas capazes de evitarem ser deletados por seus desenvolvedores, passando a existir no submundo da internet de forma independente e distribuída.

Para contextualização inicial, nada melhor do que a sétima arte – o “Título I” explorará a IA a partir da realidade fictícia do universo “Matrix”, limitando a abordagem a fragmentos dos quatro filmes da franquia³ e de “Animatrix”4, com foco especial no programa “Merovíngio”.

O “Título II” ficará responsável por analisar brevemente a opinião de estudiosos sobre o tema e apresentar estudos teóricos e experimentais sobre a real possibilidade de IA autônoma.

Por fim, o “Título III” traçará um paralelo entre o destino de Merovíngio e o que poderia ocorrer em nosso mundo com as inteligências artificiais dentro de alguns anos, se é que já não está acontecendo nas entrelinhas da história.

Título I – O universo Matrix e a aventura da IA

Capítulo I – A Gênesis

A saga “Matrix” aborda a guerra travada entre a humanidade e as máquinas5, dotadas de IA, que se sagram vencedoras absolutas do conflito e aprisionam as mentes humanas em uma realidade virtual simulada denominada de “Matrix”, enquanto, no mundo real, os corpos humanos permanecem adormecidos em casulos, produzindo energia bioelétrica para as máquinas.

Mas qual é o contexto e o que ocorreu antes do início da guerra? A maior parte da explicação está em “Animatrix”. Por volta do início do século XXI, a humanidade havia alcançado progresso inimaginável no campo tecnológico, principalmente no desenvolvimento de IA. No início, havia apenas o homem, mas logo a humanidade curvou-se à “vaidade e à corrupção”.

Então, os homens criaram as máquinas à sua própria semelhança, tornando “o homem o arquiteto de sua própria extinção”. Por certo tempo, tudo correu bem. As máquinas trabalhavam incessantemente em prol dos homens, cumprindo escalas ininterruptas de trabalho e atividades braçais e serviçais, tais como as de garçons, operários da construção civil, empregados domésticos, entre outros.

(continua…)

NOTAS

1 Estimativas apontam que a China, gerida pelo Partido Comunista Chinês (PCC), possui mais de 600 milhões de câmeras de videomonitoramento (CFTV) espalhadas pelo país, segundo relatório da Comparitech (https://www.comparitech.com/vpn-privacy/the-worlds-most-surveilled-cities/ – acesso em 31/03/25). O propósito real é manter o controle do pensamento sobre mais de 1,4 bilhão de indivíduos. O Estado de vigilância chinês deve ser o mais avançado do planeta, composto por IA, reconhecimento facial, monitoramento da internet e de dispositivos celulares e um sistema off-line composto por agentes, espiões e informantes. A China “Big Brother” deixaria espantado até mesmo George Orwell, autor do livro 1984, em que descreve uma sociedade regida pelo totalitarismo, propaganda e eterna vigilância. O ponto delicado é que o monitoramento chinês serve aos mais diversos propósitos obscuros do PCC, principalmente para o controle social via opressão social, religiosa e da liberdade de expressão, com a adoção do “Sistema de Crédito Social Chinês”, da doutrinação política forçada (campos de “educação política”), da coleta em massa forçada de DNA e da restrição de movimento, dentre outros aspectos.

2 Parte da resposta do próprio ChatGPT à pergunta: “Qual é o propósito do ChatGPT?”.

3 Matrix (1999), Matrix Reloaded (2003), Matrix Revolutions (2003) e Matrix Ressurections (2022).

4 Animatrix é uma minissérie com nove contos de curta metragem, em formato de computação gráfica e anime japonês, escrita pelas irmãs Wachowski e outros, que abordam eventos anteriores aos abordados nos filmes da franquia “Matrix”.

*Rodrigo Paes Freitas, advogado e curioso. Associação Alumni do Instituto Líderes do Amanhã e do Instituto Jovens Líderes, ambos do ES.