Robs sapiens assassinos

"A guerra a continuao da poltica por outros meios"

Carl von Clausewitz (1780 - 1831)

Para quem sonha com o momento utpico em que os robs simpticos, bonzinhos e
trabalhadores faam todo o servio necessrio para sustentar a humanidade, a realidade
distpica investe na criao de autmatos de guerra e em robs superinteligentes e assassinos.

Para o complexo industrial-militar enorme o potencial que surge com os robs assassinos e
sapiens (com memria ilimitada e capacidade cognitiva). Os robs voadores e matadores j
existem e j foram testados nos conflitos armados do Imen e outros pases do Oriente Mdio.
Os terroristas do ISIS que o digam.

J existem os drones que voam e atuam durante o dia, mas tambm noite (soldados do futuro
atuando 24 horas dirias e 7 dias por semana), pois enxergam os inimigos com luz infravermelha
ultravioleta, lanam msseis contra os alvos cirrgicos definidos pela Inteligncia Artificial da
inteligncia militar. O fabricante do drone TIKAD diz que conseguiu desenvolver uma tecnologia
de estabilizao que permite ao rob assassino TIKAD absorver o recuo das armas poderosas.
um drone projetado para matar. O agente 007 j pode se aposentar e morrer em paz, pois seus
substitutos sero bem mais poderosos e imortais.

Artigo de Andrew Tarantola (25/07/2017) mostra que h algum tempo o Pentgono tem
buscado avanar no uso de armas robticas, associadas Inteligncia Artificial, para proteger
suas foras humanas. Mas, medida que esses sistemas ganham cada vez graus mais avanados
de inteligncia e independncia, sua crescente autonomia tem gerado crticas por parte dos
observadores preocupados com o fato de que os humanos esto cedendo muito poder a
dispositivos cujos processos de tomada de deciso no entendemos completamente (e que
talvez no possamos ser inteiramente capazes controlar).

1
Ainda segundo Tarantola, o que constitui um Sistema de Arma Autnomo (AWS, sigla em ingls)
depende da pessoa questionada, pois esses sistemas apresentam diferentes graus de
independncia. As armas definidas como Sentindo e Reagindo aos Objetos Militares (SARMO,
sigla em ingls), podem responder s ameaas recebidas de artilharia e msseis, envolvendo-se
em aes militares sem a superviso humana. Por enquanto, estes mecanismos no so
totalmente autnomos, pois executam uma tarefa automtica definida e no h tomada de
deciso, apenas uma resposta a um estmulo externo.

Porm, os robs assassinos esto sendo gestados nas profundezas secretas da pesquisa militar
e nos estudos sobre a destruio em massa das foras inimigas. As armas totalmente autnomas
capazes de selecionar, identificar e se envolver com alvos de sua prpria escolha, sem
interferncia humana, parece que ainda no vieram luz. Se bem que os servios de contra
inteligncia suspeitam que algum prottipo j esteja sendo testado. Vrios pases, incluindo a
China, Reino Unido, Israel, os EUA, alm obviamente da Rssia, esto trabalhando em seus
arqutipos.

Ainda como explica Tarantola, existe uma tentativa de regulamentar o Autonomous Weapon
System AWS (Sistema de Armas Autnomas - nome politicamente correto para robs
assassinos). Oficialmente os governos dizem que no tem inteno de desenvolver sistemas
que operem sem interveno humana. Mas Noel Sharkey, professor de Inteligncia Artificial (IA)
e robtica diz que o discurso j pr-estabelecido de que Tudo ser controlado pelos
humanos. Mas ningum est disposto a dizer de que maneira ser esse controle. H diversos
nveis de controle, nas situaes de conflito armado:

1. O humano identifica, seleciona e envolve o alvo, iniciando todos os ataques;

2. A IA sugere alternativas alvo, mas o humano ainda inicia o ataque;

3. A IA escolhe os alvos, mas o humano deve aprovar antes do ataque ser iniciado;

4. A IA escolhe os alvos e inicia o ataque, mas o humano tem poder de veto;

5. A IA identifica, seleciona e atinge o alvo sem qualquer controle humano.

Os nveis 4 e 5 so, evidentemente, os mais perigosos. O sistema americano de msseis Patriot

opera de acordo com regras de compromisso semelhantes ao ponto 4. As armas que atuam

2
como no ponto 5 ainda no chegaram ao campo de batalha, pelo menos no so conhecidas do
pblico. Mas dizem que a torre de defesa SGR-A1, da Samsung, atualmente implantada ao longo
da Zona Desmilitarizada entre as duas Coreias, capaz de identificar e destruir as foras do
inimigo, completamente por conta prpria. O clima de guerra favorece o desenvolvimento desse
arsenal militar de armas inteligentes de destruio em massa.

Recentemente, o presidente da China, Xi Jinping, de uniforme, comandou desfile militar, com

destaque para os novos msseis para ataque nuclear e disse: A China est pronta para a
batalha". A Coreia do Norte testa msseis intercontinentais e ameaa atacar a base militar
americana na ilha de Guam. O presidente Donald Trump adverte China, por causa da Coreia
do Norte, e faz ensaios de seus bombardeiros na pennsula coreana. Trump ameaou Kim Jon-
un com fogo e fria. O presidente Vladimir Putin tambm fez uma demonstrao de poder
com um grande desfile de mais de cem navios, alm de ordenar a sada de 755 funcionrios dos
EUA, em resposta s sanes americanas Rssia. Vrios pases esto em guerras h anos, como
Sria, Imen, Iraque, Afeganisto, Sudo do Sul, Etipia, etc. A guerra do sculo XXI dever ter
um forte componente de ciberataques, forma no prevista na Conveno de Genebra.

Na realidade, as diversas foras polticas e militares dos pases mais desenvolvidos - na

capacidade de destruio em massa - esto a ponto de abrir a caixa de Pandora. Tudo indica que
a lgica de se defender com a maior segurana possvel leve ao desenvolvimento de Sistemas
de Armas Autnomas cada vez mais avanados. Sem dvida, na rea militar, o princpio tico
primum non nocere ("primeiro, no prejudicar") no se aplicada como sugerido pela rea civil.
Na guerra (comercial ou blica), as primeiras vtimas so a verdade e a tica.

Provavelmente, os robs superinteligentes no se limitaro a imitar a inteligncia humana (que

muito adstrita). O aprendizado de mquina, ou aprendizado automtico (Deep learning), por
meio de redes neurais artificiais, ganha cada vez mais terreno. Quando crebros cibernticos,
de grande memria e capacidade de processamento, conseguirem processar o Big Data e se
conectar aos dispositivos mveis (como drones, carros e tanques autnomos, navios
autoguiados, Transformers, ciborgues, androides, etc.), podero deixar de lado a simulao e
partir para a ao, independentemente do controle humano.

Artigo de Will Knight (14/03/2017) mostra que a Agncia de Projetos Avanados de Pesquisa de
Defesa (DARPA), uma diviso do Departamento de Defesa dos EUA, que explora novas
tecnologias, est financiando vrios projetos que visam fazer a Inteligncia Artificial ficar mais
inteligvel, diante da exploso de pesquisas na rea de IA. A Aprendizagem Profunda (Deep
Learning) e outras tcnicas de aprendizagem mecnica (machine-learning techniques) esto
melhorando o reconhecimento de voz e a classificao da imagens de forma significativa e esto
sendo usados em contextos cada vez mais avanados, incluindo reas como a aplicao de
medicamentos, onde as consequncias de um erro podem ser srios. Porm, enquanto o
aprendizado profundo incrivelmente eficiente para encontrar padres no Big Data, geralmente
impossvel entender como o sistema chega s suas concluses. O processo de aprendizagem
matematicamente muito complexo, e muitas vezes no h como traduzir isso em algo que
uma pessoa entenderia.

Recentemente, um grupo de pesquisadores do Facebook desativou mquinas com Inteligncia

Artificial que desenvolveram uma linguagem prpria para se comunicar, por meio de algoritmos
complexos e ininteligveis para os humanos. Embora os defensores da IA minimizem o ocorrido,
como sendo apenas uma discusso boba entre dois bots (robs em formato digital) que
estavam negociando pela teoria dos jogos, o fato , por si s, bastante simblico.

3
Este ano, um bot de inteligncia artificial do Google superou o melhor jogador de Go do mundo.
E a ltima novidade, um outro bot de IA, desenvolvida pela OpenAI, cofundada por Elon Musk,
venceu os melhores jogadores de Dota2 em partidas individuais. Por conta disto, Musk voltou a
criticar a expanso desregrada da IA e disse que a IA mais perigosa que a Coreia do Norte. Ele
receia o potencial militar do uso da Inteligncia Artificial.

Estes alertas deixam claro que, no futuro, Robs sapiens podem ter memria e capacidade
cognitiva potencialmente muito maior do que o crebro humano e podem nos deixar para trs,
servindo apenas para aumentar as desigualdades sociais e aumentar o poder blico das grandes
potencias. Para o bem ou para o mal, os alunos podem ultrapassar os seus mestres!

Assim, o potencial dos robs sapiens enorme e o potencial militar ainda maior. Ao mesmo
tempo, aumenta a possibilidade de perda de controle e de erros que podem ser desastrosos.
Nas situaes de conflito, os ganhos operacionalizveis devero influenciar a anlise da
equao, custo (mal) versus benefcio (bem), e podero deixar de lado quaisquer idealismos
morais. Alm do que, como os conceitos de bem e de mal so relativos e variam conforme o
interesse prprio de quem assassina ou assassinado, a utilidade dos robs sapiens de uso
militar deve favorecer as grandes potncias, especialmente em situaes de confrontos blicos.
Os generais, provavelmente, vo defender o uso de robs sapiens assassinos como forma de
salvar as vidas humanas de suas tropas.

A lgica da guerra terrvel. A tica da convico poder ser facilmente suplantada pela tica
da responsabilidade. Os interesses mesquinhos da racionalidade instrumental podem
prevalecer no imprio da lgica consequencialista maquiavlica. Na Segunda Guerra Mundial, o
poder da potncia emergente criou o primeiro supercomputador (ENIAC) e lanou duas bombas
atmicas, em Hiroshima (06/08/1945) e em Nagasaki (09/08/1945).

Hoje, os perigos so outros. Artigo de Musgrave e Roberts (14/08/2015) mostra que a

reformulao de um rob com Inteligncia Artificial para fins destrutivos mais fcil do que
reutilizar um reator nuclear. Por isto, eles pedem a proibio internacional de armas com IA,
assim como h proibio de armas qumicas, biolgicas e nucleares.

Por exemplo, Mark Gubrud, pesquisador do Programa sobre Cincia e Segurana Global da
Universidade de Princeton, nos Estados Unidos, luta pela criao de regras para o controle de
armas robticas autnomas h mais de duas dcadas. Ele membro do Comit Internacional
para o Controle de Armas Robticas (CICAR), um grupo de ativistas, acadmicos e intelectuais
do mundo todo que tenta conseguir a proibio do uso de robs que podem matar sem a
interferncia humana (Cosoy, 08/02/2014). Essa a realidade cada vez mais presente.

O mundo teve muitas guerras nos ltimos 500 anos. No sculo XXI, provavelmente, no ser
diferente. Como mostra o professor de Harvard, Graham Allison, no livro Destinados para a
Guerra: Podem EUA e China Escaparem da Armadilha de Tucdides?, sempre existe um risco de
conflito quando um poder emergente desafia o poder estabelecido. No por outra razo que
a China anunciou um plano nacional de desenvolvimento de inteligncia artificial (IA) e est
investindo US$ 60 bilhes para se tornar lder mundial em IA, at 2025, especialmente no setor
de tecnologia blica. Enquanto isto, Donald Trump corta recursos dos programas sociais e
aumenta o oramento anual de defesa americano para US$ 600 bilhes.

Na fico Robopocalypse, Daniel Wilson (2011) descreve uma revolta de robs, controlados
por uma inteligncia artificial infantil (no tem relao com o atual presidente dos EUA e nem
com Kim Jong-un na Coreia do Norte), embora massivamente poderosa, conhecida como

4
Archos, que controla uma rede global de mquinas que se torna um inimigo implacvel e mortal
da humanidade. Ele diz: No futuro prximo, num momento que ningum vai notar, toda a
deslumbrante tecnologia que funciona a nosso favor se unir e se virar contra ns.

Na realidade atual do mundo concorrencial, os avanados robs sapiens assassinos - criados

pela juno das tecnologias da robtica, da ciberntica, da Realidade Aumentada (RA) e da
Inteligncia Artificial - j devem estar sendo delineados, ou nos laboratrios dos mopes
discpulos do Dr. Victor Frankenstein ou nos esconderijos supersecretos das potncias militares.

O Armagedon global pode estar sendo gestado pelas foras de fragmentao que colocam em
rota de coliso o universo corporativo e militar, interessados no aprofundamento da Revoluo
4.0, mas que se preparam para a guerra diante de uma governana internacional e multilateral
cada vez mais desigual, inqua e conflituosa.

Referncias:
Zach Musgrave and Bryan W. Roberts. Humans, Not Robots, Are the Real Reason Artificial
Intelligence Is Scary. Intelligent weapons are too easily converted by software engineers into
indiscriminate killing machines. AUG 14, 2015
https://www.theatlantic.com/technology/archive/2015/08/humans-not-robots-are-the-real-
reason-artificial-intelligence-is-scary/400994/
Daniel H. Wilson. Robopocalypse: A Novel, Doubleday, 2011
Will Knight. The U.S. Military Wants Its Autonomous Machines to Explain Themselves, MIT,
14/03/2017 https://www.technologyreview.com/s/603795/the-us-military-wants-its-
autonomous-machines-to-explain-themselves/
Natalio Cosoy. Grupo de cientistas nos EUA quer proibio de 'robs assassinos', BBC,
08/02/2014
http://www.bbc.com/portuguese/noticias/2014/02/140207_especialista_robos_assassinos_fn
Andrew Tarantola. Will we be able to control the killer robots of tomorrow? Engadget,
25/07/2017 https://www.engadget.com/2017/07/25/will-we-be-able-to-control-the-killer-
robots-of-tomorrow/

Jos Eustquio Diniz Alves

Doutor em demografia e professor titular do mestrado e doutorado em Populao,
Territrio e Estatsticas Pblicas da Escola Nacional de Cincias Estatsticas - ENCE/IBGE;
Apresenta seus pontos de vista em carter pessoal. E-mail: jed_alves@yahoo.com.br