Autores:
Telfono: 314-861-28-35
E-mail: camilouribeposada@gmail.com
Telfono: 300-282-84-74
E-mail: raulrevelo24@gmail.com
Telfono: 320-638-38-73
E-mail: villajs91@gmail.com
1
AUTOMANA
UNA REFLEXIN SOBRE EL FUTURO DE LOS SISTEMAS AUTNOMOS DE
ARMAS LETALES
Technology has long been involved in human relationships and its latest advancements
have proved nothing short of astonishing. We have come to rely on it for everyday
activities, sometimes without even realizing it. Many of these artifacts, the idea of which
was inconceivable by previous generations, were brought on by the need to gain a warfare
edge. Global Positioning Systems (GPS), the Internet, and Lethal Autonomous Weapon
Systems (LAWS) are perfect examples that forever changed the course of humanity.
These have not come without controversy, however. LAWS, for instance, are the topic of
heated discussions between those who think they are necessary and those who affirm that
developing them is a big mistake. Colombia is in the middle of an irregular or fifth
generation warfare. The characteristics of this conflict, which are not unique to Colombia,
pose an additional challenge to the development of lethal artificial intelligence weapons.
La situacin actual
1 Cor., 13, 12
Todos los das omos hablar acerca del desarrollo tecnolgico. No son pocos los
que disfrutan alabando el progreso de la humanidad. Aseguran que nuestra
especie nunca antes haba logrado almacenar, procesar y analizar tanta
informacin. Dicen que tenemos al alcance de la mano un universo informtico, en
donde hay datos veraces, oportunos y acertados, y tambin datos probables (bien
o mal) respaldados por la evidencia, y datos simblicos o ficticios. Los datos
son, pues, nuestro pan de cada da.
2
Segn estos optimistas, no estamos demasiado lejos de la comunin de los
espritus, pues hoy contamos con medios virtuales que nos permiten conocer,
siempre y en todo lugar, los gustos, aficiones e inclinaciones ajenas; medios que
nos brindan la posibilidad de compartir y disfrutar con los dems nuestras
experiencias, convicciones y deseos. Para ellos, la tecnologa nos ha permitido
conectarnos mejor con el entorno y enfrentar con superioridad sus desafos y, por
lo tanto, nos ha llevado a ser mejores seres humanos: ms capaces, ms
poderosos: mejor informados.
3
evento histrico es tarea de Wikipedia. Si no fuera por Waze o por Google Maps,
muchos no encontraran su destino. El deporte ya no es una cuestin nicamente
de salud y bienestar; es una forma de medirse con los dems mediante Strava.
Shazam les informa a los que no tienen odo musical o a quienes nunca han
tenido o ya no tienen memoria cul tema estn escuchando. Muchos mueven sus
cuerpos como autmatas en fiestas electrnicas, controlados desde la consola del
DJ. Somos, a juicio de estos escpticos, descorteses, distrados, inseguros,
desmemoriados, ignorantes, desubicados y tecnodependientes.
4
la propagacin de las terminales mviles, el protagonismo de las redes sociales, el
advenimiento de la computacin en la Nube, la casi ubicuidad de Internet y la
emergencia, como corolario de todo lo anterior, del complejo fenmeno conocido
como Big Data han transformado el modo en el que conocemos el mundo, han
alterado nuestra manera de interpretar y explicar la realidad, y hemos llegado a
presumir que sabemos ms que antes. Inclusive nos atrevemos a proponer una
visin posible sobre el porvenir. Hay que reconocer, por supuesto, que an son
muchos los excluidos del mundo de la informtica y de las telecomunicaciones.
Son demasiados. Sin embargo, hay agentes del cambio, como Mark Zuckerberg e
internet.org, que consagran esfuerzos notables e ingentes recursos para cambiar
la situacin, ofrecindoles conexin gratuita a la Red a los ms necesitados.
Ms all, pues, de las dos percepciones extremas a las que nos hemos referido
antes, la de quienes tienen esperanza en un mundo mejor, en virtud de nuestro
progreso tcnico, y la de quienes vislumbran serias amenazas, si las cosas en
5
este campo siguen como van, la tecnologa se ve impulsada hoy, como en otras
pocas, por dos fuerzas, a veces concurrentes, otras veces paralelas y en
ocasiones opuestas: el afn de perfeccionar el mecanismo automtico de los
artefactos y la ambicin de implementar la autonoma en entidades artificiales.
6
Hay igualmente otros movimientos en el sector de las empresas de tecnologa que
nos invitan a pensar en la injerencia futura de la inteligencia artificial y de otro
campo de la tcnica: la robtica, cuyas seales tangibles y cotidianas no son an
tan obvias como nos lo haban hecho creer las ficciones y fantasas que vienen
forjndose desde hace casi un siglo. Nos referimos a las cuantiosas y recurrentes
inversiones que Google, primordialmente a travs de su iniciativa Google X, ha
efectuado para adquirir, desde 2012, 6 importantes compaas estadounidenses e
inglesas en el campo de la inteligencia artificial, el procesamiento de lenguaje
natural y el aprendizaje profundo de las mquinas (deep learning o machine
learning), para identificar caras, voces, gestos y objetos. Como complemento
material de lo anterior, desde diciembre de 2013 Google ha adquirido 7 compaas
de Estados Unidos y Japn dedicadas al diseo y a la fabricacin de robots y
partes robticas (Google). Adicionalmente haciendo realidad la fantasa de Isaac
Asimov que, en su cuento Sally (Asimov), publicado en 1953, vislumbr que en
2015 habra carros que se conduciran solos en Google no ocultan su orgullo
cuando le ensean al mundo su tierno vehculo automotor, en forma de cpsula,
que no necesita conductor para llevar a los pasajeros a su destino (Youtube).
Los cuentos sobre los robots probablemente tienen como origen una misma leyenda
principal, ya que el tema general es el mismo. Los robots fueron diseados, luego
crecieron en nmero y habilidades casi al estatus de lo sobrehumano. Ellos amenazaron a
la humanidad y fueron destruidos () Siempre debe de haber existido el miedo de
encontrarse a otras y superiores inteligencias.
7
sus esclavos, si las herramientas pudiesen en virtud de una orden recibida o, si
se quiere, adivinada, trabajar por s mismas (Aristteles, 1989, 25, 26). En la
modernidad, obsesionada con la razn, con la precisin matemtica y con el
funcionamiento programado de ciertos mecanismos, como el reloj, los autmatas
no solo fueron objeto de teorizaciones y de historias de ficcin, sino que incluso
llegaron a ser construidas figuras con forma humana capaces de ejecutar tareas
relativamente complejas (Lesterfontayne).
Pese a que muchas veces usamos la palabra autmata y el vocablo robot como
trminos intercambiables, robot ingres oficialmente a la cultura occidental (para
ser posteriormente adoptado y adaptado por la cultura japonesa) con la obra
teatral estrenada en 1921 Robots Universales Rossum o R.U.R., del dramaturgo
checo Karel apek. Sin entrar aqu a describir su argumento, apek represent
sobre las tablas una historia en la cual los robots, sujetos genticamente
diseados para asemejarse a los seres humanos, pero librados de voluntad,
deseos, sentimientos e intenciones, eran producidos en serie para asumir
mltiples labores en las oficinas, en las fbricas, en los campos, en las minas, en
los campos de batalla. No podemos olvidar que el trmino acuado por apek
estaba inspirado en la palabra checa robota, que significa trabajo forzado. El
8
nuevo concepto tambin estaba relacionado con robotnik, campesino obligado a
ejecutar esa clase de trabajo.
Durante todo el siglo XX y en los 15 aos que llevamos del XXI el arte, la literatura
y el mundo del entretenimiento han usado, una y otra vez, personajes robticos.
Asimismo, como en Tiempos Modernos de Chaplin, no han sido pocos los que han
denunciado o caricaturizado la robotizacin o automatizacin de los seres
humanos. Son muchas las pelculas y los libros protagonizados por robots. Entre
los primeros clsicos hay que mencionar la clebre Metrpolis de Fritz Lang. Entre
los nuevos clsicos se destaca Terminator. Pese a la gran variedad de
diferencias apreciables entre las distintas historias, muchos de estos relatos
comparten un comn denominador: el miedo de la gente a entidades artificiales
dotadas de capacidades fsicas o intelectuales superiores a las humanas.
1
La traduccin al espaol es el producto del servicio de traduccin de Google, incorporado hace
algunos meses a su pgina principal de bsqueda. En ingls, la serie fue traducida como Real
Humans.
9
su txica y sutil dosis de humor negro, Black Mirror (Espejo Negro) del realizador
ingls Charlie Brooker, que sali al aire en el canal britnico Channel 4 en
diciembre de 2011 y hasta la fecha ha producido 2 temporadas de 3 captulos
cada una y un especial de navidad en 2014. Black Mirror especula con las
siniestras consecuencias de las nuevas tecnologas en un futuro verosmil y muy
prximo a nuestro tiempo. Adems, si bien su trama no gira propiamente en torno
a la robtica, no podemos dejar de referirnos aqu a TARS, el robot sarcstico del
ltimo largometraje de Christopher Nolan: Interestelar (2014).
10
tiempo, por lo menos 30 o 50 aos, para que esta realidad se materialice, pero
unos y otros concuerdan en que es un hecho que tarde o temprano ocurrir.
Los Sistemas Autnomos de Armas Letales, S.A.A.L., que, por una irona del
destino, reciben el acrnimo L.A.W.S. en ingls (Lethal Autonomous Weapons
Systems) y que los crticos y escpticos prefieren llamar robots asesinos o robots
autnomos letales (Stop Killer Robots), han sido el objeto de varias reuniones en
Ginebra, en mayo y noviembre de 2014 y en mayo de 2015, entre decenas de
pases signatarios de la Convencin de la ONU acerca de Ciertas Armas
Convencionales que pueden ser consideradas Excesivamente Perjudiciales o
tener Efectos Indiscriminados, conocida generalmente como la Convencin sobre
Ciertas Armas Convencionales y adoptada el 10 de octubre de 1980 (Unog). Estas
reuniones han sido, en parte, el resultado de la presin constante de ONGs, como
Stop Killer Robots y Human Rights Watch. La primera sesin, en mayo de 2014,
se celebr por peticin de Christof Heyns, Relator Especial sobre las ejecuciones
extrajudiciales, sumarias o arbitrarias de la ONU, que, en su informe del 9 de abril
de 2013, inst a los Estados signatarios de la Convencin sobre Ciertas Armas
Convencionales a congregarse y discutir sobre el tema (United Nation).
El documento tambin seala que los detractores de los S.A.A.L. pretenden que
se prohba preventivamente el desarrollo, fabricacin, comercializacin y puesta
en funcionamiento de los robots asesinos antes de que esta tecnologa adquiera
11
plena forma. En su apoyo, los crticos de los S.A.A.L. citan el precedente del lser
cegador, prohibido el 13 de octubre de 1995, a travs de la adicin del Protocolo
IV a la Convencin sobre Ciertas Armas Convencionales.
Los que sostienen esta posicin creen que existen serias limitaciones para que los
agentes robticos letales se guen por los principios del Derecho Internacional
Humanitario, como la distincin, la proporcionalidad y la precaucin en el ataque,
lo cual, en la prctica, significa que un sistema autnomo de armas letales no
estara en condiciones de determinar, en muchos casos, si un sujeto seleccionado
como un blanco potencial es un no-combatiente o un combatiente y, en caso de
que logre determinar que en efecto se trata de un combatiente, no estara
facultado para distinguir, en una gran cantidad de situaciones, si este es amigo o
enemigo. Esto, por supuesto, se traducira en la muerte de muchas personas
inocentes o que no deberan morir. En cuanto a la proporcionalidad, los que se
oponen a los S.A.A.L. afirman que, bajo ciertos supuestos, es muy probable que
las reacciones de estos ingenios a las acciones de sus adversarios fueran
excesivas, acabando con la vida de los combatientes enemigos cuando hubiera
bastado con herirlos, o hirindolos, cuando hubiera sido suficiente con capturarlos.
En lo que respecta a las precauciones en el ataque, quienes se oponen a los
robots asesinos advierten que estos careceran de la capacidad de tomar los
cuidados que les son exigibles a los combatientes por el DIH para evitar
ocasionarle daos incidentales a la poblacin civil. Por fuera del campo del D.I.H,
pero tambin como un riesgo significativo derivado de su implementacin, los que
se oponen a los robots asesinos advierten sobre sus vulnerabilidades:
principalmente fallas tcnicas, hacking y malware.
Sin embargo, quiz la crtica principal que dirigen los detractores de los S.A.A.L. a
su uso en el campo de batalla es su falta de responsabilidad, as como la
consecuencia lgica que de ello se sigue: la imposibilidad de castigarlos y de
obtener de ellos una reparacin, de cualquier ndole, para sus vctimas. De otra
parte, tambin es altamente complejo delimitar la responsabilidad civil de quienes,
12
de una u otra forma, tienen relacin con el sistema autnomo. De hecho, si un
S.A.A.L. acaba con la vida de un individuo inocente, quin sera civilmente
responsable: el fabricante, el programador, el militar a cargo de la misin, el
ejrcito propietario del robot?
Privados de consciencia, aaden los crticos de los robots asesinos, estos agentes
autnomos letales tampoco seran responsables desde un punto de vista tico.
Carentes de humanidad, sus acciones estaran exentas de cualquier tipo de
clemencia o compasin: literalmente un S.A.A.L. sera una inmisericorde mquina
diseada para matar. Aseguran tambin que, si un Estado tuviera ejrcitos de
robots y no de personas, la decisin de ir a la guerra sera tomada ms a la ligera,
pues las bajas humanas no seran un impedimento para emprender acciones
blicas y, por consiguiente, el nico factor que determinara esta decisin, aunque
hoy en da es el fundamental, sera el dinero. Por todas las razones anteriores, los
enemigos de los S.A.A.L. exigen su prohibicin preventiva y conminan a todos los
gobiernos del mundo a que siempre haya una participacin humana en la
ejecucin de acciones letales.
Desde la otra orilla, los defensores de esta tecnologa aducen a su favor una
variedad de argumentos. El primero es el hecho de que este es un campo que an
desconocemos en su justo alcance, puesto que todava no existen en el mundo
armas plenamente autnomas. Por lo tanto, prohibir preventivamente este fecundo
terreno de la investigacin tecnolgica y militar frenara las opciones que tiene la
humanidad para defenderse de manera eficiente y eficaz de amenazas contra la
paz, el orden y la seguridad. El segundo argumento, alineado parcialmente con el
anterior, asegura que, si bien esta tecnologa apenas est en ciernes, desde ya es
posible vislumbrar los beneficios militares, econmicos y polticos derivados de su
implementacin. Un sistema autnomo dotado de sensores refinados, superiores a
los sentidos humanos en su precisin y alcance, y compuesto de piezas blindadas
o, por lo menos, altamente resistentes a impactos de bala, a golpes y a
explosiones, sera un instrumento idneo para participar en la guerra.
13
Un tercer argumento, en el mbito de las emociones y las afecciones humanas, en
favor de los S.A.A.L., seala que como estos dispositivos blicos no sienten ni
miedo, ni rabia, ni dolor, ni deseos de venganza, sus acciones militares seran
fras y calculadas, proporcionales y acertadas; no habra lugar al error humano.
Los S.A.A.L., segn sus defensores, seran muy tiles y convenientes para evitar
toda la serie de atrocidades que se ven en medio de la guerra y que se derivan
precisamente de la sevicia que caracteriza a muchos individuos en escenarios de
conflicto: vandalismo, desplazamiento forzado, despojo, torturas, masacres,
empleo indiscriminado de minas antipersonales, violaciones y agresiones
sexuales.
14
Hay que recordar que el control humano significativo es la frmula que proponen
varios pases signatarios de la Convencin sobre Ciertas Armas Convencionales,
entre ellos Estados Unidos. Habr que esperar si el aparente compromiso para
evitar que las mquinas asuman el control sobre la vida y la muerte no resulta al
final inaplicado, mediante el uso de tecnicismos legales, o abiertamente
transgredido por el curso mismo de la historia actual, que parece dirigirse
irreversiblemente hacia la automatizacin de la guerra y de la existencia.
15
tecnologas de la informacin y las comunicaciones, hoy nos permiten apreciar
casi en tiempo real los efectos de las nuevas tecnologas en el campo blico. As,
por ejemplo, a principios de 2010 la empresa japonesa Suidobashi Heavy Industry
empez a trabajar en el robot KURATAS; valorado en unos 1,3 millones de
dlares, pesa 4 toneladas, mide 4 metros de altura, y dispone de 4 patas con
ruedas controladas por control remoto, a travs de la red 3G o por una persona
dentro de la cabina del piloto. Como si de un anime se tratara, esta mquina se ha
convertido en la representacin de todos los imaginarios postapocalpticos de las
pelculas, comics y en general de la ciencia ficcin.
Con las recientes guerras de Estados Unidos, las armas han adquirido un nuevo
grado de precisin y autonoma. Los denominados UAV (Unmanned Air Vehicles)
o vehculos areos no tripulados han generado una nueva forma de desarrollar la
guerra. Mejor conocidos como drones, estos sistemas, segn el Ejrcito de los
Estados Unidos, se definen como aquellos vehculos terrestres, navales o
aeronuticos, que se controlan a distancia o de forma automtica y que se
emplean tanto en usos militares como civiles. Su principal caracterstica es que no
llevan ningn humano a bordo (Aguiar). Prueba de ello son los modelos Talon y
16
S.W.O.R.D.S. Los robots Swords son el desarrollo del modelo Talon combinado
con el sistema de teledireccin de armamentos Trap y han sido fabricados por la
empresa Foster-Miller, de Massachusetts (Perea), y el modelo ms reconocido en
el panorama blico areo como es el General Atomics MQ-9 Reaper tambin
conocido como Predator, usado como vehculo areo de combate no tripulado, el
MQ-9 es el primer UAV de ataque diseado para vigilancia de larga duracin y de
gran altitud.
17
sumado con el GPS, el apoyo de ordenadores y los nuevos materiales han
significado un mximo de eficiencia operativa y un ndice de resultados muy
superior.
18
enemigo que se acerca y al mismo tiempo activar el sistema que convierte al PAK-
FA en invisible, que junto con el cmputo ponderado hace pensar que el avin es
inteligente. En combate, cada uno de los aparatos de este modelo, realizar las
funciones de los ojos, los odos y la fuerza de asalto de todo un ejrcito areo,
segn estipula la doctrina de 'campo ntegro' de combate desarrollada por los
militares rusos. (RT)
19
ltima como un concepto que dispersa la forma como se identifica a los
combatientes y en donde la primera lnea de lucha radica en la poblacin civil
(Grautoff, 12 de junio de 2007).
20
favor, al hacer que las fuerzas armadas regulares legtimas se vean obligadas a
actuar de forma irregular, poniendo a los ciudadanos en contra del orden
establecido.
Estas formas de combate han sido posibles gracias a los avances de la tecnologa
y al poder de los medios de comunicacin sobre la opinin pblica. Hoy por hoy,
las tecnologas son la fuente de poder ms relevante en el plano blico e
ideolgico; las desigualdades existentes entre los ejrcitos legtimos y los grupos
insurgentes ya no son consideradas como elementos de la victoria, sino que son
los avances de la tecnologa y la comunicacin los que realmente contribuyen a la
victoria.
21
mtodo de combate con el fin de capturar los recursos del enemigo. Sus tcnicas
son agresivas. El ataque sorpresa, la disposicin de campos minados, las
infiltraciones, espionaje y uso de informantes civiles les permiten a estos grupos
armados mantener la guerra de manera indefinida, pues la respuesta de los
ejrcitos regulares es insuficiente ante estas tcticas. Los modelos de accin,
como ocupaciones, paros de trabajadores, desplazamientos, expropiaciones,
liberacin de prisioneros, ejecuciones, secuestros, sabotajes, terrorismo y
propaganda armada, son sistemas que usan como guerra psicolgica y de
nervios. La poblacin civil no insurgente, en la mayora de los casos, se vuelve la
peor enemiga de los gobernantes.
En Colombia, las Farc, el ELN y las Bacrim suponen un reto militar importante. La
poca en la que se ubica el mayor recrudecimiento ocurri entre 1988 y 2003,
pero es en la segunda mitad de la dcada de 1990 cuando se presenta la mayor
degradacin del conflicto, debido a que se generalizan las tomas armadas de
poblaciones, las desapariciones forzadas, las masacres indiscriminadas de civiles,
el desplazamiento forzado masivo y los secuestros colectivos de civiles, militares y
polticos; el pico de este recrudecimiento se presenta durante la presidencia de
Andrs Pastrana y el gobierno de lvaro Uribe, cuando confluyen el accionar del
Estado, guerrillas, grupos de narcotraficantes y paramilitares.
22
Para contrarrestar esta amenaza, Colombia cuenta con 268.160 soldados
conformados por 228.226 efectivos del ejrcito, 32.056 efectivos de la marina y
7.878 efectivos de las fuerzas areas, segn el informe de la Red de Seguridad y
Defensa de Amrica Latina (Redsal) de 2014. De acuerdo con este informe, el
presupuesto para ese mismo ao fue de US$8.416.388.574, equivalentes a ms o
menos 16 billones de pesos. De este modo, el conflicto armado ha situado a
Colombia como el segundo pas con ms presupuesto asignado para la defensa,
despus de Brasil.
23
Por otra parte, el soldado debe aprender a vivir con las dificultades propias del
entorno. Aprender a manejar la fuerza de manera gradual. Debe disuadir,
persuadir, usar la fuerza no letal y por ltimo ser letal. Debe soportar
enfermedades como la leishmaniosis, el dengue, las heridas producto del
combate, la muerte o la rabdomilisis. Si llegare a caer en manos del enemigo,
deber soportar torturas, privacin del sueo, falta de comida o agua, maltrato
psicolgico o incluso peligros propios de las selvas colombianas como son los
animales venenosos o constrictores.
Las violaciones al DIH o DDHH son peligros a los cuales pueden verse expuestos,
y ms cuando sus enfrentamientos son contra milicias irregulares, pues como se
dijo antes, los insurgentes presionan a la fuerza pblica en el terreno y los llevan a
cometer acciones ilcitas o irregulares, con el objetivo de destruir su imagen ante
la comunidad civil. Al final de su carrera, en algunos casos, los soldados debern
sobrellevar el estrs postraumtico, las tendencias al suicidio y al homicidio.
Casos como el colombiano son los que le permiten a los protectores de los
S.A.A.L defenderlos y argumentar que son necesarios y debemos permitir su
desarrollo para evitar que ocurran ms cuestiones similares. Ser que estos
nuevos sistemas de combate autnomos de gran poder podrn ser aplicados sin
poner en riesgo la vida de inocentes? Los nuevos enemigos ya no se visten solo
de camuflado, ahora los campos de batalla son en medio de las selvas de
concreto, con escudos inocentes, que solo se diferencian de los insurgentes por
estar en el lugar equivocado.
Es por esto que, como dice Van Creveld, los conflictos asimtricos requieren de un
orden jurdico propio, porque lo que existe no se acopla a este tipo de
conflagraciones. Sostiene adems que para combatir en conflictos de mediana y
baja intensidad, el Estado se ver obligado a celebrar acuerdos que permitan
emplear procedimientos similares a los que practican los irregulares. La no
24
regulacin del conflicto elimina la lnea combatiente y poblacin civil (Grautoff, 12
de junio de 2007). Extendiendo esta recomendacin, el uso de los robots
autnomos letales supone la necesidad de un orden jurdico propio. Los niveles de
poder militar han convertido al conflicto en escenarios desprovistos de un orden y
unos lmites jurdicos que permitan trazar una clara lnea entre las ejecuciones de
la guerra y los accidentes civiles producto de la asimetra de las nuevas guerras.
Las anteriores reflexiones dejan abiertos, pues, varios interrogantes, entre los que
cabe destacar los siguientes: hasta qu punto las nuevas tecnologas (robots
asesinos) podrn remplazar al soldado humano? Podrn expedirse normas
internacionales y/o nacionales en este nuevo campo militar? Podr impedirse la
creacin de robots autnomos letales? Estas sern solo algunas de las preguntas
que vendrn en el futuro y que son motivo de preocupacin. Ms aun dentro del
panorama colombiano, en el que el estado normal de las cosas es el conflicto
25
armado interno y en donde no hay reglas claras de juego y el panorama cambia
da a da.
26
Conclusiones:
27
Un terreno controversial que caracteriza muchos de los conflictos
contemporneos es el de las llamadas guerras irregulares o guerras de
cuarta generacin, en las cuales, es muy difcil, en gran cantidad de
situaciones, distinguir a los combatientes de los civiles. Aqu la
implementacin de los robots asesinos es materia de nuevas y ms
voltiles discusiones. Colombia es un claro ejemplo (aunque evidentemente
no el nico) de este tipo de guerras y por eso es pertinente pensar en las
consecuencias del uso de esta clase de armas autnomas en nuestro pas.
Ser que la humanidad requiere de este tipo de armas, que pueden llegar
a fomentar la guerra, o ser que estamos frente a un objeto del cual
podramos prescindir, ya que no nos va a representar algo positivo y, por el
contrario, sus consecuencias sern devastadoras?
28
Bibliografa
Asimov, I. (s.f.). E-READING CLUB. Obtenido de http://www.e-
reading.club/chapter.php/82060/20/Isaac_Asimovs_Worlds_of_Science_Fiction._Book_9_
_Robots.html
Engels, C. M. (s.f.). Rebelion.org. Obtenido de http://www.rebelion.org/docs/127255.pdf
Google. (s.f.). List of mergers and acquistions. Obtenido de
www.wikipedia.org/wiki/list_of_mergers_and_acquisitions_by_google?wprov=sfia1
Humans Need Not Apply. (08 de 07 de 2015). Obtenido de
https://www.youtube.com/watch?v=7Pq-S557XQU
Introduction, R. (s.f.). Math Haifa. Obtenido de
http://math.haifa.ac.il/robotics/Nov_03/introduction_6.pdf
Kurzweil, R. (2012). En R. Kurzweil, How To Create A Mind. The Secrets Of Human Thought
Revealed (pg. 336). New York: Viking.
Lesterfontayne, B. a. (s.f.). Chonday. Obtenido de http://www.chonday.com/Videos/the-writer-
automaton
Stop Killer Robots. (s.f.). Obtenido de http://www.stopkillerrobots.org/
United Nation. (s.f.). ohchr.org. Obtenido de
http://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session23/A-
HRC-23-47_en.pdf
Unog. (s.f.). Obtenido de
http://www.unog.ch/80256EE600585943/(httpPages)/4F0DEF093B4860B4C1257180004B
1B30?OpenDocument
Wikipedia. (s.f.). Obtenido de
http://en.wikipedia.org/wiki/List_of_mergers_and_acquisitions_by_Google
Youtube. (s.f.). Obtenido de https://www.youtube.com/watch?v=20cAtF8MGEA
29