2/8/2015

StephenHawking:Cuandolosrobotstomenelmandoyhaganlaguerra|Opinin|ELPAS

OPININ

EL ACENTO

Cuando los robots tomen el mando y hagan la guerra

La carta firmada y presentada en Buenos Aires por Stephen Hawking y varios cerebros de la inteligencia artificial,
es una seal ntida de la gran preocupacin que el asunto suscita entre la lite cientfica
JAVIER SAMPEDRO
Archivado en:

3 AGO 2015 - 00:00 CEST

Cientficos

Isaac Asimov

Robtica

Gente

Tecnologa

Informtica

Ciencia

Sociedad

Industria

Laprimerareflexinabarcadorasobrelacoexistenciaentrelosrobotsyloshumanosnofueobrade
uncientficodelacomputacinnideunfilsofotico,sinodeunnovelista.IsaacAsimovformullas
tresleyesdelarobticaquedeberanincorporarseenlaprogramacindecualquierautmatalo
bastanteavanzadocomoparasuponerunpeligro:Nodaaraloshumanos,obedecerlessalvo
conflictoconloanterioryautoprotegersesalvoconflictocontodoloanterior.Lastresleyesde
Asimovconfiguranunapropuestaslidayautoconsistente,ycuentanconapoyoentrelacomunidad
delainteligenciaartificial,quereconoce,porejemplo,quecualquiersistemaautnomofuncional
debesercapazdeautoprotegerse.
PeroesmuyprobablequeAsimovpecaradeingenuo.Bastaeliminarlaprimeraley(ylossalvo
conflictoconloanterior)paraconvertiraunrobotenuncarniceroimplacableybrutal,unasesino
deaceroysilicioidealparaasesinarallderinconveniente,fumigaralaetniadefectuosa,subyugara
lapoblacininoportuna.Ynoestamoshablandode2050,sinodeunpardeaosotres,laclasede
plazodelaquesiempreseolvidanlosescritoresdecienciaficcin.Losmismossistemasinteligentes
quellevanltimamenteloscoches,unidosaunsistemaartificialdeaprendizajetctico,comoelque
yahadesarrolladoGoogleDeepMind,parafabricarunenjambrederobotsquerastreeunaciudad
hastaelltimorincndelaltimahabitacinyelimineatodoloqueinterpretecomounenemigo.De
formaautnoma,sinningncontrolhumano.Sonlospropiosrobotsquienesseleccionansus
objetivos:quienesdecidenaquinasesinaryloasesinan.
Lomsfcilesempezarahacerchistessobreesto,ylasredessocialesyloshumoristasdelatelenos
abrumarnconellosdurantemesesyaosporvenir,peroelasuntotienemuypocagracia.Lacarta
firmadapormilcientficoscontralosrobotsmilitaresautnomos,presentadalasemanapasadaen
BuenosAiresporStephenHawkingyvarioscerebrosdelainteligenciaartificial,esunasealntida
delagranpreocupacinqueelasuntosuscitaentrelalitecientfica.Algunosdeelloslohan
calificadocomolatercerarevolucinenelartedelaguerra,traslaplvoraylabombaatmica.Y
recordemosqueloschistessobrelabombaatmicaseacabaronen1945.
Lospromotoresdelainiciativaaseguranqueestaactituddeprecaucinseestextendiendodeforma
eficazentreloscientficosdelacomputacinylarobtica.Comoyalespasalosfsicosnucleares
traslaIIGuerraMundial,yalosbilogosmolecularesenlosaossetenta,losrobticossehandado
cuentadequelasinmensasposibilidadesdesucienciaabrenunosnomenosenormescaminospara
laguerra,elterrorismoyladestruccin.
Ycreenestaratiempodepararlo.Siemprehayquecreerenalgo.

EDICIONESELPASS.L.

http://elpais.com/elpais/2015/08/02/opinion/1438542120_220256.html

1/1