2/8/2015 StephenHawking:Cuandolosrobotstomenelmandoyhaganlaguerra|Opinin|ELPAS

http://elpais.com/elpais/2015/08/02/opinion/1438542120_220256.html 1/1

JAVIER SAMPEDRO 3 AGO 2015 - 00:00 CEST

OPININ

EL ACENTO

Cuando los robots tomen el mando y hagan la guerraLa carta firmada y presentada en Buenos Aires por Stephen Hawking y varios cerebros de la inteligencia artificial,

es una seal ntida de la gran preocupacin que el asunto suscita entre la lite cientfica

Archivado en: Cientficos Isaac Asimov Robtica Gente Tecnologa Informtica Ciencia Sociedad Industria

Laprimerareflexinabarcadorasobrelacoexistenciaentrelosrobotsyloshumanosnofueobradeuncientficodelacomputacinnideunfilsofotico,sinodeunnovelista.IsaacAsimovformullastresleyesdelarobticaquedeberanincorporarseenlaprogramacindecualquierautmatalobastanteavanzadocomoparasuponerunpeligro:Nodaaraloshumanos,obedecerlessalvoconflictoconloanterioryautoprotegersesalvoconflictocontodoloanterior.LastresleyesdeAsimovconfiguranunapropuestaslidayautoconsistente,ycuentanconapoyoentrelacomunidaddelainteligenciaartificial,quereconoce,porejemplo,quecualquiersistemaautnomofuncionaldebesercapazdeautoprotegerse.

PeroesmuyprobablequeAsimovpecaradeingenuo.Bastaeliminarlaprimeraley(ylossalvoconflictoconloanterior)paraconvertiraunrobotenuncarniceroimplacableybrutal,unasesinodeaceroysilicioidealparaasesinarallderinconveniente,fumigaralaetniadefectuosa,subyugaralapoblacininoportuna.Ynoestamoshablandode2050,sinodeunpardeaosotres,laclasedeplazodelaquesiempreseolvidanlosescritoresdecienciaficcin.Losmismossistemasinteligentesquellevanltimamenteloscoches,unidosaunsistemaartificialdeaprendizajetctico,comoelqueyahadesarrolladoGoogleDeepMind,parafabricarunenjambrederobotsquerastreeunaciudadhastaelltimorincndelaltimahabitacinyelimineatodoloqueinterpretecomounenemigo.Deformaautnoma,sinningncontrolhumano.Sonlospropiosrobotsquienesseleccionansusobjetivos:quienesdecidenaquinasesinaryloasesinan.

Lomsfcilesempezarahacerchistessobreesto,ylasredessocialesyloshumoristasdelatelenosabrumarnconellosdurantemesesyaosporvenir,peroelasuntotienemuypocagracia.Lacartafirmadapormilcientficoscontralosrobotsmilitaresautnomos,presentadalasemanapasadaenBuenosAiresporStephenHawkingyvarioscerebrosdelainteligenciaartificial,esunasealntidadelagranpreocupacinqueelasuntosuscitaentrelalitecientfica.Algunosdeelloslohancalificadocomolatercerarevolucinenelartedelaguerra,traslaplvoraylabombaatmica.Yrecordemosqueloschistessobrelabombaatmicaseacabaronen1945.

Lospromotoresdelainiciativaaseguranqueestaactituddeprecaucinseestextendiendodeformaeficazentreloscientficosdelacomputacinylarobtica.ComoyalespasalosfsicosnuclearestraslaIIGuerraMundial,yalosbilogosmolecularesenlosaossetenta,losrobticossehandadocuentadequelasinmensasposibilidadesdesucienciaabrenunosnomenosenormescaminosparalaguerra,elterrorismoyladestruccin.

Ycreenestaratiempodepararlo.Siemprehayquecreerenalgo.

EDICIONESELPASS.L.