1c.informacion de riesgos-peligros potenciales del conocimiento

8/19/2019 1c.informacion de Riesgos-peligros Potenciales Del Conocimiento

1/39

Peligros de la información: una tipología de daños potenciales delconocimiento

Nick BostromFacultad de Filosofía & Martin Oxford School dela Universidad de Oxford[Publicado en la Revista de Filosofía contemporánea, Vol. 10 (2011):págs. 44-79]www.nickbostrom.com

informaciones abstractas riesgos son riesgos que surgen de ladifusión o el potencial de difusión de información verdadera quepuede causar daño o habilitar algún agente para causar daño. Esosriesgos son a menudo sutiles de dirigir amenazas físicas y, comoconsecuencia, son fácilmente pasadas por alto. Sin embargo, puedenser importantes. Este documento se examina el terreno y propone unataxonomía.

1. IntroducciónExiste, en estos días, se mantiene la presunción en favor delconocimiento, la verdad, y el descubrimiento y la difusión deinformación. Es raro encontrar a alguien que se identifica a símisma como un obscurantista o que defiende abiertamente eloscurantismo como un legítimo instrumento de la política de ampliautilidad.Los reaccionarios raramente objeto a esta asamblea favoreciendo deinformación. Consideremos algunos especialmente creacionistaintransigente que se opone a la enseñanza de la teoría de laevolución en las escuelas públicas. Él no constituyen uncontraejemplo. Para él no cree que la teoría de la evolución es una

verdad que se oculta. Más bien, él cree que la teoría de laevolución de un error que debe ser reemplazado con información másprecisa. Por lo tanto, aunque él sucede involuntariamente ainterponerse en el camino de la verdad, él no necesita estar endesacuerdo con la afirmación de que la verdad debe ser promovido. Elcreacionista, también, es una verdad- amante, aunque uno cuyasafecciones son unreciprocated.Aunque nadie hace un breve para la ignorancia en general, hay muchoscasos especiales en los que la ignorancia es cultivado en orden, porejemplo, para proteger la seguridad nacional, sexual la inocencia,la imparcialidad del jurado; preservar el anonimato de lospacientes, los clientes, los revisores y los votantes; para crearsuspense en películas y novelas; proteger los secretos comerciales;

para medir el efecto placebo y evitar varios- 1 -

Investigación sesgos; y crear desafíos mentales para juegos yestudio. Estos casos son comúnmente aceptadas de las excepciones ala regla general de conocimientos favoreciendo.1


2/39

En el presente documento, no vamos a estar preocupados con lascríticas posmodernas de la idea de la verdad objetivani con escepticismo las dudas acerca de la posibilidad deconocimiento. Voy a asumir algunos ampliacomprensión commonsensical ac cording al que hay verdades y losseres humanos quelogran a veces conozca algunas de estas verdades.Este papel también no discutir las maneras en las cuales el dañopuede ser causado por una información falsa. Muchas de estas formasson obvias. Podemos ser perjudicados, por ejemplo, por informaciónfalsa que engaña a hacernos creer que algunos farmacéuticoscancerígenos es seguro; o, alternativamente, que algunosfarmacéuticos seguro es cancerígeno. Limitaremos nuestrainvestigación a la forma en que el descubrimiento y la difusión deinformación verdadera puede ser perjudicial.Permítanos definirinformación de emergencia: un riesgo que surge de la difusión o elpotencial de difusión de información (verdadera) que puede causardaño o habilitar algún agente para causar daño.2 Enrelación a su trascendencia y comp criados a muchos peligros físicos

directos, algunos tipos de información son excesivamente peligrodescuidado. Por lo tanto, será útil distinguir algunospeligros distintos tipos de información. Esto servirá para llamar laatención sobre algunos riesgos - daba fácilmente ynos ayudará a crear un vocabulario para discutirlas.El objetivo de este trabajo es catalogar algunas de las diversasmaneras en que la información puedecausar daño. Aquí no vamos a tratar de determinar cómo commo n yestos perjuicios graves o cómoapilar un gainst los muchos beneficios de la información-preguntasque tendrían que ser contratados antes de que se pueda llegar a unaposición estudiada sobre posibles implicaciones políticas. Cabesubrayar, sin embargo, que incluso si uno tiene un muy fuerte

compromiso intelectual a la verdad- la búsqueda y la educaciónpública, uno todavía puede legítimamente y de buena conciencia,explorar la cuestión de cómo algunos conocimientos podrían serperjudiciales. De hecho, este mismo compromiso exige que uno norehuir esa exploración o de informar abiertamente sobre lasconclusiones.

2. Seis modos de transferencia de información de

1La noción de peligrosos o conocimiento prohibido es también unametáfora común en la literatura y en muchas mitologías; véase porejemplo Shattuck 1996.2 dejamos a un lado la forma trivial en que expresiones que pueden

causar daño a través de sus funciones performativo; cf. Austin 1962.Por lo tanto, un dictador que proclama "invadir ese país!" difundeinformación que, evidentemente, puede causar mucho daño, pero novamos a contar esta posibilidad como un riesgo de la información.

- 2 -


3/39

podemos distinguir diferentes formatos de información, o "modos" dela transferencia de información. Cada uno puede estar asociada conel riesgo. Quizás más obviamente, tenemos:peligro de datos: datos específicos, tales como la secuenciagenética de un patógeno letal o un plan para hacer un armatermonuclear, difusión, crear riesgo.3Pero también:Idea de peligro: una idea general, si se difunde, crea un riesgo,incluso sin una especificación detallada ricos en datos.Por ejemplo, la idea de utilizar una reacción de fisión para crearuna bomba, o la idea de cultivar la bacteria en un medio de cultivocon un antibiótico degradado a evolucionar la resistencia a losantibióticos, puede ser toda la orientación de un desarrolladorrequiere adecuadamente preparados; los detalles pueden seraveriguado. A veces, la mera demostración de que algo (como unabomba nuclear) es posible proporciona información valiosa que puedeaumentar la probabilidad de que algún agente tendrá éxitoestablecidos para replicar el logro.Incluso si las ideas pertinentes y los datos ya son "conocidos", y

publicado en la literatura abierta, un mayor riesgo puede noobstante ser creado por señalar a la atención particularmentepotentes posibilidad.Atención de emergencia: la mera elaboración de atención algunosparticularmente potentes o ideas pertinentes o datos aumenta elriesgo, aun cuando estas ideas o datos ya son "conocidos".Porque hay incontables posibilidades para hacer daño, un adversariose enfrenta a una inmensa tarea de búsqueda en averiguar qué avenuetiene más probabilidades de lograr sus metas. El dibujo de laatención del adversario a un subconjunto de las avenidasespecialmente potente pueden facilitar enormemente la búsqueda. Porejemplo, si nos centramos nuestra preocupación y nuestro discursosobre el reto de defender contra ataques virales, esto puede ser

señal de un adversario que viral de armas como diferente de, porejemplo, explosivos convencionales o armas químicas constituyen undominio especialmente prometedor para buscar aplicacionesdestructivas. La mejor logramos concentrar nuestras deliberacionesdefensiva sobre nuestros mayores vulnerabilidades, más útilesnuestras conclusiones pueden ser a un adversario potencial.Sería un error suponer que porque una idea ya está en el dominiopúblico no puede haber daño adicional en la discusión de la idea yreferirse a ella en otras publicaciones. Tales debates ulteriorespueden crear o agravar una atención peligro por el aumento de laprominencia de la idea. Un índice de cuánto hay de kilometraje enuna idea es la cantidad "Buzz" que lo rodea.Torpes intentos de reprimir el debate a menudo contraproducente. Un

adversario que descubre un intento de encubrir una idea puedeinferir que la idea podría ser de gran valor. Los secretos tienen unencanto especial. El

3, el término "datos de peligro" también tiene un significadotécnico estricto en el contexto de procesador del equipo de diseño,que no es relevante aquí.

- 3 -


4/39

adversario puede invertir más en la comprensión y la exploración deuna idea que él sabe que su enemigo se esfuerza por mantener ensecreto. Un libro que es censurado a menudo se vuelve másampliamente leído.4Es posible que los esfuerzos para contemplar unas zona de riesgo, esdecir, riesgo existencial-hará más daño que bien. Uno podría suponerque la reflexión sobre un tema debería ser totalmente inofensivos,pero esto no es necesariamente así. Si se obtiene una buena idea,uno se siente tentado a compartirla; y al hacerlo se podría crearuna situación de peligro. Aún así, a uno le gusta creer que, engeneral, las investigaciones sobre riesgos existenciales y lamayoría de las otras áreas de riesgo tenderá a disminuir en lugar deaumentar los riesgos de su tema.A veces es derecho de daños. Si la información permite a un agentepara dañar acertadamente, esta puede ser una buena cosa; y laposibilidad de que eso suceda, por tanto, no debería ser clasificadocomo un riesgo. Por ejemplo, la policía la obtención de cierta

información podría perjudicar a algunos criminales por permitiendoque la policía lo detuviera; y esto puede ser bueno. Sin embargo,podríamos decir que desde el punto de vista penal hay un peligro deinformación. Él se enfrenta a un riesgo que su paradero se informó.No todos los tipos de transferencia de información se entiende mejoren términos de datos, ideas o atención. También podemos considerarformas implícitas de información, tales como los procesos oestructuras organizativas, que puede dar a una empresa una ventajasobre el otro, y que podrían ser imitados o replicado por uncompetidor.5 Asimismo, las personas a menudo aprenden, y forjar supropia personalidad, por "emulando" de alguna otra persona. Esaemulación puede suceder involuntariamente y aun sin la conciencia deque la emulación está teniendo lugar. Un mal modelo de rol puede

suponer un peligro de plantilla.Peligro: La plantilla de una plantilla de presentación permite modosdistintivos de la transferencia de información y así crea un riesgo.También podemos registrar como un modo distinto de la comunicaciónsocial, donde el foco de señalización no está en el contenido que setransmite sino sobre lo que este contenido y en el hecho de que secomunica-dice acerca del remitente. Acciones no verbales puedentambién cumplir una función de señalización social, si estándirigidos no sólo a la consecución de los directamente algunosresultados prácticos a los que teóricamente están dirigidas, sinotambién para señalar algunas calidad oculta del agente que realizala acción. Por ejemplo, uno podría dar limosnas a los pobres, nosólo porque uno quiere satisfacer sus necesidades, sino también

porque uno quiere ser visto por los compañeros como una personaamable y generosa. Uno podr í a pronunciar declaraciones patrióticasno sólo para transmitir al oyente la información acerca de losdistintos atributos de una nación, sino también para indicar lacondición de una persona como un ciudadano leal, o su afiliación conalguna agrupación política.La señalización de emergencia: verbales y no verbales de accionespueden indirectamente transmitir información acerca de ciertacalidad oculta del remitente, y dicha señalización social crea unriesgo.


5/39

4 Un buen ejemplo de ello es el más bien aburrida Spycatcher porPeter Wright, que se convirtió en un best-seller en la década de1980 tras Thatcher trató de prohibición; ver Zuckerman 1987.5 N Elson y Winter 199 0 y Porter 2004.

- 4 -

Algunos temas son especialmente atractivos para los crackpots. Losacadémicos serios podrían rehuir los temas tales porque temen quetrabajan sobre estos temas señales flakiness intelectual. Al menosdos peligros de señalización plantearse en este contexto. Uno deellos es el riesgo a los distintos pensadores que podrían sufrirdaño de reputación inmerecida meramente para trabajar en un área quetambién pasa a atraer muchos crackpots. Otro es el riesgo para lasociedad que áreas importantes de investigación permanecerá sincultivar porque los investigadores ablest (y sus patrocinadores)

proteger su reputación bien por evitacion aquellas áreas en favor demás socialmente aceptable, alto status campos de estudio o adoptandorelativament e menos eficaces medios de exploración, tales como elformalismo hipertrófica y costosos aparatos técnicos, que son másdifíciles para crackpots para imitar.Por último, también nos cuentan como un modo distinto de latransferencia de la información contenida en el modo particular dealgunos contenidos está formulado y expresado. Una descripciónvívida de algún evento, por ejemplo, puede activar procesospsicológicos que permanecer inactivo cuando el mismo evento serelata en prosa seca.Evocación de emergencia: puede haber un riesgo de que el modoparticular de presentación utilizada para transmitir algunos

contenidos pueden activar los estados y procesos mentalesindeseables.Cada uno de estos modos de transferencia de datos de la información,idea, atención, plantilla, señalización y evocación-pueden jugar unpapel en la creación de diversos tipos de riesgo. Los cuatroúltimos, especialmente, son fácilmente pasadas por alto.Las siguientes cinco secciones introducir otro esquema decategorización que, cuando se superponen en la división en los modosde transferencia de información, representa una imagen más fina delas formas en que la información puede ser peligroso (resumidos enla tabla 1).

Tipología de los peligros de la información de modo de transferencia

de información I. DATOS Idea peligro peligro peligro atenciónPlantilla de señalización de peligro peligro peligro evocación II.Por efecto antagónico del subtipo del tipo de riesgos competitivospeligro peligro enemigo propiedad intelectual compromiso peligropeligro sabiendo-demasiado-mucho riesgo a la norma social peligro laasimetría de la información y organización de mercados de peligropeligro inauguración reconocimiento los riesgos de irracionalidadideológica

- 5 - riesgo de


6/39

error y la distracción y la tentación de peligros peligros rolemodel polarización polarización de peligro peligro peligroneuropsicológica Información-enterrar los riesgos a valiosa reacciónpsicológica decepción Y ESTADOS Y ACTIVIDADES PELIGRO peligropeligro peligro Spoiler mentalidad creencias constituye peligro devalor (mixto) vergüenza los riesgos a partir de la información delsistema de información de la infraestructura de la información depeligro peligro de fallo de los sistemas de tecnología de lainformación el uso indebido de la infraestructura de la inteligenciaartificial de peligros LOS RIESGOS DE DESARROLLO DE DESARROLLO DEPELIGROTabla 1

3. Riesgos adversarialejemplos anteriores se centraron en situaciones en las que algunasantagónico enemigo tiene la intención de causar hacernos daño. Un

ladrón que sabe donde guardamos nuestro dinero y cuándo vamos aregresar a casa se encuentra en una posición más fuerte para teneréxito con su delito.Peligro: enemigo obteniendo información nuestro enemigo o potencialenemigo se vuelve más fuerte y esto aumenta la amenaza querepresenta para nosotros.Un contexto paradigmático de este tipo de peligro es la seguridadnacional. En el sector de la defensa, las actividades encaminadas areducir el riesgo de información enemigos van desde contador -trabajo de inteligencia para la aplicación de camuflaje para ocultarlas tropas en el terreno.Peligro enemigo depende de la existencia de información valiosa queun enemigo podría ob.

Indirectamente, por tanto, nuestras propias actividades pueden serpeligrosos si contribuyen a la producción de dicha información. Lainvestigación militar ofrece muchos ejemplos. Invertimos eninvestigación y desarrollo de nuevas armas y tácticas nuevas. Estaactividad genera información que es valiosa para nuestro enemigo.El enemigo observa nuestras tácticas mejoradas. Sus espías obtenerlos planos de nuestra tecnología mejorada. O las fugas deinformación pertinente de otras formas, tal vez en forma de ideas,atención o plantillas. Como consecuencia de ello, nuestro enemigopronto replica nuestro logro. Cuando estalle el conflicto, luchamoscontra nuestras propias invenciones.

- 6 -

estrategia racional para la investigación militar daría granconsideración a tales efectos. Los Estados Unidos, por ejemplo,podría abstenerse de perseguir agresivamente el desarrollo de armasde pulso electromagnético. Debido a que el país inusualmente fuertedependencia de la electrónica, de la existencia de armas EMP eficazsería beneficiar diferencialmente a sus adversarios.


7/39

Por el contrario, un enfoque agresivo para la investigación podríaayudar a proteger a un país contra sus enemigos.Un país podríaproseguir la investigación militar para ponerse al día con el lídertecnológico. Un líder en tecnología militar podría invertir eninvestigación con el fin de mantener su liderazgo. El líder podríamotivo por el cual, si bien sus descubrimientos finalmente se fugany beneficiar a sus enemigos, puede producir un flujo constante dedescubrimientos y mantener continuamente unos pasos adelante.Hay, sin embargo, situaciones en las que un país es mejor retardandosu progreso en la tecnología militar, aun cuando las nuevastecnologías no sería beneficiar diferencialmente a sus enemigos eincluso si consideraciones tales como costo y oportunidades perdidaspara construir confianza internacional son retiradas. Supongamos queun país tiene gran superioridad en el poder militar y la tecnologíamilitar, y como consecuencia se enfrenta poco seria amenaza.Invirtiendo fuertemente en investigación militar, que podríaaumentar su ventaja y así mejorar aún más su seguridad en ciertamedida. Sin embargo, esa inversión podría socavar la seguridad alargo plazo. La tasa de fuga de la información podría ser unafunción de la magnitud de la brecha tecnológica de tal forma que el

aumento de la brecha aumenta la tasa de fuga. Quizás los sistemas dearmas vienen en "generaciones" y puede ser infeasi ble mantenersecreto sobre más de una generación más allá del nivel del enemigo.Si es así, la introducción de las nuevas generaciones a un ritmo másrápido puede no aumentar el liderazgo tecnológico, sino que sólosirven para acelerar el ascenso de ambos países el árbol detecnología militar, quizás a niveles donde las guerras se vuelvenmás destructivo. Si ya están totalmente superior en armasconvencionales, apuro para inventar una bomba de fisión mucho antessus enemigos podían haber llegado hasta allí podría sercontraproducente. Asimismo, acelerar la introducción de la bomba defusión podría ser mala estrategia si usted podría haber sidoconfiada de superior restante en bombas de fisión.

Acelerar el ascenso del árbol de tecnología también podría ser malosi el árbol es de altura finito, de modo que en algún momento ellíder agota las oportunidades para la innovación. Algunos sistemasde armas podría alcanzar un nivel de perfección de que nuevasmejoras es difícil o imposible. (En la categoría de armas dedestrucción masiva para la utilización disuasoria, por ejemplo, labomba de hidrógeno podría representar casi un máximo.) Finalmentetodos pueden meseta a este nivel y el anterior líder perderá suventaja. A fin de mantener un liderazgo tecnológico durante el mayortiempo posible, el líder podría desear para empujar la fronteratecnológica al ritmo más lento posible que sea compatible con elmantenimiento de una acept able en cada momento hasta que se alcanzala madurez tecnológica.

La ilustración muestra cómo militares información los riesgos surgenen algunas situaciones de un partido (potenciales) de la intenciónde infligir daño a otro. Sin embargo, la información de los riesgosderivados de una relación de adversarios surgir mucho másampliamente. En situaciones competitivas, información de una personapuede causar daño a otra, incluso si no hay intención de causar dañoestá presente. Ejemplo: El solicitante de empleo rival sabía más yconseguí el trabajo.La competitividad de emergencia: Existe el riesgo de que, mediantela obtención de información, algunos de nuestros competidores sefortalecerá, debilitando con ello nuestra posición competitiva.


8/39

- 7 - la

posesión exclusiva de información es fundamental para el modelo denegocio de muchas empresas. Un competidor puede obtener informaciónvaliosa mediante la observación de los métodos de producción ycomercialización de una empresa rival, ingeniería inversa de susproductos, o headhunting sus empleados.6 Las empresas hacen grandesesfuerzos para proteger su capital intelectual, apoyándose en unaamplia variedad de métodos, incluyendo las patentes, derechos deautor, de acuerdos de no divulgación, la seguridad física, laproducción interna en lugar de outsourcing, esquemas de compensaciónque desalienten la rotación de los empleados, y así sucesivamente.Podemos identificar la amenaza a la propiedad intelectual como uncaso especial de competitividad peligro:Peligro: Una propiedad intelectual se enfrenta con el riesgo de que

alguna otra empresa B obtendrá una propiedad intelectual,debilitando a la competitiva posi ción.Otro tipo de peligro acusatorio surge cuando un agente la propiaposesión de alguna información tiene el potencial para representarla menos capaz de prevalecer en algunos situación competitiva. Paraque un chantajista para tener éxito, su destino debe creer que éltiene algunas o embarazosa incriminatorias, información que podríaamenazar a la liberación. Tan largo como el destino permaneceinconsciente, ningún chantaje puede tener lugar. Cuando ella aprendeacerca de la amenaza, que es entregado en el extorsionador clutchedel s. Asimismo, en el juego del pollo: Dos pilotos velocidad haciauno del otro desde direcciones opuestas; la primera girasebruscamente pierde. Si un conductor podría comprometerse de manera

creíble a volantazos, no iba a ganar, ya que su oponente (se supone)prefiere perder el juego de Crash. Un juego teórico participar eneste pasatiempo podía estar con los ojos vendados, impidiendo a símismo desde la adquisición de información acerca de la distanciarelativa de los dos coches, haciendo así incapaz de maniobrar deforma fiable en el último momento posible; y así convencer a su(esperemos) contrapartida racional para ceder la carretera.Compromiso de emergencia: Existe el riesgo de que la obtención decierta información va a debilitar la capacidad de uno paracomprometerse de manera creíble a algún curso de acción.Peligros de compromiso a veces son instancias del peligro delenemigo y, a veces, de los peligros de la competitividad.(Compromiso riesgos pueden surgir también en un contexto de agente

único, como veremos más adelante.) En algunas situaciones puede serventajoso realizar un análisis probabilista de la amenaza, "unaamenaza que l aleros algo al azar" en la terminología de Thomasbombardeos. 7 Una amenaza, para ser eficaz, debe ser creíble. Sinembargo, la razón para emitir una amenaza es la disuasión ex ante,no venganza ex post; y llevar a cabo una amenaza es a menudocostoso. Examinar algunas posibles medidas punitivas que es tancostosa para llevar a cabo una amenaza de hacerlo poco creíble, comoun ataque nuclear de una potencia importante en otro. Un arsenalnuclear podría ser utilizado para hacer una amenaza. Un lado puedeamenazar con que, salvo el lado B hace algunas concesiones, una


9/39

voluntad de llevar a cabo una acción que aumenta el riesgo de unaguerra nuclear. Por ejemplo, podría amenazar a iniciar escaramuzascon armas convencionales que crearía algún riesgo de escalada.Alternativamente, podrían amenazar con hacer su propio sistema demando y control nuclear menos seguro frente a un lanzamientoaccidental, por ejemplo creando una crisis y poner sus fuerzas enalerta máxima. La idea aquí es que es mucho menos costoso para unallevar a cabo una amenaza a

6 Porter 2004.7 S chelling 1981.

- 8 -

aumentar moderadamente el riesgo de una guerra nuclear que seríapara un lanzamiento realmente un ataque nuclear. La probabilista de

la amenaza puede ser, por tanto, más creíble y eficaz.Si, sin embargo, salieron a la luz nuevos datos que disipó laincertidumbre necesaria, por ejemplo, la incertidumbre acerca decómo reaccionarían los actores claves durante una crisis, entoncesla capacidad de hacer amenazas probabilísticos se vería socavada. Laposibilidad de que esa información se libera así puede constituir untipo de información de riesgo. Durante la guerra fría, la parentelaconsideraciones pueden haber llevado a los superpoderes paramantener cierta ambigüedad en sus posiciones estratégicas. Este tipode información peligro puede incluir una combinación de peligro yriesgo de compromiso enemigo.8También podemos identificar otro tipo de ri sk que puede surgir denuestro propio conocimiento cuando hay una

posibilidad de que alguien se convertirá en nuestro adversarioporque de este conocimiento:conocer-demasiado-mucho peligro: Nuestro poseer alguna informaciónque nos hace un blanco potencial u objeto de aversión.Sergeevna Nadezhda Alliluyeva, la segunda esposa de Stalin, eraconocido por tener dudas sobre las purgas del partido comunista y laconsiguiente hambruna. Tras una riña con Stalin en 1932, fueencontrada muerta en su dormitorio, al parecer después de habertomado su propia vida.9 La sui cide podría interpretarsecomo una especie de desesperada reprensión de Stalin y suspolíticas; y dado que seríapolíticamente embarazosos, la muerte fue oficialmente atribuido a laapendicitis. Los individuos que

habían descubierto el cuerpo y que conocía el verdadero uso de ca dela muerte se encuentran en grave peligro.En un posterior juicio supuestamente independientes, dos médicos quese habían negado a firmar el certificado de defunción falsofueron condenados a muerte y ejecutados.En la cacería de brujas de principios de la época moderna en Europa,una mujer de la supuesta posesión de conocimiento de lo oculto o demétodos de control de natalidad puede haberle puesto en mayor riesgode ser acusadas de brujería.10 En el genocidio perpetrado por PolPot y el Khmer Rouge, toda la clase intelectual fue programada parae xtermination. 11 Algunas culturas otorgan un gran valor a la


10/39

inocencia sexual, particularmente en las niñas, y una joven podríaencontrar sus perspectivas de matrimonio atenuada siella parece saber mucho sobre el sexo o si su educación generalprospectivo intimida

8 Si un lado sabía cómo se comportan en una crisis; y si el lado B,aunque no sepamos cómo se comportaría un pero sabiendo que sabíacómo se comportaría un; luego una podrían ser menos capaces deemitir una efectiva amenaza probabilísticos. B podría razón que sisabía que iba a lanzar un ataque nuclear en una crisis, sería menosprobable que amenazan con crear una crisis (suponiendo que B sabíaque una era incierta en cuanto a si B daría a la amenaza).Así pues,B podría inferir que si una cuestión efectivamente una amenaza paracrear una crisis, es probable que sea porque el sabía que una crisisno iba a convertirse en una guerra nuclear. Esto haría menosprobable B a ceder a la amenaza.9 Montefiore 2005.10 leva ck 1987.11 Fawthrop arvis y J 2005. En cualquier gran escala - episodiohistórico, por supuesto, es probable

que varias causas han sido implicados, posesión de peligrosas en lamayoría de los conocimientos que uno de los factores contribuyentes.

- 9 -

maridos.12 En muchas escuelas, "nerdy" a los niños que parecen tenermucho conocimiento académico están condenados al ostracismo yhostigamiento. Sabiendo-demasiado-mucho peligros, de diversos gradosde severidad, parecen surgir en muchos contextos diferentes.

4. Los riesgos para la organización social y los mercadoshasta ahora nos hemos centrado en la posibilidad de un adversarioobteniendo una ventaja como consecuencia de la información obtenidapor el adversario o a nosotros mismos. El adversario podría entonceshacernos daño deliberadamente y directamente, como en un ataquemilitar; o indirectamente y quizás inconscientemente por debilitarnuestra posición competitiva.Sin embargo, existen muchos otros tipos de información peligro. Enparticular, la información a veces puede dañar las piezas de nuestroentorno social, como culturas, normas y mercados. Tales daños puedendañar algunos agentes sin que necesariamente el fortalecimiento obeneficiando a sus adversarios ni de nadie.

Norma de emergencia: algunas normas sociales dependen de unacoordinación de las creencias o expectativas entre muchos temas; yun riesgo que se plantea por la información que pudiera perturbarestas expectativas para lo peor.Comportamiento en algún dominio determinado puede guiarse por normasdiferentes, con el resultado de diferentes equilibrios sociales serinstanciado. Y a veces se formulan normas impuestas desde arriba,con respaldo legal; por ejemplo, una norma que uno debe conducir enel lado derecho de la carretera. Pero incluso si no hubiera existidoesa ley, los automovilistas podrían haber desarrolladoespontáneamente la norma de conducción en el lado derecho, al igual


11/39

que no existe una norma de extender la mano derecha con un apretónde manos.Con respecto a qué lado de conducir, no hay beneficio intrínseco ala izquierda o a la derecha, siempre hay alguna norma clara que todoel mundo sigue. En otros dominios, sin embargo, posibles diferentesequilibrios sociales ampliamente divergentes pueden tenerconsecuencias para el bienestar humano. En una sociedad con bajosniveles de corrupción, los individuos podrían prosperar más por serhonesto, confiando, y jugar con las reglas oficiales; mientras queen una sociedad de alta corrupción, individuos tras esas estrategiasserían los retoños.La estrategia óptima para un individuo depende de las estrategiasseguidas por otros que eligieron sus estrategias sobre la base desus expectativas acerca de cómo reaccionarán los demás. Informaciónque altera estas expectativas pueden por lo tanto cambiar elcomportamiento. Esto puede conducir a un cambio en las normas que semueve un grupo o una sociedad entera de un estado de equilibrio aotro. La posibilidad de pasar a un peor equilibrio social puede sercaracterizada como una norma peligro.A veces son políticas subóptimas localmente justificada desde una

perspectiva más amplia, como un precio que vale la pena pagar paraproteger las normas que sirven para bloquear una diapositiva en unpeor equilibrio social. Una perspectiva socialmente conservadorpodría basarse en la creencia de que esas diapositivas son un granpeligro y que el estricto

12 Schlegel 1991.

- 10 -

aplicación de las normas existentes es una contramedida necesaria.13siquiera cuestionar unadeterminada norma o hacer pequeños ajustes de alguna norma, podríasocavar la autoridad de- debilitando la estructura general de lasnormas vigentes, aumentando el riesgo de decadencia moral osocial.14 S imilarly unraveling, uno puede objetar a algunasdecisiones judiciales debido a losprecedentes legales establecidos, a algunas decisiones de políticaexterior debido a su efecto sobre la credibilidad; y asísucesivamente. 15si tomamos la palabra "norma" en su sentido más amplio, podemospensar también de dinero de una norma o un conjunto de normas. Las

funciones que el dinero sirve en la economía dependen de laspersonas tener ciertas expectativas sobre las creencias de otraspersonas y las actitudes hacia el dinero y sus formas específicas,tales como dinero en efectivo. La falsificación y la excesivaimprimir dinero puede socavar una moneda, destruyendo su capacidadpara servir como un medio de intercambio y depósito de valor. Estees otro ejemplo de norma peligro.Es evidente cómo algunos tipos de información falsa puede dañar lasnormas beneficiosas. Pero las normas también pueden ser dañados poruna información veraz. Ya hemos hecho alusión al fenómeno de auto-cumplimiento de las profecías de personas actuando más honestamente


12/39

si ellos creen estar en una sociedad de baja corrupción, yviceversa; conductores de conducir en el lado derecho si creen queotros harán la misma elección. Otro fenómeno en el cual informaciónverdadera puede dañar las normas es información cascadas. Cascadasde información pueden surgir cuando los agentes hacer eleccionessecuencialmente, y cada agente tiene, además de unos escandalososinformación privada, la habilidad para observar las elecciones (perono la información) de algunos de los agentes delante de ella en lacola.16 Se ha sugerido que

13 Hirschman 1991.14 Cf. Schelling el concepto de un punto focal (Schelling, 1960).15 Rizzo y Whitman Volokh 2003; 2003.16 Supongamos que cientos de fans del rock están conduciendo alfestival de música de Glastonbury. En algún momento cada conductorllega a una intersección donde las señales del camino han sidodestruidos. Como resultado, existe incertidumbre en cuanto asi se debe girar a la izquierda o a la derecha. Cada controladortiene cierta información privada, tal vez una droga dim - empañó elrecuerdo desde el año anterior, lo que le da una oportunidad de 2/3

de la cosecha en la dirección correcta. El primercoche lleg? es en la intersección y gira a la derecha. El segundocoche llega, y también gira a la derecha. El conductor deltercer coche ha visto los dos primeros coches gire a la derecha, yaunque su intuición privado le dice que gire a la izquierda, quelas cifras lo más probable es que su ow n intuición es errónea (1/3)que tanto los autos anteriores fui por elcamino equivocado (1/9); así que él gira a la derecha. Un cálculosimilar se realiza por cada controlador posteriores quepueden ver por lo menos dos coches por delante. Cada coche terminagirando a la derecha.En este cenario, existe la posibilidad de que todos los 1/9rocanroleros perderse.Supongamos que si eso ocurre, el

festival se ha cancelado. Había habido una niebla densa, evitandoque cada conductor de ver el coche de delante (reduciendo así lainformación), entonces, casi cert ainly, aproximadamente 2/3 detodos los fans habría llegado aGlastonbury, permitiendo que el festival tenga lugar. Una vez quecomienza la fiesta, cualquier perdida de ventilador puede escucharla música desdelejos y encontrar su camino. - por lo tanto, podríamos tener unasituación en la cual la reducción de la información disponible paracada conductor, aumenta la posibilidad de que llegará a su destino.Tiempo claro crea una cascada de información que conduce a un patrónde búsqueda ineficiente.

- 11 - Las

cascadas de información juegan un importante papel explicativo en lacontabilidad de comportamiento faddish en muchos dominios, como lasfinanzas, la zoología, la política, la práctica de la medicina, lainfluencia de sus compañeros y el estigma.17


13/39

en cascada informativa también podría contribuir a una Mateo ("losricos se hacen más ricos") efecto. Por ejemplo, científicoseminentes tienden a obtener más crédito que desconoce losinvestigadores para contribuciones similares.18 parte de la razónpodría ser que cuando hay incertidumbre en cuanto a quién hizo lamayor contribución es, ceteris paribus, más probable es que hayasido hecha por el más eminente científico, quien por consiguienteobtiene el crédito; pero con el resultado de que la fama de los yafamosos pueden ligeramente a snowball proporciones inmerecido,mientras que otros son injustamente ignorado.Otra forma importante en que la verdadera información puede dañar laorganización social es a través de las asimetrías de la información.Cuando una parte tenga información que a otros les falta, laasimetría de la información en ocasiones impide transaccionesmutuamente beneficiosas de tomar su lugar.La asimetría de la información de emergencia: Cuando una de laspartes en una transacción tiene el potencial para obtenerinformación que los otros carecen, una falla del mercado puederesultar.Los modelos económicos de la selección adversa y el riesgo moral

ilustrar algunas de las posibilidades. En el mercado de automóviles,el vendedor tiene a menudo más información acerca de la calidad delcoche que el posible comprador. Los propietarios de coches de mala,"los limones", están más dispuestos a parte con su vehículo depropietarios de buenos coches. Los compradores, sabiendo esto,sospecha que el coche se les ofreció es un limón, y están dispuestosa pagar por ello. Este precio de compra es demasiado baja parainteresar a los posibles vendedores de buenos coches, con elresultado de que los coches usados de alta calidad son retenidas enel mercado, dejando predominantemente los limones. La asimetría dela información inhibe el mercado de coches usados de alta calidad.Esto ayuda a explicar por qué el valor de un vehículo nuevohundimiento en el momento en que desembarca el concesionario.19

Insurance ofrece muchas ilustraciones de los potenciales efectosnegativos de la asimetría de la información.Por ejemplo, en países donde la asistencia sanitaria privada,considere una situación en la cual la disponi ility deensayos genéticos combinados con mejoró enormemente el conocimientoacerca de cómo interpretar los tests ofrecen alos compradores de seguros de salud con una gran riqueza de nuevainformación sobre su perfil de riesgo. Si lalegislación de privacidad prohibida aseguradoras fro m el acceso ala misma información, laasimetría de la información resultante podría socavar el mercado deseguros. Selección Adversa llevaríalos temas con el mayor riesgo de perfiles para comprar más seguros.

Las compañías de seguros,anticipando esto, sería rais e primas. Las mayores primas disuadiríamás baja - sujetos en riesgo,amplificar el efecto de selección adversa-hasta que, en un escenarioextremo, el mercado de seguros de salud se derrumba.20 relativo aese escenario, tanto compradores como vendedores de seguros puedenapostar ter apagado si

17 Bikhchandani, Hirshleifer y Welch, 1992.18 Merton 1968.


14/39

19 Akerl del 1970. Aquí, como a lo largo de este documento, no setrata de dar cuenta detallada de undeterminado fenómeno empírico; nuestro objetivo es ilustrar algunasde las características del paisaje conceptual.20 es poco realista suponer la información genética para prod ucetales consecuencias extremas, dado que gran parte de lavarianza en los resultados de salud es debido a la no - variablesgenéticas y oportunidad.

- 12 -

ni obtiene la información adicional. La posibilidad de liberación denueva información a una parte de la transacción potencial puede así,en determinadas circunstancias, constituir un peligro.Aunque la información asimétrica es particularmente corrosivos,mercados de seguros también pueden derrumbarse debido a información

simétrica, la información que se comparte entre todas las partes.Los seguros se basa en la incertidumbre. No tiene sentido para ustedpara asegurarse contra una pérdida en la que usted está seguro queusted no contraerá, y no tiene sentido para una compañía de segurospara ofrecer seguro contra pérdidas que sabe que puede incurrir enalguna fecha conocida; la prima tendría que superar la cobertura.Si la única función útil de seguro para reducir la incertidumbresobre los ingresos futuros o bienestar. A continuación, lainformación de que el aumento de la previsibilidad, eliminaría lanecesidad de los seguros al mismo tiempo que se eliminaba laposibilidad de seguros: no se haría daño. Sin embargo, sirve deseguros así como otras funciones. Uno de ellos es la justiciaredistributiva. En seguros, los afortunados subsidiar la

desafortunada. Agentes egoístas sumarse al plan porque no saben, apriori, del grupo al que pertenecen.Toda la filosofías políticas han sido construidos en torno a lanoción de los seguros. Por ejemplo, en John Rawls teoría de lajusticia, el orden social justo se define con referencia a lo que lagente hipotéticamente puede elegir desde detrás de un "velo deignorancia", es decir, si fueran ignorantes acerca del papel socialque ellos mismos ocupan.21 Un rawlsiana podría atribuir muchos delas dificultades prácticas en laobtención de esta concepción de justicia aplicado al hecho de quelos votantes y decisión política - fabricantesson, en realidad, no detrás de un velo de ignorancia. Personasegoístas que conocen sus propias circunstancias- su clase socio-

económica, raza, ocupación, etc.) pueden favorecer políticas quepromueven sus propios intereses en lugar de los supuestamente justaspolíticas que hubieran elegido si hubieran sido ignorantes acerca desu propia situación. El conocimiento de la situación presente yfutura, sin embargo, es una cuestión de grado. Uno puede pensar ensituaciones en las que el aumento de la disponibilidad de lainformación acerca de estas cosas haría que la aplicación de unorden social justo, más difícil. Por ejemplo, asistencia elite poruna red de seguridad social podrían aflojar si élites pudieran sabercon certeza que ni ellos ni sus hijos o nietos nunca hubieranecesidad de usarlo.22 El apoyo a la protección


15/39

de la libertad de expresión y los derechos de las minorías podríadebilitar si la mayoría de los individuos puede estar seguro de quenuncahubieran procesado se encuentran en una minoría y que sus opinionesno serían nuncaentre los que los censores sería el silencio.La posibilidad de tales efectos de simetría de la información puedeconsiderarse como un riesgo:Inauguración de emergencia: El funcionamiento de algunos mercados yel apoyo de algunas políticas sociales, depende de la existencia deuna común "velo de ignorancia"; y el levantamiento del velo quepuede socavar los mercados y políticas.

21 Rawls 2005.22 un punto similar es hecha en 1990.Kavka Kavka también argumentaque un intenso conflicto social se produciría si loss y grupos que sufriría (posiblemente no indemnizable) Daño dealgunas propuestas de política podríaconocer este ex ante.

- 13 -

Este fenómeno también se puede crear una instancia en el dilema delprisionero iterado, donde los agentes se enfrentan a una disyuntivaentre cooperantes y disidente en un número desconocido de repetirlos encuentros. Los agentes pueden cooperar en cada ronda, a fin deasegurar la cooperación del otro jugador en las siguientes rondas.Aún así, la cooperación puede desentrañar si los jugadores sabencuántas rondas habrá. Cuando sepan que están en la ronda final, de

ahí que enfrenta el equivalente de un one-shot tradicional dilemadel prisionero-ambos enfrentan incentivos al defecto. Peor aún, enla penúltima ronda pueden prever que van a ser el próximo en laronda final, en la que ambos realizarán un defecto; así losincentivos a favor de desertar en la penúltima ronda y así todo elcamino de vuelta a la primera ronda. La oportunidad a largo plazo lacooperación mutuamente beneficiosa podría así ser arruinados por lapérdida de la ignorancia sobre el futuro la duración de la relación.Ya hemos discutido la propiedad intelectual como un ejemplo delpeligro de los adversarios del riesgo.El robo de propiedad intelectual, sin embargo, no sólo es unproblema para las empresas que corren el riesgo de perder a suscompetidores. Las amenazas a la propiedad intelectual puede socavar

sectores enteros del sistema económico, haciendo más difícil paralas empresas y los individuos para internalizar los beneficios de suinvestigación y desarrollo de productos. El sistema jurídico sóloproporciona protección parcial e impone grandes, transaccionesadministrativas y gastos de ejecución, que por sí mismos puedenobstaculizar la innovación.Defensa de los activos de propiedad intelectual, por lo tanto,tiende a depender también en diversas formas de secreto y barrerasfísicas para el acceso y la copia de los datos sensibles. Elpotencial de evolución que pueda reducir esos obstáculos, cuando eso


16/39

tendría consecuencias negativas, constituye un peligro deinauguración.23considerar, finalmente, elreconocimiento de emergencia: Algunos ficción social depende dealgunos conocimientos compartidos no se conviertan en conocimientocomún o no ser reconocido públicamente; pero la divulgación públicade información podría arruinar la pretensión.Dos caballeros, A y B, se encuentran en una pequeña habitacióncuando un rompe vientos. Cada uno sabe lo que ha sucedido.Cada uno también podría saber que el otro sabe. Sin embargo, ellospueden ponerse de acuerdo para evitar un incidente embarazoso.Primero, B debe fingir no han notado. Segundo, podría, sin dejar deque él sabe que B sabe, proporcionar B con alguna excusa paraescapar o abrir la ventana; por ejemplo, una observación casualpodría, después de una breve demora, que la sala parece ser bastantesobrecalentado.24 El reconocimiento de riesgo consiste en laposibilidad de difusión de alguna información que pueda constituir oforzar un reconocimiento público; sólo entonces el flato convertidoen un faux pas socialmente dolorosa.

23 La reclamación aquí no es que cuanto más fácil sea para protegerlos activos de propiedad intelectual, mejor. En algunas zonas nopodría ser, por ejemplo, una forma ineficiente alto nivel deprotección jurídica. Los acontecimientos que hacen que el robo de lapropiedad intelectual más fáciles de llevar a cabo, y más difícilesde detectar y castigar, entonces podría ser socialmentebeneficiosas.24 G offman 1959.

- 14 -

5. Riesgos de la irracionalidad y el error, entonces hay información de los riesgos, a diferencia de losmencionados anteriormente, dependen de cualquiera de irracionalidado falsas creencias. Esta dependencia, por supuesto, no relegar lospeligros correspondientes a una situación marginal.Considerarriesgo ideológico: Una idea podría, ingresando en una ecologíapoblada por otras ideas, interactuar en formas que, en el contextode las estructuras sociales e institucionales existentes, producenun resultado perjudicial, incluso en ausencia de cualquier intención

de perjudicar.Supongamos que Bob cree que la escritura S consta exclusivamente deverdades literales, y que se compromete a hacer lo s dice quedebería llevarse a cabo. Supongamos, además, que S contiene el(presumiblemente falso) instrucción moral "Harás beber el agua demar", pero que Bob es consciente de ello.La difusión potencial de Bob de esta parte del contenido de lainformación constituye un peligro. La información podría perjudicara Bob, induciendo a él a beber agua de mar. (Tenga en cuenta que eltransporte de información verdadera perjudica a Bob aquí; en estecaso, la verdadera información que S llama para beber agua de mar.)


17/39

En el ejemplo anterior, el peligro planteado por la informaciónpertinente está estrechamente ligada al sistema de creenciasidiosincrásicas de Bob. Es cierto que la idea de una bomba nucleares también un peligro sólo cuando se utiliza junto con un sistema decreencias más grandes, por ejemplo, creencias acerca de la física yla tecnología necesaria para poner una bomba en la existencia. Sinembargo, parece posible y útil para distinguir este tipo deinformación instrumental de peligro peligro información ideológica.Peligro ideológico, podríamos decir, a modo de explicación, serefiere a la posibilidad de que ese alguien será engañar a la cabezaen algunos mala dirección debido a la forma en que ciertainformación interactúa con las falsas creencias o conocimientosincompletos.Las ideologías que malo puede ser extremadamente peligroso estáampliamente demostrada por la historia del siglo xx.Lo que está menos claro es cómo peligro ideológico mejor pueden serreducidos. Parte de la razón por la que este es un problema difícilde resolver es que la ideología puede también ser una fuerza para elbien. La ideología del movimiento de derechos civilesestadounidense, por ejemplo, ayudó a empujar la discriminación

racial en los EE.UU. en un sentido amplio, la ideología es quizásuna parte inevitable de la condición humana, y el problema dedistinguir las buenas de las malas ideología puede no ser más fácilde resolver que el problema de distinguir las buenas de las malaspolíticas: simple, no existe algoritmo generalmente aceptable.Además, aunque las ideologías radicales pueden ser especialmentepeligrosos, pueden también dependiendo de lo que el status quo esrelativa a que las alternativas que se presentan son "radicales"-esespecialmente adecuada para la situación. Si el status quo es laesclavitud y la persecución religiosa, entonces sería una ideologíaradical que propone no sólo la mejora de las condiciones de trabajode los esclavos y la reducción de las penas por herejía, pero laabolición completa e ilimitada de la libertad religiosa.

A continuación, pasamos al hecho de que los seres humanos no sonperfectamente racionales ni tenemos perfecto control autónomo.Podemos estar distraídos en contra de nuestra voluntad y nos puedesucumbir a la tentación contra nuestro mejor juicio. La exposición ala información puede tener efectos sobre nosotros más allá desimplemente mejorar la exactitud de nuestras representaciones delmundo.

- 15 -

alguna información está distrayendo. Ella involuntariamente atraenuestra atención a una idea o tema cuando preferimos centrarnos enotros lugares. Un jingle publicitario podría bucle en nuestrasmentes y nos distraigan de algo que preferiríamos estar pensando.Una de las técnicas que utilizamos para luchar contra la tentaciónes poner algo de nuestra mente; no obstante, la información sobre elobjeto tentador puede socavar nuestros esfuerzos y nos hacen máspropensos a la cueva. Una alcohólica en recuperación pueden serdañadas por la exposición a un relato vívido de los atributos deChateau Petrus Pomerol 1990.


18/39

La distracción y la tentación de riesgos: La información puedehacernos daño por distraernos o presentarnos la tentación.En la mayoría de los casos el daño hecho por distracción o tentar lainformación es quizá menor.Sin embargo, no es descabellado preguntarse si la disponibilidad deciertos tipos de información que potencialmente puede causar dañosen una escala más amplia. Quizás se podría argumentar que latelevisión tiene un efecto global sobre la condición humanacontemporánea no es demasiado diferente del que se habría producidopor el extendido uso recreativo de las drogas opiáceas. En elfuturo, incluso más acuciantemente presentó información y hyper-estímulos podrían estar disponibles y ser enormemente adictivo; porejemplo, las nuevas formas de altamente absorbente o entornos derealidad virtual interactivo. Efectos de las drogas en nuestrapsique puede ser producido no sólo a través de la inyección,ingestión e inhalación, sino también a través de la admisión de lainformación presentada en ciertos modales a nuestros sentidos.También podemos ser dañado por la exposición al peligro (laplantilla de malos modelos. Aun cuando sabemos que un modelo esmalo, y preferiríamos no estar influenciado por ella, la exposición

prolongada puede ser perjudicial debido a una especie de ósmosissocial. Alguien que aspira a un buen estilo de escritura pueden serbien aconsejado evitar leyendo demasiada basura. Quien intentacultivar un sentimiento noble que desee evitar la compañía de lamedia y pequeña. Y aquellos que esperan que sus hijos se conviertanen ciudadanos honrados deben mantenerlos lejos de compañerosdelincuentes.25estudios recientes indican que la salud subjetiva e incluso de masacorporal son influenciados significativamente por nuestrosasociados. 26 Así,modelo de rol de emergencia: podemos estar dañado y deformado por laexposición a malos modelos.Un ejemplo de esto es el "efecto Werther", nombrado después de la

ola de suicidios entre los hombres jóvenes que barrió Europa tras lapublicación en 1774 de la novela de Goethe Die Leiden des JungenWerthers.Varios estudios han corroborado la existencia de un efecto,encontrar un vínculo entre los medios de comunicación informes decasos de alto perfil y la subsiguiente copycat suicidios.27

25 otras cosas iguales, es decir, que por supuesto ellos rara vezson. A la hora de decidir qué hacer, uno también debe tener encuenta que la exposición a una amplia gama de modelos de rolespodría proporcionar más oportunidades de elección; y que uno puedevolverse más sabio por saber también algo sobre el lado oscuro.Cuando es excesivo, el temor a la contaminación por malas

influencias es sofocante. En sus formas extremas, un amor de la"pureza" puede producir peligrosas de la intolerancia y elfanatismo.26 H y alliday Kwak 2007.27 Véase, por ejemplo, 1982; Phillips Stack 1996; Jonas 1992.

- 16 -


19/39

Información riesgos surgen de nuestra susceptibilidad a variossesgos cognitivos que pueden ser agravados por la prestación dedeterminados tipos de datos. Anclaje de sesgar los resultados de laaplicación del ajuste y anclaje "heurístico" en el que las personasestiman algunos cantidad desconocida por primera anclaje sobrealgunas cifras que sucede a venir a la mente y luego el ajuste deesta estimación preliminar hacia arriba o hacia abajo en un intentopor reflejar el total de su información. Esto conduce a laparcialidad, cuando la gente inicialmente ancla en una cantidadirrelevante y, a continuación, bajo-Ajustar en la fase de ajuste. Enun estudio se preguntó a los sujetos para estimar el número depaíses en África. Antes de producir su estimación, una rueda de laFortuna fue girado. Los sujetos que se observó un mayor número en larueda tiende a dar una mayor estimación del número de paísesafricanos, a pesar de la transparencia de la irrelevancia de laantigua realidad. La pieza adicional de información verdadera sobreel número en la rueda de la fortuna disminuyeron la exactitudgeográfica de sentencia.28Muchas personas sobreestiman sus propias virtudes y habilidades.

Supongamos que esa persona recibe algunos débiles adicionales cue susupuesta excelencia, tales como una buena puntuación en un concursode preguntas. Este bit de pruebas, que podemos suponer que esverdadero y de una manera muy limitada informativo, podría agravarsu auto-sobreestimación y conceitedness.29Incluso conocimiento o f los prejuicios humanos y filosofía críticapuede llevar los distraídos más profundo en error,y reducir su capacidad de aprender, armando él con ingeniososargumentos con los que rebatir objecionesy racionalizar hechos poco convenientes. 30 Un tipo especial detonto nace cuando inte lligence outwits asímisma.Peligro de polarización: Cuando estamos sesgados, podemos ser

llevado más lejos de la verdad por la exposición a la informaciónque activa o amplifica nuestros prejuicios.La metodología, como doble cegamiento en los ensayos demedicamentos, pueden ayudar a reducir el riesgo de introducir sesgosuninvited en nuestro modo de pensar y de actuar. Por similaresrazones de precaución, los crédulos suelen tener razón para evitarla muy convincente. Y si uno planea experiencia transporta y éxtasisque aumentará temporalmente la suscept ibility a peligrosasilusiones e impulsos, uno debe primero hacerse a sí mismo atado almástil.Por el contrario, la información también podría hacernos dañoreduciendo nuestros sesgos en la medida en que nuestros prejuiciossirven algún propósito útil. Por ejemplo, la tendencia a

sobrevalorar nuestra propia capacidad podría no sólo nos hacensentir más felices y seguros de sí mismos; una fuerte creencia ennuestra propia habilidad y competencia de señal también podríallevar otros a aliarse con nosotros, promover nosotros, o votar pornosotros. La información que nos ayuda a vernos a nosotros mismoscomo lo que realmente somos nos podría privar de estos beneficios.También es posible que la sociedad se beneficia de un exceso deriesgo individual en algunas disciplinas; por ejemplo, si losempresarios, inventores y jóvenes universitarios que sobreestimarsus propias posibilidades de éxito. Si estas ocupaciones tienen


20/39

28 positiva neta de Tversky y Kahneman 1974.29 D la OIMT para quienes subestiman sus propias virtudes yhabilidades: la retroalimentación que confirma esta tiende a serinternalizado mientras que contradice la retroalimentación tiende aser ignorada (Brown, Dutton et al. 2007).30 Y udkowsky 2008.

- 17 -

las externalidades, podría ser beneficioso que los sesgos y lasexpectativas poco realistas de fama, fortuna o alto logro seducir anuevas empresas en estos campos.Polarización de peligro: Cuando nuestros prejuicios tienenbeneficios individuales o sociales, el daño podría ser el resultadode la información que erosiona estos sesgos.También hay un fenómeno más amplio de que influencia del modelo pero

es un caso especial. Nuestros cerebros están constantementemodificado por lo que aprendemos y la experiencia. La informaciónobtenida no es simplemente almacena lejos como paquetes de datosinertes, como si fueran los nuevos volúmenes superadded a algunosinternos estantería. Más bien, la información entrante interactúacomplejamente con estructuras cognitivas preexistentes en manerasque no siempre son fáciles de caracterizar en términos psicológicosfolk. Nuevos conceptos podrían formarse; los límites de losconceptos existentes podrían cambiar; son patrones de cableadoneuronal alterada; algunas áreas corticales podría expandir,causando otras áreas de contrato; y así sucesivamente. Existe elriesgo de que algunos de estos cambios serán para el peor.Peligro: neuropsicológica información podría tener efectos negativos

en nuestra psique a causa de la particular forma en que nuestroscerebros están estructurados, efectos que no surgirían en más"idealizada" arquitecturas cognitivas.Demasiado conocimiento puede ser malo para algunos tipos dememoria.31 Tal vez algunas enfermedades mentales como resultadode cruz inapropiado - hablar entre módulos cognitivo diseñado parafuncionar comounidades más encapsulada, una especie de indeseables la difusióninterna de información. Una idea recurrente en la literatura y lamitología es el "motivo de la dañina sensación", cuando una personasufre un daño físico o mental simplemente por experimentar lo quenormalmente debería ser una sensación benigna (el mito de la Medusa,creencias sobre el "mal de ojo", etc.). Un ejemplo del mundo real de

la dañina sensación es Epilepsia fotosensible que pueden activarseen algunos individuos sensibles luces parpadeantes o patronesgeométricos específicos.32 Lainformación irrelevante puede aportar valiosa información difícil deencontrar. Este hecho se utiliza enesteganografía, t él técnica criptográfica de ocultar mensajessecretos dentro de las representaciones queparecen ser de otra cosa, de modo que incluso la existencia de textoencubierto está oculto. Por ejemplo,algunos de los píxeles en un archivo de imagen puede ser sutilmentemodificada para codificar un mensaje verbal en lo que


21/39

parece una imagen turística ordinaria. En una vena similar, equiposde defensa legal a veces ocultandocumentación incriminatoria que ha sido citado por la Fiscalía porel abrumadorcon tales cantidades masivas de archivado mat erial que losdocumentos pertinentes no puede ser ubicado en eltiempo para el juicio.

31 de Robinson y Sloutsky 2007.32 C uando el episodio de dibujos animados Dennō Senshi Porygontransmitió en Japón en 1997, una escena con una explosión prestadoscon efecto de iluminación estroboscópica causado síntomas leves enel 5-10% de los espectadores (aunque algunas de estas podría encambio han sido afligidos con epidemias de histeria) y envió a 685niños al hospital en ambulancia. No se informó de daños a largoplazo. También ha habido al menos un intento maliciosodeliberadamente a desencadenar Epilepsia fotosensible en línea, perono parece haber sido muy exitosa. Ver Radford y Bartholemew 2001;Takada, Aso et al. 1999.

- 18 -

Información-enterrar peligro: información irrelevante puede hacermás difícil encontrar información pertinente, incrementando loscostes de búsqueda de agentes con recursos informáticos limitados.33a gran escala, una sobreabundancia de affordances informativaspodría distraer nuestra reflexión a partir de temas que son máscentrales para nosotros y relativamente más digno de nuestracontemplación, así que vamos a

vivir, como en T. S. Eliot la caracterización del predicamentomoderno "distraído de la distracción por la distracción". 34 Estetipo de posibilidad nos lleva a la siguiente sección.

6. Riesgos a valiosos miembros y actividades hemos visto cómo lainformación puede causar daño por afectar el comportamiento. Lainformación puede también perjudicar directa a través de sus efectospsicológicos, por ejemplo, causando la decepción. Además, de acuerdocon al menos algunas cuentas de bienestar, la información puedecausar daño psicológico incluso aparte de efectos colaterales queafectan por parte de algún estado atencionales o epistémica quedesempeña una función constitutiva en algunos sujetos del bienestar.Por lo tanto podemos definir la

reacción psicológica de emergencia: Información puede reducir elbienestar provocando la tristeza, decepción, o algún otro efectopsicológico en el receptor.Y podemos distinguir esto de la siguiente más "filosóficamenteintrincado" concepto: lacreencia de valor constituía peligro: si algún componente delbienestar depende constitutivamente en estados atencionales oepistémica, luego la información que altera esos Estados podrían,por ende, afectan directamente el bienestar de las personas.


22/39

Consideremos en primer lugar el ejemplo evidente de una reacciónpsicológica de emergencia: malas noticias, la recepción de lo quenos hace triste.La decepción de emergencia: nuestro bienestar emocional puede verseafectada negativamente por la recepción de malas noticias.En algunos casos, si algo va mal, estamos obligados a oír hablar deél finalmente. En tales casos, la decepción es, en cierto sentido,ya "comprometida" cuando tiene lugar el evento adverso, aunquepodría tomar un tiempo antes de que el efecto es conocido y sentir.En otros casos, sin embargo, existe una posibilidad real de que siun sujeto evita la audiencia de su desgracia ahora, ella seguirásiendo ignorante y se librará de la decepción que la mala noticiasería la ocasión. Tales casos hacen más fácil de desenredar ladecepción peligros de otros posibles daños que pudieran estarimplicadas. Tomemos el caso de una madre en su lecho de muerte, cuyoúnico hijo está luchando en alguna guerra lejana. La madre seenfrenta al menos dos riesgos distintos. En primer lugar, existe elriesgo

33 y potencialmente resultar en peores soluciones; para una

discusión de cómo el exceso de conocimiento puede degradar elrendimiento en algunos sistemas de inteligencia artificial, consulteMarkovitch y Scott 1988.34 E liot 2001.

- 19 -

que su hijo va a resultar herido o muerto; esto no es necesariamenteun riesgo de la información. Supongamos que el hijo es en realidad

muertos. Luego hay un segundo riesgo, que es la madre para averiguaracerca de su pérdida. Supongamos que la noticia está contenida enuna carta, que podría llegar a ella rápidamente o se retrase. Si sellega a ella rápidamente, ella va a pasar sus últimos días de agoníay desesperación; si se retrasa, ella va a morir en paz. Aquípodríamos decir que la madre está expuesta a un grave peligro dedecepción.Spoilers constituyen un tipo especial de decepción. Muchas formas deentretenimiento dependen del aplanamiento de la ignorancia.Escondite sería menos divertido si no había manera de ocultar y nohay necesidad de buscar. Para algunos, sabiendo el día y la hora desu muerte con mucha antelación puedan arrojar sombras sobre suexistencia.

Antes de su jubilación, mi padre a veces pierda un decisivo partidode fútbol televisado que tuvo lugar durante las horas de trabajo.Planea ver la reprise después, iba meticulosamente evitar cualquierfuente de noticias que podrían revelar los resultados. Su diseño,sin embargo, fue frustrado por mi abuelo, quien había visto elpartido en directo y que invariablemente se encontró incapaz deabstenerse de hacer, no muy sutiles alusiones suficiente al partido,permitiendo a mi padre para adivinar quién había ganado.Peligro de spoiler: diversión que depende de la ignorancia y elsuspense está en peligro de ser destruido por la divulgaciónprematura de la verdad.


23/39

Los conocimientos también pueden ejercer efectos más generales sobrenuestra psique y personalidades. Quizá un cinismo no deseados espromovido por un exceso de conocimientos sobre el lado oscuro de losasuntos humanos y motivaciones. Nietzsche advirtió de los abusos dela historia: cómo el conocimiento histórico, se acercó y valorados,en cierta manera, puede minar nuestro entusiasmo para la vidaartística y cultural, e inhibir la autenticidad y la innovación. Elpeligro de Nietzsche no se refirió a los efectos de una determinadapieza de información sino de las consecuencias de un cierto "excesode historia" que puede causar a la vida se desmoronan: "es gibteinen Grad, Historie zu treiben, und eine Schätzung derselben, beider das Leben und entartet verkümmert" ("hay un grado de hacerhistoria y la valoración de la misma a través de la cual la vida seatrofia y degenera" ).35 Si Nietzsche tiene razón sobre esto, y sila difusión de diversos tipos (de) información sobre el pasadopuede, bajocircunstancias desfavorables, contribuir a esa atrofia del espíritu,entonces tenemos aquí un ejemplo de otrotipo de reacción psicológica, es decir,mentalidad de peligro peligro: nuestra actitud básica o mentalidad

podría Cambiar en formas indeseables como consecuencia de laexposición a ciertos tipos de información.De manera similar, algunas personas se preocupan que elreduccionismo científico, similar al de la minería a cielo abiertoen un antiguo bosque, despoils vida de su misterio y maravilla.Nos dirigimos a las creencias constituye peligro de valor. En lapráctica, esta categoría puede ser difícil de distinguir del peligrode reacción psicológica.

35 Alemán cita tomada de Nietzsche 1984; traducción al inglés tomadade Nietzsche 2007.

- 20 -

examinar nuevamente el ejemplo de la madre en su lecho de muerte queriesgos audiencia que su hijo ha sido asesinado. Existe claramenteuna relación en la que oír esto sería malo para ella: que causaríasu extrema angustia psicológica. Esto es suficiente para que existaun peligro de reacción psicológica. No es necesario que sería malopara la madre, considerando todas las cosas, para oír de la muertede su hijo.Hay varias razones para ello. En primer lugar, naturalmente, hay

diversas cuestiones prácticas que habría que considerar en unasituación real como este: quizás la madre necesita saber para queella pueda alterar su voluntad? Quizás la ocultación de ladesagradable noticia se tienden a erosionar la confianza social?Pero incluso aparte de estas consideraciones pragmáticas, existe unsegundo tipo de razón podría ser mejor para la madre al saber de lamuerte de su hijo a pesar del sufrimiento este conocimiento haríauso de su ca. Esos conocimientos, según algunas teorías morales,puede ser un componente de un bien de la persona -siendo ("el bienpara una persona") incluso si afecta al componente subjetivo debienestar para el peor. Uno podría sostener que una vida se agrava,


24/39

otras cosas iguales, por ser vivido en la ignorancia de los hechosimportantes acerca de las preocupaciones centrales de esa vida. Lavida en un paraíso de tontos, incluso si las puntuaciones altas enla dimensión hedónica, podría, sin embargo, bastante baja puntuaciónen el bienestar general de esa teoría.Justo como uno podría sostener que hay algunos conocimientos cuyaposesión es un componente importante de una buena vida, también sepodría sostener que existe el conocimiento (al menos para algunaspersonas, en algunas circunstancias) que hace una contribuciónnegativa directa para su bienestar. Esto puede ser visto más,obviamente, de ser el caso según su preferencia-satisfacción cuentadel bienestar; de ahí podemos generar ejemplos triviales simplementesuponiendo a alguien a tener una preferencia básica contra el saberacerca de algún tema en particular. Pero muchas otras cuentas debienestar también podrían permitir ejemplos de tales conocimientosgravosos directamente. Inocencia podría ser valorados por su propiobien, y podrían ser arruinados por el conocimiento. Podríamos tesoronuestra intimidad y encontrar vulnerados por otras personas es sabercosas acerca de nosotros preferiríamos que han mantenido connosotros o compartida elegido exclusivamente con los íntimos. O tal

vez sería mejor no conocer algunos detalles personales sobre otros,no solo porque tal conocimiento podría nos exponen a riesgo de peortrato de otros (como en saber-demasiado-mucho peligro), sino tambiénporque nuestro conocimiento de estos datos podría interponerse en elcamino de nuestra concepción de los demás en maneras que son másapropiadas o más a nuestro gusto. Con respecto a nuestros amigos'intestinos y nuestros padres dormitorios, menos sabemos mejor.36Con frecuencia se teme el riesgo de información es lavergüenza de emergencia: podemos sufrir malestar psicológico o dañode reputación como resultado de hechos embarazosos sobre nosotrosser revelada.Vergüenza peligros (que suelen adoptar la forma de señalización depeligro) comúnmente se combinan elementos de reacción psicológica

peligro, creencias constituye el valor de riesgo y peligro decompetitividad. Podemos incluso miedo para avergonzar a nosotrosmismos para nosotros mismos, quizá porque la autoestima no es

36 y por supuesto Bismarck alegó de leyes y salchichas que es mejorno ver cómo se hacen.

- 21 -

un asunto totalmente privados, pero también es una señal social queinfluye en sus opiniones de nosotros. 37 Algunos psicólogos creenque una preocupación por proteger la autoestima de socavar por auto-errores relevantes pueden llevar a los individuos a participar encomportamientos auto-subnormal.38 Esto podría ayudar a explicaralgunos casos de fenómenos tales como la dilación, la hipocondría,abuso de sustancias, y la evitación de la práctica.39 Supongamos queverte a ti mismo como inteligente es importante para su autoestima yque tiene un examen importante venir para arriba. Si usted practicaduro y fallan en el examen, su sentido de la propia competenciatendrá un gran éxito. Pero si te desanime practicando hasta la noche


25/39

antes del examen, el riesgo se reduce; incluso la gente inteligentepuede hacer mal en los exámenes cuando no se han estudiado losuficiente. Y si a pesar de la desventaja de la insuficientepreparación que logran obtener una marca alta, ¿por qué entoncesusted debe ser realmente brillante. Tal percepción de gestión puedenimponer costos significativos.Riesgo de vergüenza puede suprimir una discusión franca. Un estudiosobre la deliberación en la Reserva Federal del Comité Federal delMercado Abierto, encontraron evidencias de que se ha aprobadorecientemente una política de transparencia que incluye lapublicación de transcripciones detalladas de las reuniones depolítica monetaria sofocado el voicing de opiniones disidentes yparecían reducir la calidad del debate.40Los activos intangibles, como la reputación y la marca, constituyenuna gran parte del valor de muchas empresas. Embarrassments queimpactan negativamente estos activos puede causar miles de millonesde dólares en daños.Para ver un ejemplo de una aún más grande escala, considere larivalidad de las superpotencias de la guerra fría, en la que amboscontendientes estaban participando en el concurso de estado, así

como una carrera de armas militares. El proyecto Apolo fue unarespuesta directa a las molestias ocasionadas a los Estados Unidospor la Unión Soviética el lanzamiento del Sputnik 1, un logro quedesafió a la America's pretensión de superioridad tecnológica. Lasguerras de Vietnam y Afganistán fueron tanto prolongado a causa dela renuencia a sufrir el daño de reputación líderes pensaban queresultarían de admitir la derrota.

7. Riesgos de los sistemas de tecnología de la información es nosólo seres animados que procesar y difundir información; nuestrossistemas tecnológicos de información que también lo hagan.Información distintiva los riesgos surgen en relación a nuestrosequipos y redes.

Los sistemas de tecnología de la información son vulnerables ainterrupciones involuntariamente las secuencias de entrada ointeracciones, así como de ataques por parte de hackers determinado.Aquí vamos a considerar únicamente un riesgo ocasionado por efectosinformativos de interacciones imprevistas, gusanos, virus, troyanos,ataques de denegación de servicio, y así sucesivamente. Estosignifica que debemos excluir los riesgos derivados de laposibilidad de inundaciones, cortes de energía, y alguien atacar suequipo con un trineo

37 Hobden 1997.38 Berglas y Jones, 1978.39 Smith, Snyder y Perkins de 1 983; Stone, 2002; Thompson y

Richardson 2001.40 Mead e y Stasavage 2008.

- 22 -

hammer-salvo en la medida en que el riesgo consiste en laposibilidad de informativo amplificación de los efectos de algunos


26/39

de esos traumas no informativos. Por lo tanto, el riesgo de queusted podría bajar tu nuevo portátil sobre un suelo duro para querompa y usted incurre en el costo de comprar un reemplazo no es unpeligro de información. Tampoco es el riesgo de que algunos críticosdel sistema de información podría bajar necesariamente un riesgo, yaque la información que aquí se definen. El cese de funcionamiento dealgún sistema de información útil no es suficiente a menos que lacausa de la cesación es informativo o el daño surge de algún tipo depropagación de la información indeseable.Sistema de Información de emergencia: El comportamiento de algunos(no humanos) sistema de información puede verse afectadanegativamente por algunos insumos informativos o sistema deinteracciones.Esta categoría puede subdividirse en varias maneras: uno puede, porejemplo, distinguir los peligros de equipo desde la red peligros; osingularizar a las amenazas a la infraestructura crítica de lainformación; o uno podría hacer una separación entre los escenariosde pérdida de datos, corrupción de datos, la difusión de informaciónerrónea a las partes; y así sucesivamente. Mucha atención se ha dadoal sistema de información de riesgos, y mucho de esta atención está

centrada en lo que podríamos denominarriesgo de fallo en la infraestructura de la información: Existe elriesgo de que algún sistema de información, mal funcionamiento, yasea de forma accidental o como resultado de ataques cibernéticos; ycomo consecuencia de ello, los propietarios o usuarios del sistemapueden ser molestos, o terceros cuyo bienestar depende del sistemapuede resultar perjudicado, o bien la avería podría propagarse através de algunas redes dependientes, provocando una mayorperturbación.Los riesgos de este tipo puede ser bastante grave cuando algúnsistema complejo o la red se utiliza para coordinar las actividadeshumanas importantes. Por ejemplo, una corrupción del software queenlaza los sistemas financieros importante podría tener graves

consecuencias.Otro tipo de sistema de información riesgo es que algún sistema deinformación permitirá de hecho funcionar, como se pretendía, pero alhacerlo causará daño o amplificará algún riesgo de daño.Un abogado de privacidad podría objetar a algún gobierno proyecto debase de datos que va a acumular una gran cantidad de informaciónacerca de la ciudadanía, no sólo debido al riesgo de que el sistemapuede funcionar defectuosamente o ser pirateados, sino también porel riesgo de que se lleve a cabo conforme a la especificación y, porende, fortalecer la capacidad del estado para supervisar lasactividades de sus habitantes y el gobierno debería ver algún día lanecesidad de hacerlo para tomar acción contra los elementosconsiderados indeseables o desleal. Incluso si se admitiera que el

gobierno construye confianza el sistema se puede utilizar sólo parael bien, cabe temer que los gobiernos posteriores que heredan elsistema no puede ser tan fiable, o que algún gobierno más perniciosaen otros lugares podrá ver en el sistema un inspirador precedente(cf., idea de riesgo y atención de emergencia) o justificación (cf.,norma de emergencia) para construir su propio sistema comparable yaplicarla a sus propios extremos nefastos.Preocupaciones similares pueden aplicarse a las empresas privadas,como Google, que recopilan información personal acerca de loscientos de millones de usuarios. Habida cuenta de lo útil quehubiera sido para un siglo XXI Stalin para poder tener su mina de


27/39

datos del servicio de seguridad de la ciudadanía y lacorrespondencia de correo electrónico

- 23 -

Motor de búsqueda de consultas no menos texto escrito antes de suascenso al poder y en un momento en que sus enemigos podrían habercomunicado sus pensamientos más acusadores unguardedly.41 Eluso indebido de la infraestructura de información de emergencia:Existe el riesgo de que algún sistema de información, al tiempo quefunciona de acuerdo con las especificaciones, dará servicio aalgunos efectos nocivos y facilitará el logro de dicho objetivomediante la provisión de información útil de la infraestructura.Un sistema también puede ser peligroso, presentando una fáciloportunidad de mal uso no intencionado.Considere la posibilidad de un programa de correo electrónico mal

diseñada que hace que sea muy fácil para el usuario desprevenidoaccidentalmente a reenviar un mensaje de correo electrónico derespuesta para todos los destinatarios en su lista de contactos; unavergüenza a la espera de rubor. Este riesgo se encuentra en lafrontera entre el fallo de la infraestructura de la información y lainfraestructura de la información mal uso, no está claro si uncorreo electrónico como este programa está funcionando según susespecificaciones previstas y discutible cómo repartir culpas entrelos diseñadores del sistema y sus usuarios.Para fines de comparación, también podemos observar otros dos tiposde riesgos potenciales derivados de la tecnología de la información(pero que no son normalmente el sistema de información de riesgos)donde el daño no es tanto una consecuencia de la infraestructura de

información general de los servicios que brinda un sistema o fallapara proporcionar sino que está más directamente relacionada con la"Agencia" del propio sistema:Robot de emergencia: existen riesgos que derivan sustancialmente delas capacidades físicas de un sistema robótico.Un vehículo autónomo, cargado con explosivos y misiles capaces delanzar por iniciativa propia, podría constituir un peligro delrobot. Podemos comparar esto con lainteligencia artificial: podría haber peligro de riesgosrelacionados con el equipo en el que la amenaza se derivanprincipalmente de la complejidad cognitiva del programa en lugar delas propiedades específicas de cualquier actuadores para que elsistema inicialmente tiene acceso.

Una inteligencia artificial tendría que ser muy avanzados a fin deque supongan una amenaza significativa en virtud de su propioingenio y agencia. La creación del servicio general de inteligenciaartificial, con facultades generales de razonamiento superiores alos de los seres humanos, estaría asociado con una grave, de hechoexistencial, riesgo.42 Un superintelligence, incluso si inicialmenterestringido a interactuar con seres humanosa través de los porteros de un interfaz de texto, podría hack ohablar de su manera de salir de su encierro. Entonces, podríaobtener el


28/39

control efectores para realizar operaciones en el mundo externo, porejemplo, mediante el uso de sus poderes de persuasión para conseguirlos seres humanos para hacer sus pujas, o asumiendo el control demanipuladores robóticos. Se podrían utilizar estos efectores paradesarrollar nuevas tecnologías y para asegurar una más ampliacomprensión de su entorno físico. La amenaza planteada por unainteligencia artificial suficientemente avanzada puede dependermucho más de sus capacidades cognitivas y su meta de arquitectura enlas capacidades físicas con el que inicialmente está dotada.

41 Por supuesto existen grandes potenciales ventajas demasiado; porejemplo, un buen gobierno podría citación esta información para suuso en una buena causa.42 Bostrom 2002; Yudkowsky 2008 .

- 24 -

No todos los riesgos relacionados con robots o inteligenciasartificiales se clasifican como sistema de información de riesgos.Un riesgo contaría como tales un peligro si, por ejemplo, surge dela posibilidad de que un virus informático de infectar el sistemaoperativo para un robot o una IA. Pero aparte de esos casosespeciales, no vamos a contar robot peligros y riesgos de lainteligencia artificial como sistema de información de riesgos.43Sin embargo, existe otra forma de robot - y AI - los riesgos conexospara introducir nuestra informaciónsobre taxonomía de peligro. Pueden entrar en la misma manera quecualquier riesgo relativo a la peligrosidad potencial dedesarrollo tecnológico.

8. Los riesgos de desarrollo,tanto en la innovación tecnológica y el desarrollo económico entérminos más generales surgen de la acumulación de información,ideas y conocimientos; y esto puede resultar en una amplia gama deriesgos que podemos agrupar bajo el epígrafe de desarrollo peligros.Riesgo de desarrollo: Avances en algún campo de conocimiento puedeconducir al mejoramiento tecnológico, organizacional o capacidadeconómica, que puede producir consecuencias negativas(independientemente de cualquier particular extant contextocompetitivo).Cuando las nubes de hongo rose sobre Hiroshima y Nagasaki, físicos,muchos de los cuales habían entrado en su profesión por el puro

placer de descubrimiento, se encuentran cómplices en la muerte dequizá 200.000 personas.44 Si la guerra fría había terminado en untodo: intercambio nuclear entre la OTANy la Unión Soviética, como podría haber hecho fácilmente, entoncesmás de mil civiles podrían haber muertocomo consecuencia directa de una forma bastante el desarrollo dearmas nucleares weap ons. 45

43 Por supuesto, hay un sentido en el que ambos robots einteligencias máquina avanzada son los sistemas de información.También hay un sentido en el cual el cerebro humano es un sistema de


29/39

información. Sin embargo, los riesgos que derivan de la inteligenciaen general, o de los equipos físicos de algunos robot, son muyheterogéneas; por lo que no parecería muy esclarecedora paraconstruir un sistema de información de "peligro", categoría en laque se agrupan juntos a todos.44 El archivo atómica estima las muertes en Hiroshima y Nagasakiinmediatamente siguiente debido a los bombardeosen 105.000, con más de 94.000 heridos ( T él Manhattan EngineerDistrict 1946 ) . Muchos tienen más tarde murió decáncer o de defectos congénitos causados por la exposición a laradiación, pero las cifras exactas son un tema de debate.45 P residente Kennedy se dice t ener en algún punto durante lacrisis de los misiles cubanos calcula la probabilidad de unaguerra nuclear entre los Estados Unidos y la URSS para estar "enalgún lugar entre uno de los tres e incluso" Kennedy 1968; Leslie1996. John von Neumann, quien, como presidente de la Fuerza Aérea demisiles estratégicos del comité de evaluación fue uno de losarquitectos de principios de estrategia nuclear de EE.UU., dijo alparecer era "absolutamente determinadas (1) que habrá una guerranuclear; y (2) que todo el mundo iba a morir en ella" (Putnam, 1979,

114). Véase también Cirincione 2008.- 25 -

Robert Oppenheimer, el científico que ha liderado el proyectoManhattan, reconoció posteriormente que "los físicos han conocido elpecado; y este es un conocimiento que no se pueden perder." 46naturalmente, alcanzar un veredicto moral sobre los científicos quetrabajaron en el proyecto Manhattan no es tan simple como llevas el

número de muertes, que más tarde fueron causados por las armas queinventó.Muchos de estos científicos se dedicaron al proyecto porque temíanque Hitler podría conseguir la bomba de primera el temor de que, apesar de que resultó ser infundada, es razonable si se tiene encuenta la información disponible cuando comenzó el proyecto. RichardFeynman, un físico que más tarde reflejado en su participación,considerado su decisión inicial de participar como moralmentejustificada sólo por este motivo; pero él pensó que había falladomoralmente no reconsiderar su participación después de que quedóclaro que Hitler había podido adquirir la bomba y que Alemaniapodría ser derrotado sin él. Además, la decisión de usar la bomba nofue tomado por los físicos, sino por el Presidente Truman, que

pueden haber actuado por una variedad de motivos en una complejasituación estratégica; y así sucesivamente.47El punto aquí no es que determinadas acciones anteriores estaba o nojustificada, pero que este tipo de consecuencia puede ser elresultado de la labor de recopilación de información de los físicos-incluida la investigación básica como la anterior labor en cuánticay la física de partículas que sentó los fundamentos teóricos para elProyecto Manhattan. Para continuar alegremente y sin escrúpulos,como si nada malo podía

1c.informacion de riesgos-peligros potenciales del conocimiento

Documents