7/25/2019 Nuestros Algoritmos

1/8

13. Nuestros algoritmos, nosotros mismosCarr, Nicholas

traduccin a cargo de ESCUDERO,Ignacio y LPEZ,Guadalupe,ltima actualizacin: 8 de marzo de 2015.

UR original !ttp:""### .roug!type.com "$ p%5&'0

Una versin anterior de este ensayo se public el ao pasado, bajo el ttulo "Los

Manipuladores, enLos Angeles Review o !oos #

Desde el lanzamiento de Netscape y Yahoo hace veinte aos, la historia de Internet ha sido

la de las nuevas empresas y productos, una historia conformada en gran parte por los

intereses de los empresarios y capitalistas de riesgo. La trama ha sido lineal; el ritmo,

implacable. n !""# llegaron $mazon y %raigslist; en !""&, 'oogle y Netfli(; en !""",

Napster y )logger; en *++!, iunes; en *++-, y/pace; en *++0, 1aceboo2; en *++#,

Youube; en *++3, 4itter; en *++&, el i5hone y el 6indle; en *++7, $irbnb; en *+!+,

Instagram y 8ber; en *+!!, /N$5%9$; en *+!*, %oursera; en *+!-, inder. sto ha sido

una montaa rusa, y nosotros, el p:blico, hemos sido los vertiginosos pasaeros.

La historia puede estar cambiando ahora. $un

en la forma de ingeniosas empresas startups o dispositivos cool, pero s? en la forma de dos

documentos misteriosos. 8no de ellos es un art?culo cient?fico n secreta de los mensaes n uropea n obsoleta o ine(acta sobre ellos en 'oogle

y otros motores de b:sn, rabia y

discusiones#$mbos plantearon importantes cuestiones complicadas sin resolverlos. $l llegara la ra?z de las revelaciones de d4ard /no4den sobre las operaciones de espionae en l?nea

1

http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670https://lareviewofbooks.org/https://lareviewofbooks.org/https://lareviewofbooks.org/https://lareviewofbooks.org/http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670http://www.roughtype.com/?p=5670https://lareviewofbooks.org/https://lareviewofbooks.org/https://lareviewofbooks.org/https://lareviewofbooks.org/https://lareviewofbooks.org/https://lareviewofbooks.org/http://www.roughtype.com/?p=5670

7/25/2019 Nuestros Algoritmos

2/8

de la N/$ @$gencia Nacional de /eguridad estadounidenseA, ambos parec?an anunciar, de

maneras muy diferentes, una nueva etapa en la historia de la red B una en la a crecer.

l estudio de 1aceboo2 parec?a destinado a suscitar controversia. /u t?tulo podr?a leerse

como si fuera el de un bolet?n de un futuro dist>picoE $videncia e%peri&ental del contagio

e&ocional a escala &asiva trav's de redes sociales . 5ero cuando el art?culo apareci> por

primera vez en el sitio 4eb de las $ctas de la $cademia Nacional de %iencias @5N$/A, el * de

unio de *+!0, , atrao poca atenci>n y pocos comentarios. /e hundi> silenciosamente en el

gran pantano de las publicaciones acadCmicas. so cambi> abruptamente tres semanas m=s

tarde, el *3 de unio, cuando el reportero de tecnolog?a $viva Fut2in public> un breve

resumen del estudio en el sitio 4eb de la revista Ne4 /cientist. /eal> n

hab?a sido realizada por un empleado de 1aceboo2, un psic>logo social llamado $dam6ramer en la unidad de %iencia de Datos de la empresa, y n de miembros de la red social. Gliendo el esc=ndalo, otros

periodistas acudieron al sitio de la 5N$/ para darle una lectura al paper. Descubrieron n en

el e(perimento, y mucho menos pedir su consentimiento.

La indignaci>n sobrevino una vez a rebotar por los medios. l portal

de noticias sobre tecnolog?a llamado 5andoDaily declar>E H/i a:n no estaba seguro acerca de

cu=nto aprecia a sus usuarios 1aceboo2, esto se lo dear= odiosamente claro. 8n escritor

del (ew )or *i&es acus> a 1aceboo2 de tratar a las personas como Hratas de laboratorio,mientras una editorial de *+e as+ington -ost critic> al estudio por Htraspasar una frontera

Ctica. l senador estadounidense ar2 Jarner convoc> a la %omisi>n de %omercio 1ederal

a investigar el asunto; y al menos dos gobiernos europeos abrieron causas. Desde la red

social respondieron furiosos. HNo se metan con 1aceboo2, t4itteo rin 6issane un editor

del soft4are del sitioE Hsi trabaan all?, renuncien, son horribles personas. . Lauren

Jeinstein, una militante de la privacidad online, se pregunt> en su 'oogle 5lus si 1aceboo2

hab?a &atadoa alguien con su eercicio de manipulaci>n de emociones.

Las preocupaciones Cticas estaban ustificadas. $unn de llevar a cabo la investigaci>n

psicol>gica en la gente sin decirles era, en el meor y en el peor caso, reprobable. /e viol> la

pol?tica del Departamento de /alud y /ervicios 9umanos de los stados 8nidos para la

protecci>n de los humanos suetos de investigaci>n @conocida como la ./o&&on RuleA, as?

como el c>digo de Ctica de la $sociaci>n $mericana de 5sicolog?a. Y un tanto m=s

ine(cusable fue el fracaso de la compa?a para e(cluir a los menores de la prueba de grupo.

l hecho de n de la informaci>n se llev> a cabo por las computadoras de

los investigadores en lugar de por los propios investigadores B un detalle el profesor de derecho de la

8niversidad de aryland Kames 'rimmelmann, Huna manipulaci>n psicol>gica sigue siendomanipulaci>n psicol>gica, incluso cuando se lleva a cabo de forma autom=tica.

2

http://www.pnas.org/content/111/24/8788.fullhttp://www.pnas.org/content/111/24/8788.fullhttp://www.pnas.org/content/111/24/8788.full

7/25/2019 Nuestros Algoritmos

3/8

/in embargo, la intensidad de la reacci>n parec?a inconmensurable con su obeto. 8na vez

superado el tema de la Ctica dudosa y el t?tulo alarmante, el estudio result> ser un pobre

eercicio. 8na investigaci>n psicol>gica anterior hab?a sugerido

7/25/2019 Nuestros Algoritmos

4/8

$ndre4 Ledvina, dio a *+e all 4treet 5ournaln es inocua. 'oogle,

prob> una vez 0! tonos diferentes de azul en una barra de herramientas de una p=gina 4eb

para determinar

7/25/2019 Nuestros Algoritmos

5/8

clientesMusuarios en busca de pareas. 5or eemplo, realizo e(perimentos modificando las

descripciones y fotos de perfil de los usuarios. Incluso, han hecho circular falsos Hratings de

compatibilidad para ver lo en su blogE /aben n es con suvida como graf>logo, intCrprete y escritor. La deuda y la subasta, as? como el comunicado de

prensa de -3 palabras sobre ellos, se perdi> de la memoria p:blica. l hematoma san>.

5ero luego, en *++", casi una docena de aos m=s tarde, el episodio salt> nuevamente a la

vida. La Panguardia puso sus archivos en l?nea, el robot de rastreo 4eb de 'oogle olfate> el

vieo art?culo sobre la subasta, y autom=ticamente lo agreg> a la base de datos del motor de

b:s a aparecer cuando alguien en spaa hac?a

una b:s a los reguladores la orden de

7/25/2019 Nuestros Algoritmos

6/8

hizo su camino hacia la %orte de Kusticia de la 8ni>n uropea en Lu(emburgo, donde el caso

se hizo conocido como el derecho al olvido. l !- de mayo de *+!0, la %orte /uprema

emiti> su decisi>n. 5oniCndose del lado de %ostea y la $gencia de 5rotecci>n de Datos

espaola, los ueces dictaminaron n en l?nea a gran escala. La directiva se hab?a promulgado para facilitar el

intercambio de datos entre pa?ses, a la vez n de otros derechos ciudadanos. Hientras n, Ha:n as? deben, sin importar la

nacionalidad o residencia de las personas, respetar sus derechos y libertades

fundamentales, especialmente el derecho a la privacidad, y contribuir al progreso social y

econ>mico, e(pandir el comercio y el bienestar de los individuos.

5ara proteger a las personas de un trato abusivo o inusto, la directiva impone regulaciones

estrictas sobre las empresas y otras organizaciones n personal. /e ren con los fines para los

7/25/2019 Nuestros Algoritmos

7/8

Los motores de b:sn. No est=n creando el contenido lo nos ayuda a encontrar las cosas lo estaba proclamando la l?nea de la compa?a, e(presaba la concepci>n popular de los

agregadores de informaci>n.

l tribunal opt> por un punto de vista diferente. La agregaci>n en l?nea no es un acto

neutral, resolvi>, sino una transformaci>n. n la recopilaci>n, organizaci>n y clasificaci>n de

la informaci>n, un motor de b:s

7/25/2019 Nuestros Algoritmos

8/8

adudicaciones sobre las solicitudes para eliminar contenidos bao derechos de autor. l mes

pasado, el %onseo $sesor de 'oogle sobre el Derecho a /er Glvidado emiti> un informe el conte(to de la sentencia y la respuesta de la empresa. De hecho, el conseo

escribi>, la sentencia no establece un derecho general a /er Glvidado. La aplicaci>n de la

resoluci>n no tiene el efecto inmediato de SolvidarS la informaci>n sobre el titular de los

datos. n lugar de ello, se ren operados con fines comerciales, inevitablemente, se ver=n

comprometidos y siempre deben ser tratados con cuidado. se es ciertamente el caso de un

motor de b:sn, est=n siendo manipuladas. Ignorar esa responsabilidad, o eludirla por