Martin Hilbert

Carlos Peña

Martin Hilbert:“Nos condena arepetir nuestrahistoria”

Cada vez es más claro que dar poder a lainteligencia artificial (IA) limita la libertad envarios aspectos. Hoy, la mayor parte de la IAcomercialmente viable es de aprendizajeautomático, y el aprendizaje automáticoextrae el conocimiento de los datos, de cadahuella digital que dejas con cada paso digitalque das. Por lo tanto, este aprendizaje auto-mático solo puede replicar los pasados queya existieron. Más aún: crea una versiónoptimizada de ese pasado. ¿Quieres vivir enuna versión optimizada del pasado de Chile?Probablemente no. Como sea, no hay datossobre un Chile sin pobreza, sin contamina-ción y sin conflicto armado. Dar todo elpoder a la IA nos condena a repetir nuestrahistoria por siempre. Limita nuestra libertadporque nos encierra en nuestros pasadosy/o, al menos, en los pasados de aquellos quenos han precedido.

Que la IA potenciada por datos aprendasobre tus preferencias pasadas y te muestreavisos que coinciden con ellas es genial siestás buscando un producto de consumo,pero es horrible si quieres informarte políti-camente. Reafirma los sesgos existentes, loque al final lleva al extremismo y la polariza-ción y al hecho bien conocido de que laizquierda y la derecha ya no hablan entre sí.

También puede interferircon tu creatividad. Buscaen línea la aplicaciónSketch-rnn, que es unaherramienta de aprendi-zaje automático deGoogle que te recomien-da maneras de dibujar.Mientras dibujas, pregún-tate, ¿cuánto está influ-yendo/limitando/cam-

biando tu “libre albedrío”? ¿Esta guía digitalfomenta o limita tu “libre albedrío” paradibujar lo que quieras? Lo mismo pasa contus elecciones de consumo, tus amistades,tus opiniones políticas: todas están moldea-das hoy por el filtro de la IA

Entonces, ¿seremos limitados por la IA?Sí. Estamos haciendo una reingeniería de lahumanidad, estamos permitiendo que nues-tros patrones ya existentes jueguen un papelmucho más importante al potenciarlos através de la IA. Esto nos encierra en uncircuito de retroalimentación que podríallevarnos a una espiral, especialmente por-que en muchas áreas la IA es un pensadormucho mejor, más consistente y más pode-roso que el cerebro humano. Pero, y este esun pero importante, ¿quién dice que elcerebro humano es solo una máquina pen-sante? Si los humanos solo somos eso,tenemos un problema. Necesitamos desarro-llar un nivel de conciencia que no solo sea losuficientemente fuerte para guiar nuestropropio pensamiento (actualmente muy pocaspersonas pueden hacer esto), sino que unnivel de conciencia aún más fuerte, capaz deguiar a nuestras máquinas de pensamiento.En resumen: nosotros, como humanidad,necesitamos evolucionar. Con rapidez.

Martin Hilbert es profesor de la Universidad de California,

especialista en comunicación, creó y coordinó el Programa

Sociedad de la Información de la Cepal; es autor de “Digital

processes and democratic theory” (Google Books).

DA

NN

EM

AN

N C

AR

LA

te es mercantilizar todas las esferasde nuestras vidas, cree Sadin.

Otro autor, el economista cana-diense Nick Srnicek (“Capitalismo deplataformas”, Caja Negra), habla deun “capitalismo de datos”, a propósi-to de la economía basada en aplica-ciones o plataformas móviles, desdeGoogle a Airbnb. Aunque él, a dife-rencia de los temerosos de la tecnolo-gía, aboga por acelerarla, pero a favorde realidades disruptivas que, dice,permitan superar el capitalismo.

El triunfo de lainformación

Al menos desde el siglo XVIII, elprogreso tecnológico es una promesade cada vez mayor libertad para el serhumano: libertad o, si se prefiere, au-tonomía respecto de lo que podría-mos llamar el destino o la naturaleza;la posibilidad es forjar nuestro futu-ro, incluso ganar tiempo libre (másocio) gracias a que las máquinas seharán cargo de las tareas que ocupa-ban nuestras jornadas.

Esa promesa es la que se ha renova-do en el siglo XXI con la revolucióndigital y últimamente con los avancesde la inteligencia artificial y del pro-cesamiento de datos (big data); inclu-so autores como el físico chileno Cé-sar Hidalgo hablan del “triunfo de lainformación”. “La democracia tieneesta idea de que la gente tiene queejercer el poder, pero como las perso-nas no pueden ejercer el poder de ma-nera directa, se elige a un represen-tante, y ese representante es un cuello

de botella en el sistema al que cual-quiera que desee capturar la demo-cracia, debe capturar también”, dijoel año pasado Hidalgo a “El Mercu-rio”. ¿La solución? “Imagínate un fu-turo en el cual cada persona tiene unsenador personalizado, pero ese se-nador personalizado no es una perso-na, es un software, un agente de inteli-gencia artificial, que toma datos so-bre tus hábitos de lectura, sobre tusinteracciones en redes sociales, tutest de personalidad, informaciónque tú le provees a esa persona vir-tual para que te represente cada vezque una ley o una legislación se va avotar”.

Dicho a grandes rasgos, están losoptimistas que ven en el big data laposibilidad de superar desigualda-des y aumentar la libertad humana; ylos pesimistas que, en cambio, acusanque detrás de ese mundo feliz está elGran Hermano. Entremedio hay au-tores como el filósofo francés LucFerry, autor de “La revolución trans-humanista” (Alianza), quien, dadaslas bondades de las nuevas tecnolo-gías, desde la medicina a la economía,se pregunta hasta dónde estamos dis-puestos a sacrificar importantes áre-as de nuestra vida privada “para be-neficiarnos con las ventajas del big da-ta”. Por ejemplo, una investigacióndel diario El País de España mostróque YouTube, la plataforma de vide-os en línea, escoge contenido extre-mo, sin importar si son noticias fal-sas, para mantenernos enganchadosa la pantalla. Entonces, ¿quién eligecuando elegimos qué ver?

Dicho de otro modo: ante el expo-nencial avance en el procesa-miento de datos, qué cree us-ted, ¿vivimos la utopía del da-taísmo?, ¿estamos cerca de la

autonomía que prometió ybuscó la Ilustración? o,al revés, ¿el progreso

tecnológico y en particu-lar esta sociedad de los

datos nos lleva al paradó-jico resultado de una pér-

dida de libertad?

DEBATE El dataísmo o la ideología de nuestros tiempos

LA UTOPÍADE LOS DATOS:

¿un mundo feliz?

JUAN RODRÍGUEZ M.

E 2 ARTES Y LETRAS DOMINGO 7 DE JULIO DE 2019Debate

Carlos Peña: “La tontería del dataísmo”El dataísmo, como lo llamó David Brooks,

designa dos cosas al mismo tiempo. Por unaparte, la increíble capacidad hoy disponiblepara reunir y procesar datos; de otra parte,la convicción ideológica de que ese fenóme-no, conforme se expanda, hará la vidahumana mejor.

Pienso que ambas afirmaciones que lafilosofía del dato esconde son erróneas.

Desde luego, reunir y procesar datos sirvepara predecir comportamientos, hábitos deconsumo e incluso trazar perfiles genéticos;pero hay algo que ni siquiera la reunión másfantástica de datos imaginable podría hacer:tener intenciones o capacidad reflexiva. Así,los datos permitirían saber en sentido causal(¿cómo llegó a ocurrir tal o cual cosa?), peroson y serán siempre ciegos para saber ensentido intencional (¿por qué ocurrió tal o

cual cosa?). Los datos pueden describir lo quehacen los partícipes de un juego; pero nocaptarán el sentido de jugar. Y es que lo quellamamos cultura (que casi se identifica conlo que llamaríamos humano) no puede serexplicado en términos puramente causales.Por eso desde antiguo las ciencias sociales olas humanidades han buscado metodologíascomprensivas, esfuerzos por captar o apre-hender la intencionalidad que subyace acualquier esfuerzo humano. En suma, eldataísmo en su dimensión tecnológica —lacapacidad de reunir y procesar datos—podrá aligerar la vida y predecir comporta-mientos rutinarios; pero no agregará un ápicea esa dimensión de lo humano consistente enejecutar actos con propósitos y conferirles unsentido.

Pero el dataísmo no solo deja escapar la

intencionalidad. Tampoco hará la vida mejor.Por supuesto, la hará mejor en sentido

puramente utilitario (las empresas dirigiránsus ofertas con más eficiencia, el comporta-miento de individuos agregados sepodrá predecir, la congestión enlas ciudades administrar, etcéte-ra); pero no la hará mejor ensentido moral.

Por el contrario, la filosofía deldataísmo arriesga un daño moral.

Ocurre que la cultura democrá-tica descansa sobre una imagendel ser humano como un agente desu propio quehacer, alguien queestá constituido por un magnífico factor deincertidumbre al que llamamos libertad. Laidea de responsabilidad, la creencia de quehay cosas que acontecen porque son causa-

das por nuestra decisión; la de dignidad, quereposa en la convicción de que cada uno esúnico e irrepetible; la de inviolabilidad,conforme a la cual ningún ser humano

puede ser usado como medio, sontodas ideas que reposan sobre laimagen de lo humano como unamezcla de destino y desempeño enproporciones que ignoramos. Sicomenzamos a ver al ser humanocomo el fruto de una causalidadque los datos permiten describir,todos esos bienes morales sevendrán poco a poco al suelo.Después de todo, si supiéramos (o

creyéramos saber) que hay algunos entrenosotros condenados ex ante a ser unfracaso, si de pronto creyéramos que nues-tro comportamiento es totalmente predeci-

ble, si nos dejáramos seducir por la idea deque los algoritmos describen lo humano,entonces todos nuestros ideales morales, laigualdad y la libertad, serían simples fanta-sías, cuentos contados por un idiota.

El dataísmo, en su dimensión filosófica,la creencia de que la acumulación de datosnos hará mejores, es así una simple reedi-ción de lo que pudiéramos llamar la supers-tición tecnológica, la idea de que si reuni-mos suficientes datos el secreto de lohumano acabará; la idea, en fin, de que siponemos a un simio a teclear una computa-dora durante un tiempo suficientementelargo, podría acabar escribiendo “El Quijo-te” o “La crítica de la razón pura”.

Carlos Peña es filósofo, rector de la UDP; su libro más

reciente es “El tiempo de la memoria” (Taurus).

LUC

IAN

O A

EN

ISH

AN

SLI

NS

E l 4 de febrero de 2013 el pe-riodista David Brooks escri-bió en The New York Times:“Si me pidieran describir la

filosofía emergente del momento, di-ría que es el datoísmo. Hoy tenemosla capacidad de recopilar grandescantidades de datos. Esta capacidadparece llevar consigo ciertos supues-tos culturales: que todo lo que se pue-de medir debe medirse, que esos da-tos son un lente transparente y con-fiable que nos permite filtrar el senti-mentalismo y la ideología, que esosdatos nos ayudarán a hacer cosas no-tables, como predecir el futuro”.

Seis años después, lo que entoncesera una filosofía emergente y un con-cepto recién acuñado —datoísmo odataísmo— se ha convertido en unaideología y hasta en una religión. O almenos eso es lo que dicen intelectua-les como el filósofo surcoreano-ale-mán Byung-Chul Han o el historia-dor israelí Yuval Noah Harari; auto-res, respectivamente, de “Psicopolí-t i ca” (Her der ) y “Homo Deus”(Debate). Una religión, dice Harari,porque se trata de una devoción porlos datos, potenciada hasta lo inima-ginable debido a los progresos de lainteligencia artificial, que se abastecede ellos: gracias a nuestros computa-dores y celulares inteligentes (y cadavez más: refrigeradores, relojes, tele-visores, autos y, por qué no imaginar,nuestras camas), lo que hacemos setraduce en datos que recogen lasgrandes corporaciones de internet, apartir de los cuales se puede desdepredecir y modelar comportamientosindividuales y colectivos, reempla-zar a buena parte de la fuerza laboral

humana (o eso es lo que se augura), ylograr, también, progresos fantásti-cos en la medicina y la ingeniería, porejemplo.

Según Han, esa acumulación de da-tos es un entramado de informacio-nes, pero no de sentido; no hay narra-ción, tampoco teoría, se pierde el“aroma del tiempo”, la memoria. “Lasegunda Ilustración”, dice, “es eltiempo del saber puramente movidopor datos”. Por su parte, Harari afir-ma que después de haber venerado alos dioses y a los hombres, la adora-ción de los datos pone en cuestión alhumanismo y al libre albedrío.

El filósofo francés Éric Sadin, autorde “La humanidad aumentada” (Cajanegra), ha dicho: “Esos sistemas soncapaces de interpretar situaciones ytomar decisiones sin que el ser huma-no tenga que intervenir”. El horizon-

Todo es cuantificable. La inteligencia artificial alimentada por una inmensa masa de datos promete revolucionarnuestras vidas; ya lo está haciendo: desde autos sin conductor humano, pasando por progresos médicos y, en general,la liberación de labores y decisiones que llenan nuestro día: cómo llegar a algún lado, qué regalarle a un amigo, cuál esla mejor política pública. Una pregunta antigua vuelve a tener vigencia: ¿la tecnología nos conduce a la autonomía o alfin del libre albedrío? Es lo que se reflexionan autores como Yuval Noah Harari y Byung-Chul Han.

MÁS OPINIONES EN E 4

FAB

IÁN

RIV

AS