innovación en la empresa y liderazgo femeninoinnovación en la empresa y liderazgo femenino loria...
TRANSCRIPT
1
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAMOctubre de 2019
pimec.org
2
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
Este informe da una perspectiva personal de hacia dónde va la innovación, así como de la posición que ocupa la mujer en el liderazgo del desarrollo de la tecnología, en el acceso al capital y el impacto de esa tecnología, en base a informes y estudios de reciente publicación.
El objetivo del informe es acercarse a la innovación desde varios puntos de vista:
• Comprender las tendencias de los mercados, cuáles son los campos con más futuro profesional y qué lugar ocupa la mujer hoy en día con respecto a estas nuevas profesiones
• El emprendimiento como laboratorio de pruebas para la innovación, y los retos a los que se enfrenta la mujer para acceder al capital
• El papel de la mujer en el desarrollo de tecnología y cómo afectan los resultados de áreas como la inte-ligencia artificial, Machine Learning o Big Data a su papel en la sociedad
En los múltiples informes utilizados como apoyo de este estudio, nos hemos centrado en la variable de género, aunque otros aspectos de la diversidad como la raza, edad, nacionalidad, etc., están íntimamente relacionados con los resultados, pero no son el enfoque principal de este estudio.
Introducción
3
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
Con respecto al posicionamiento de la mujer para acceder a profesiones de futuro y crear el interés y la vocación de las niñas por este tipo de carreras:
• La innovación y el futuro de la economía están íntimamente relacionados con STEM, ciencia, tecnolo-gía, ingeniería y matemáticas, a las que se suele añadir la parte creativa del arte y la arquitectura, para pasar a ser STEAM
• El interés de las niñas en los estudios relacionados con estas disciplinas aumenta, pero solo un porcen-taje muy pequeño se gradúa en estas disciplinas.
Existen muchas iniciativas para inspirar a las chicas a tener intereses por STEAM. Sin embargo, aun des-pués de participar en algunas de estas iniciativas, las chicas disfrutan de los talleres durante un día, pero sorprendentemente, pocas comentan a la salida que quieren ser ingenieras. De alguna manera se sigue asociando el papel de un técnico informático con esa persona aislada conectada a un ordenador en un sótano comiendo hamburguesas. La televisión y las redes sociales han creado esa imagen y a ninguna niña le atrae esta imagen. De hecho, la TV influye muchísimo en lo que les parece atractivo. Durante una época todos los adolescentes querían ser Chefs (siguiendo Mater Chef) y últimamente quieren ser YouTubers o Influencers.
Las empresas tecnológicas deberían de aliarse con otros estamentos de la sociedad y promover la creación de una serie de televisión, o de dibujos animados, en la que las chicas técnicas tuvieran una vida fascinante y atractiva que les hiciera querer ser igual. O fomentar la aparición de Influencers técnicos. Deberíamos de ser capaces de llegar a los jóvenes a través de los medios que ellos utilizan y empezar a crear referencias, o role models, que sirvan de referencias.
Con respecto al papel de la mujer en la economía del futuro y sus tecnologías asociadas como emprende-dora o líder de empresas que generen esa tecnología e innovación cabe decir lo siguiente:
• El emprendimiento sigue siendo mayoritariamente masculino. En España, por ejemplo, se estima que solo el 19% de los emprendedores son mujeres
• El acceso al capital es bastante complicado para la mujer. En EE.UU. solo un 2% va destinado a empren-dedoras
• Existe una dicotomía ya que las empresas donde hay un mayor número de mujeres tienen alrededor de un 15% más de beneficios
• En los últimos meses han surgido varias iniciativas para incrementar el número de mujeres en fondos de inversión, capital riesgo y Business Angels
• Hay pocas mujeres en sectores críticos, como la inteligencia artificial, pero además del aumento de mujeres en esta área es necesario un cambio fundamental en el entorno laboral
Desde el punto de vista del emprendimiento, me preocupa el poco o mucho seguimiento que se hace del “dinero”. Informes anuales en los que se identifique el porcentaje de inversión al que accede la mujer, así como el impacto que el dinero tiene en la mujer. Por ejemplo, entender de qué manera los fondos creados
Conclusiones y recomendaciones
4
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
por la Unión Europea en el 2017 a través de WA4E para formar mujeres Business Angels han impactado en el emprendimiento femenino. La creación de plataformas interregionales donde estos temas se puedan discutir y se intente compartir y aprender de otros modelos puede ser también una forma de estimular la aparición de la mujer en los distintos entornos de capital que fomenten la innovación y el emprendimiento.
Extender los planes de igualdad en las empresas más allá de las prácticas existentes (en España es obli-gatorio si hay más de 50 empleados), hoy puede ser un primer paso para asegurarnos de que el entorno laboral se prepare para crear oportunidades para las mujeres.
Con respecto a la tecnología, inteligencia artificial, Machine Learning y Big Data:
• Los sistemas de IA reflejan sesgos de varios tipos en sus datos, algoritmos y sistemas de decisión
• En la mayoría de los casos reflejan y replican los sesgos de desigualdad de la sociedad
• Los datos utilizados introducen sesgos históricos, de representación, de medición, agregación y de evaluación
La creación de organismos que observen y denuncien los sesgos en las nuevas tecnologías es clave. En mi opinión, la emergente industria de creación de datos debe regularse para que temas relacionados con la diversidad e incluso con la ética sean tenidos en cuenta. Estamos en la fase inicial de estas tecnologías que están naciendo con sesgos y sin mecanismos identificados de corrección.
Mi conclusión es que la tecnología no puede cambiar si no cambia la cultura. Debemos crear modelos diferentes de acercarnos a la realidad o, de lo contrario, simplemente amplificaremos todos los sesgos que existen ahora, porque la tecnología es un potenciador, no un fin en sí mismo.
El cambio pasa por un enfoque multidisciplinar en:
• la construcción de modelos
• datos utilizados
• diversidad de empresas creadas
• tecnología creada por mujeres
• aumento de mujeres en puestos de dirección
• acceso igualitario al capital
Nuria Oliver1 , última académica nombrada por la Real Academia de Ingeniería, comenta que “no toda in-novación tecnológica representa progreso, y a lo que deberíamos aspirar es al progreso”.
Refleja una de las conclusiones más importantes de este informe, y es que la innovación no se basa en un aumento del desarrollo de la tecnología sin más. Debe aportar un enfoque diferente, diverso, sostenible y global que nos lleve al progreso, no a la invasión de múltiples tecnologías que, partiendo de una sociedad sesgada, creen una sociedad futura con estos sesgos aún más amplificados y en la que no demos oportu-nidad a las aportaciones que pueden hacer la mujer y el liderazgo femenino.
1 Nuria Oliver, “El cazador de cerebros”, La 2, 2019
5
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
2 The Business Woman Media, “Why are the stats on women in tech actually getting worse?”, 20173 Future & STEAM, WA4STEAM, 2018
Una nota personal antes de empezar el informe, que creo que ayuda a posicionar las inquietudes que me han llevado a tratar el tema.
Soy licenciada en Informática por la Universidad Politécnica de Madrid. Cuando empecé la carrera a me-diados de los años 80, la informática era una nueva disciplina dentro de las ingenierías que se podía estu-diar en España en tres instituciones: la Universidad de Deusto, la Universidad Politécnica de Barcelona y la Universidad Politécnica de Madrid.
En la promoción de 1984, entramos aproximadamente un 40% de chicas, y en ese momento era proba-blemente una de las ingenierías que más atraía a mujeres, por lo que en ningún momento me planteé que estudiar una ingeniería fuera algo raro para una chica. Me apasionaban las matemáticas y los idiomas (que consideraba extensiones de reglas matemáticas), y me vi rodeada de muchas compañeras con inquietu-des similares.
Hace unos años lanzamos una iniciativa dentro de la multinacional en la que trabajo para promover que las chicas estudiaran carreras técnicas, y en una reunión con la UPB me sorprendió que el número de chicas matriculadas en Informática había caído a menos de un 10%.
¿Qué ha pasado en estos 25 años para que el atractivo de una carrera como informática hubiera desa-parecido, justo cuando más acceso tenemos a la tecnología? ¿Por qué las que fuimos pioneras en estas carreras no hemos sido capaces de servir como modelo a generaciones futuras? De hecho, ¿dónde están mis compañeras que deberían representar el 40% de la fuerza de trabajo y liderazgo en tecnología hoy en día? Lo que parecía una oportunidad de conocimiento para atraer a mujeres a carreras técnicas, después de comenzar con un buen porcentaje había disminuido a niveles muy bajos inversamente proporcional al aumento y presencia de la tecnología en nuestras vidas. Y como parece seguir disminuyendo, ¿qué im-plicaciones tiene que cada vez haya menos interés de las chicas en estas carreras o en estos puestos de trabajo en la sociedad que estamos construyendo?
Aunque la mujer accede a carreras universitarias en un porcentaje mayor, el interés por carreras STEAM es claramente menor. STEAM son las siglas en inglés de Ciencia, Tecnología, Ingeniería, Arte y Matemáticas. El interés por STEAM parece aumentar en las niñas en el bachillerato, pero solo un 12% se gradúa en inge-nierías relacionadas con la informática, por ejemplo (frente al 37% en 1984), según un estudio publicado por The Woman Business Media2. En EE.UU. la mayoría de las carreras tecnológicas atraen a pocas estu-diantes, y de estas, un número aún menor terminan estas carreras. La falta de figuras femeninas destaca-bles que sirvan de ejemplo, role-models, en tecnología es una de las causas más señaladas.
WA4STEAM3, asociación de Women Angels creada en España y a la que pertenezco, ha llevado a cabo un detallado estudio interno sobre el futuro de la economía y las conclusiones son claras. El futuro de la economía se posiciona alrededor de STEAM.
El Bureu of Labor Statistics (BLS) de EE.UU. estima que el empleo relacionado con STEM crecerá en más de 9 millones de puestos entre el 2010 y el 2022.
En Europa, el European Center for the Development of Vocational Training (CEDEPOF) estimó que el empleo de profesionales STEM y de puestos relacionados en la UE se ha incrementado desde el año 2000
Empleo y mujer en STEAM
6
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
a pesar de la crisis económica. Se espera que la demanda de estos profesionales crezca alrededor del 8% entre el 2013 y el 2025, mientras que para el resto de las profesiones se espera un crecimiento de un 3%.
Estos informes indican que la demanda de profesionales se enfoca claramente hacia las profesiones de este tipo. Pero por mi experiencia, de alguna manera coincidente con estas estadísticas, las mujeres es-tamos bastante lejos de jugar un papel clave en una sociedad en la que representamos a la mitad de la población.
La mujer y el empleo
Según Eurostat4, solo el 67,4% de las mujeres están empleadas frente al 79% de los hombres (en pobla-ciones de entre 20 y 64 años). Las oportunidades de empleo son mayores para aquellos con niveles de educación más altos (85,8% en 2018) versus el 56,8% con un nivel bajo de educación.
Además de la educación, la mujer tiene tradicionalmente otro tipo de responsabilidades que le impiden acceder a los puestos de trabajo. Su rol como cuidadora de la familia, ya sea con hijos o con mayores, hace que muchas veces tome un papel secundario en la economía familiar. Continúa teniendo un rol primordial en el cuidado de la casa, de la familia, siendo la que en la mayoría de los casos sacrifica su carrera. Esto expli-caría por qué, a pesar de tener acceso a la educación, en la mayoría de los casos de una manera equitativa, no se ve reflejada al mismo nivel en el mercado laboral.
4 Eurostat, Employment Statistics, 2019
Eurostat: Relación Empleo/Educación 1
7
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
La mujer en la ciencia y la investigación
Algo muy parecido ocurre en el campo de la ciencia y de la investigación, donde según el último estudio publicado por Unesco5 sobre Mujer y Ciencia la mujer sigue siendo minoría en el mundo de la investigación.
En la Europa Occidental el número de mujeres dedicadas a la investigación varía entre el 0% y el 45% (40% en el caso de España).
Pero no todo son malas noticias. El número de científicas e ingenieras ha aumentado en un 130% desde el 2008, representando un 37% en Europa, según Eurostat.
5 Unesco, Women in Science, 2018
Unesco: % Dona en recerca 1
8
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
Es decir, a pesar de que el número de mujeres graduadas en tecnología ha bajado, el número total de cien-tíficas e ingenieras va en aumento.
En mi experiencia como Business Angel, he notado que muchas mujeres están interesadas por ejemplo en temas de biotecnología, tecnologías aplicadas a la sanidad, ciencias ambientales, sostenibilidad, etc., por lo que este incremento puede compensar nuestra baja representación en otros temas relacionados con la ingeniería, tradicionalmente más masculinos.
9
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
El emprendimiento en sectores tecnológicos juega un papel muy importante para identificar, desarrollar y probar nuevas tecnologías que ayuden al progreso de nuestra sociedad. Es una manera de experimentar la innovación fuera de la empresa pública o privada o de las áreas de investigación asociadas a las ciencias.
Según el Mapa de Emprendimiento (1) elaborado por el South Summit 2019, en España las mujeres solo representan el 19% del total de emprendedores. Este dato es ligeramente superior al del resto de Europa (17%), pero llama la atención que en el resto del mundo o incluso en Latinoamérica se acercan al 27%.
Dentro del ecosistema español, y según este mismo informe, el 39% de los equipos fundadores de start-ups españolas incluyen al menos una mujer, aunque es frecuente que en start-ups donde hay varios fun-dadores (cuatro o más) todos sean hombres.
Cuando la mujer emprende, tiende a hacerlo sola. Según este informe, el 62% de las mujeres lo hacen so-las. Los hombres tienden a tener cofundadores. Es frecuente que en equipos con más de tres fundadores todos sean hombres, pero que sean todas mujeres es prácticamente un número residual.
Desde nuestra experiencia como Business Angels, invirtiendo solo en empresas lideradas o colideradas por mujeres, hemos notado que una gran mayoría de ellas está fundada por una o dos mujeres. Su aproxi-mación a la dirección y gestión de la start-up es muy cuidadosa. Suelen ser muy conservadoras a la hora de pedir dinero, casi siempre cercano al mínimo requerido. No les es fácil pedir dinero y a la hora de gastarlo son tremendamente cautelosas. En numerosas reuniones sacan el tema de que el dinero que tienen no es suyo, sino de sus inversores, temas que rara vez se escuchan en start-ups masculinas.
Emprendimiento y mujer
Ilustración 1: Mujer Emprendedora, South Summit 2019 (1)
10
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
Acceso al capitalPor varias razones como las mencionadas en la sección anterior, uno de los principales problemas a los que se enfrentan las mujeres emprendedoras es la dificultad de acceso al capital. Según un estudio de la revista Fortune6, solo el 2% del capital de inversión en EE. UU. recayó en emprendedoras en el 2017. Estas inversio-nes en empresas fundadas por mujeres representan solo el 4,4% de empresas invertidas.
Aparte de las dificultades propias de la mujer a la hora de pedir dinero, resulta curioso ver cómo se interpre-ta su forma de pedirlo. Según un estudio7 realizado en Suecia, en el que se revisaron más de 100 transcrip-ciones de reuniones de inversores después de escuchar a emprendedores, se descubrió que las decisiones están claramente sesgadas. En muchos casos, se vio que valores que se describían como positivos en un hombre, se volvían negativos al encontrarlos en una mujer. Estos son algunos de los ejemplos publicados por el estudio:
Palabras usadas para describir al Emprendedor Palabras usadas para describir a la Emprendedora
Joven y prometedor Joven e inexperta
Arrogante pero con una competencia impresionante Carece de contactos y necesita desarrollar más su idea
Agresivo, pero muy buen emprendedor Entusiasta pero débil
Con experiencia y conocimiento Con experiencia, pero tendencia a la preocupación
Muy competente e innovador y tiene dinero para intentarlo
Muy guapa pero no tiene cuidado con el dinero
Cauteloso, sensato y equilibrado Demasiado cautelosa y poco atrevida
Extremadamente capaz y muy motivado Carece de capacidad para aventurarse y crecer
Ingeniero de universidad prestigiosa y con experien-cia en llevar business
Visionaria, pero sin conocimiento del mercado
Total # VC Deals/género 1
6 Fortune Magazine, “Funding For Female Founders Stalled at 2.2% of VC Dollars in 2018”7 Harvard Business Review, “We recorded VCs’ conversations and analysed how differently they talked about female entrepreneurs, 2017
11
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
El perfil de emprendedor se asocia automáticamente a hombres con estereotipos masculinos: agresivo, ambicioso, independiente, creativo y que sabe arriesgarse.
De hecho, alguna de las emprendedoras nos ha confesado enfrentarse en alguna ocasión a preguntas fue-ra de lugar como cuándo piensas quedarte embarazada, o por qué voy a invertir en alguien que va a dejar la empresa para tener hijos.
Existe un sesgo inconsciente a la hora de dar capital a una emprendedora.
Sarah Thébaud, UC Santa Bárbara, publicó un estudio8 en el que intentaba identificar algunas razones de este sesgo. Según ella, “si eres emprendedor y haces algo innovador, es difícil conseguir apoyo, porque hay mayor riesgo de fallar”, por lo que “la innovación podría penalizar más a las mujeres: si se duda de las competencias de una emprendedora, y además presentan una idea arriesgada, aunque novedosa, podría socavar aún más su capacidad de ganar credibilidad y apoyo. Sin embargo, la innovación se basa, precisa-mente, en la posesión de los rasgos y habilidades que tipifican al estereotipo de emprendedores del que se supone que las mujeres carecen.” Por lo que se produce una contradicción. Parece ser que cuando la mu-jer presenta un caso excepcionalmente innovador y muy ambicioso, mayor éxito tiene. Es decir, empieza a mostrar rasgos asociados al hombre.
La mujer tiende a presentar datos y estados realistas, pero es importante que añada su visión para que los inversores vean el potencial y que piensa en grande. Es decir, que sea vista como menos conservadora.
Creo que es importante preparar a la mujer para que rompa muchos de los estereotipos que tienen las firmas inversoras. Que sea consciente de ellos y que vaya preparada a estas reuniones.
Distintos agentes del ecosistema tienen programas para preparar estas reuniones con inversores, pero creo que pocos hacen hincapié en el “elefante rosa”, es decir, en qué hacer en el caso de detectar un claro sesgo hacia las emprendedoras. Algunas de las emprendedoras que sigo comentan que en algún momen-to les han recomendado contratar a un “señor” como CEO de la empresa para poder acceder con más facilidad al capital. Hay mucho trabajo que hacer para cambiar por un lado la manera en la que la mujer se posiciona para acceder al capital, y por otro lado la posición de los inversores al otro lado de la mesa, y que sean conscientes de sus sesgos y sean capaces de ver la oportunidad que estas emprendedoras ponen sobre la mesa.
Otra manera de incrementar el acceso a capital es fomentando que las firmas inversoras que toman la deci-sión sobre la inversión tengan más mujeres en sus equipos de decisión. Las mujeres se encuentran mucho más cómodas cuando tienen que presentar su start-up a empresas cuyo objetivo es ayudar a mujeres o que están formadas principalmente por mujeres. Es el feedback que hemos recibido de nuestras invertidas desde WA4STEAM. Se crea un entorno “amable” para tratar temas relacionados con el dinero.
Por esto, no resulta extraño que estén surgiendo más y más iniciativas para incrementar el número de mu-jeres inversoras. Según un artículo reciente de la Harvard Business Review9, en EE.UU. solo el 11% de inver-soras de capital son mujeres, y el 71% de firmas de capital de inversión no tienen mujeres asociadas.
Además, las empresas en las que hay mujeres en la dirección tienen resultados mejores, como ya indicó McKensey en su informe Diversity Matters10, donde se estima que las empresas con diversidad de género tienen resultados aproximadamente un 15% mejores.
8 Thébaud, Sarah, UC Santa Bárbara, EurekAlert, “Women in Business”, 20159 Harvard Business Review, “HOW VC CAN HELP MORE WOMEN GET AHEAD”, 201910 McKinsey, Informe “Diversity Matters”, 2015
12
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
Es por eso por lo que las empresas de capital riesgo o fondos de inversión están empezando a cambiar sus estrategias para enfocarse más en mujeres emprendedoras.
Según el Founder Institute11, hoy existen 10 fondos de inversión enfocados principalmente en mujeres em-prendedoras en EE.UU.: Halogen Ventures, The Urban Innovation Fund, Glasswing Ventures, Fika Ven-tures, SoGal Ventures, 112 Capital, 500 Startups, Aspect Ventures, BBG Ventures y Boulder Food Group.
Todas estas firmas han sido creadas por mujeres, con la excepción de la última, que en cualquier caso ha invertido mayoritariamente en empresas creadas por mujeres.
Y en Europa se empiezan a ver movimientos parecidos. En octubre del 2019, de un grupo de 25 firmas ho-landesas de capital de riesgo, 12 anunciaron que solo invertirán en start-ups con más del 35% de mujeres. En total suman más de 1 billón de euros, y se han concedido 3 años para llevar a cabo la inversión.
Y no solo los grupos de inversión. La Unión Europea creó un proyecto en el año 2017 para incrementar el número de mujeres Business Angels en un 10% y generar 2,5 millones de euros de inversión en start-ups europeas e incrementar el acceso al capital de riesgo para las mujeres emprendedoras. Para ello se creó el consorcio de WA4E (Women Angel’s for Europe Entrepreneurs).12
De ahí han surgido iniciativas muy interesantes como WA4STEAM (Women Angels for STEAM), de la que soy cofundadora y que formamos apenas hace un año. Este grupo de mujeres Business Angels está en-focado a la inversión en start-ups lideradas o colideradas por mujeres, y cuyo objetivo esté orientado a STEAM (ciencia, tecnología, ingeniería, matemáticas, más arte y arquitectura). Con los fondos creados en Europa se dio acceso a formación gratuita a través del IESE, y al finalizar el curso, a iniciativa de una veintena de las compañeras lideradas por Regina Llopis se formó la asociación. Hasta octubre del 2019, siendo ya más de 90 Women Angels, hemos invertido más de 700 mil euros en 12 start-ups lideradas por mujeres.
Todas estas iniciativas coinciden en la importancia de obtener fondos para emprendedoras apoyando la ta-rea de superar las dificultades para acceder a capital y en los sesgos a la hora de tomar decisiones respecto a quién conceder capital. 11 Founder Institute, “10 Venture Capital Funds Focusing on Female Entrepreneurs”, 201912 WA4E, “The Barriers and Opportunities for Women Angel Investing in Europe”, 2018
13
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
Todas las razones explicadas anteriormente tienen un impacto inmediato en cómo se está desarrollando la tecnología que va a usarse en el futuro y en los resultados que produce.
Se considera que estamos en una fase muy inicial en tecnologías como la inteligencia artificial, Machine Learning, Big Data etc., pero ya se está viendo que, a pesar de ser nuevas, parten de un conocimiento ses-gado (e histórico), por lo que las implicaciones a largo plazo pueden ser bastante importantes. Tomamos como ejemplo la industria de la inteligencia artificial ya que es el motor de la mayoría de los sistemas que introducen innovación en la tecnología e incluye diversas disciplinas.
Ahora mismo estoy realizando tareas de investigación sobre Machine Learning aplicada a la creación de redes neuronales para la traducción automática. Con este proyecto he aprendido que, además de la tec-nología que se utilice en esta área, son tanto o más importantes los datos que se utilizan para entrenar y enseñar a los motores de cálculo. Podemos generar un motor que produzca resultados muy buenos, pero es difícil evitar que empiece a hacer comentarios machistas o racistas si se le alimenta con este tipo de con-tenidos, como ya ha pasado con algunos bots creados por empresas punteras en esta área, como el caso de Tay13, el bot diseñado por Microsoft para interactuar con usuarios en Twitter, que en menos de 24 horas empezó a emitir comentarios tan machistas y racistas que tuvieron que desconectarlo.
Por esto están surgiendo iniciativas y organizaciones para alertar, comprender y mitigar los efectos de ses-go en los sistemas de IA. Un ejemplo es el AI Now Institute, que ha elaborado varios informes sobre la actual crisis de diversidad en IA. 14
Los sistemas actuales de inteligencia artificial reflejan patrones históricos de discriminación. Además, fa-llan cuando intentan enfrentarse a una distribución desigual del poder y a la manera en la que la IA puede reforzar dicha desigualdad.
Por ejemplo, casi todos los sistemas consideran que el género es binario, eliminando cualquier otra forma de identidad de género.
Los sistemas de IA que se usan para la clasificación, detección y predicción de raza y géneros necesitan ser reevaluados. Por ejemplo, la clasificación de género basada en la apariencia es científicamente defectuo-sa. Los sistemas que usan la apariencia física como un proxy para determinar el carácter o las emociones son bastante sospechosos. Incluidos los que afirman detectar la sexualidad basándose en imágenes, los que predicen criminalidad basándose en rasgos faciales o los que evalúan la competencia de los trabaja-dores a través de “microexpresiones”. Estos sistemas están replicando patrones de sesgo racial y de gé-nero que pueden profundizar y justificar la desigualdad histórica. El hecho de que estas herramientas se estén desplegando comercialmente es motivo de gran preocupación.
Por definición, los sistemas de IA funcionan como sistemas de discriminación. Se basan en tecnologías de
Tecnología y mujer
13 Microsoft Tay, Wikipedia, 201614 AI Now Institute, “DISCRIMINATING SYSTEMS Gender, Race, and Power in AI”, 2019
14
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
clasificación que diferencian y clasifican. Pero la discriminación no está distribuida equitativamente como se ha demostrado en los últimos años. En la mayoría de los casos reflejan y replican los sesgos de desigual-dad de la sociedad.
La comunidad de IA está preocupada para esto, y han empezado a investigar el problema tratando de en-tender quién queda afectado por los resultados, quién se beneficia y quién decide.
Reuters denunció en el año 2018 que Amazon había desarrollado una herramienta experimental de con-tratación para ayudar a clasificar a candidatos para un puesto. Basándose en su conocimiento de contrata-ciones anteriores, Amazon esperaba que la herramienta de escaneo de currículos sería capaz de identificar eficientemente candidatos cualificados comparando sus previas solicitudes de trabajo. Enseguida se vio que el sistema empezó a rebajar a los puestos más bajos a aquellos que venían de candidatos que habían estudiado en facultades o escuelas femeninas, incluyendo aquellos que contenían la palabra “mujer”. Des-pués de descubrir el sesgo, los ingenieros de Amazon intentaron arreglar el problema haciendo que el sistema tratara estos términos de una manera neutral. Al final, la empresa abandonó la herramienta ya que no consiguieron que el algoritmo no estuviera sesgado contra las mujeres. La discriminación por género estaba profundamente embebida en el sistema (en realidad reflejando cómo Amazon había contratado en el pasado) para poder solucionarlo desde un punto de vista puramente técnico.15
La idea es que los algoritmos y sistemas de apoyo a la decisión se utilicen para aumentar el juicio humano y reducir los sesgos conscientes e inconscientes. Sin embargo, los datos, algoritmos que se utilizan para entrenar a los motores, así como otras decisiones de diseño pueden reflejar o ampliar prejuicios y desigual-dades culturales.
Hay múltiples ejemplos que lo evidencian, como sistemas de reconocimiento de voz que no escuchan a mujeres, o que no son capaces de dar instrucciones inadecuadas a servicios de salud específicos para mujeres, o modelos de lenguaje natural que usan asociaciones estereotipadas como “mujer” = “recepcio-nista”, etc.
A principios del 2019, un estudio del MIT y de la Universidad de Stanford16 reveló que los tres mayores sistemas de reconocimiento facial tenían errores significativos cuando no se usaban con sujetos que no fueran hombres blancos. Se sugería que estos sistemas se generaron con algoritmos de Machine Lear-ning que se entrenaron con datasets (conjuntos de datos) que contenían en su mayoría información sobre hombres blancos. La preocupación aumenta cuando sabemos que estos sistemas de reconocimiento fa-cial ya se utilizan en agencias de seguridad gubernamentales y en departamentos de salud.
Como ya mencioné, los datos son tremendamente importantes. En los modelos de aprendizaje automáti-co, los algoritmos y los datos están interconectados.
Harini Suresh y John V. Guttag del MIT17 han publicado en el 2019 un estudio que agrupa las causas para generar sesgos en 5 áreas:
15 Fortune Magazine, “Amazon Reportedly Killed an AI Recruitment System Because It Couldn’t Stop the Tool from Discriminating Against Women”, 201816 MIT News, “Study finds gender and skin-type bias in commercial artificial-intelligence systems”, 201817 Harini, Suresh i V. Guttag, John, MIT, “A Framework for Understanding Unintended Consequences of Machine Learning”, 2019
15
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
1.- Sesgos históricos
Los datos históricos en los que se basan los algoritmos influyen en las decisiones a tomar posteriormente. Por ejemplo, en el 2018, solo el 5% de los CEOs reportados por Fortune 500 eran mujeres. Si se hiciera una búsqueda de imágenes con la palabra CEO, ¿deberían de presentarse un 95% de hombres? Habría que evaluar el daño que este resultado supondría en que aumentara el número de mujeres en el futuro, o si en realidad se quiere reflejar lo que es la sociedad actualmente. Google, de hecho, ha cambiado sus resultados de búsqueda de imagen para la palabra “CEO” para que muestre un mayor número de mujeres.
2.- Sesgos de representación
Estos sesgos ocurren cuando ciertas partes del espacio o universo a considerar no se representan en las muestras. Por ejemplo, si ciertas poblaciones no se incluyen. Si los datasets se generan en función a datos recolectados por móviles, la parte de la sociedad que no tiene acceso a estos dispositivos no estará repre-sentada.
O si los datos usados para entrenar el motor se usan en otro entorno. Por ejemplo, se usan datos generados en Boston para analizar una ciudad completamente diferente, incluso en otro país.
3.- Sesgos de medición
Los datos disponibles a menudo son indicadores de alguna característica o etiqueta ideal. Por ejemplo, las tasas de arresto con frecuencia se usan como indicadores de tasas de criminalidad.
Este sesgo se puede representar por la granularidad o calidad de los datos en distintos grupos, o por una sobresimplificación de los datos.
4.- Sesgos de agregación
Este sesgo surge cuando se pretende crear algo que valga para todo. Esto nos puede llevar a un modelo que no sea óptimo para ningún grupo, o un modelo que solo valga para la población dominante.
5.- Sesgos de evaluación
Estos sesgos ocurren cuando los datos usados para evaluar y comparar los resultados de un algoritmo no representan a la población objetivo. Por ejemplo, si se utiliza una sola métrica (exactitud), se pueden per-der disparidades en otros tipos de errores (por ejemplo, la tasa de falsos positivos).
Existen varios informes que resumen el impacto y la situación actual de esta discriminación. El más intere-sante es el último informe del AI Now Institute18, donde destacan cinco áreas de preocupación y de acción.
Hay una crisis de diversidad en el sector de la inteligencia artificial con respecto al papel de la mujer en la creación de estas tecnologías. Recientes estudios muestran que solo el 18% de los autores en conferencias de IA son mujeres, y que más del 80% de los profesores son hombres. En Facebook las mujeres represen-
18 AI Now Institute, “DISCRIMINATING SYSTEMS Gender, Race, and Power in AI”, 2019
16
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
tan el 15% de los empleados en investigación en IA, y en Google, el 10%. Considerando las décadas que se necesitarán para alcanzar el equilibrio, estos datos son ciertamente alarmantes.
El sector necesita un cambio profundo para corregir esta crisis de diversidad. El primer paso es admitir que existe el problema, y admitir que los métodos existentes han fallado a la hora de contener la desigualdad en la distribución del poder y la manera en que la IA puede ampliar o reforzar esta desigualdad. De hecho, estos sesgos en los sistemas de IA simplemente reflejan patrones históricos de discriminación. Son dos manifestaciones del mismo problema, y por lo tanto se deben de corregir a la vez.
Ahora mismo se está haciendo mucho hincapié en Mujeres y Tecnología, pero es un enfoque de miras muy estrecho, que probablemente esté orientado a mujeres blancas occidentales. Hay que enfocarse en iniciativas que confluyan en varias áreas como raza, género y otras identidades y atributos que darán forma a la experiencia de la gente con IA. La mayoría de los estudios asocian a la gente con rasgos masculinos o femeninos basándose en la apariencia física o en supuestos estereotipos, y prescindiendo de cualquier otra forma de identidad de género.
Enfocarnos en que haya cada vez más mujeres candidatas a puestos relacionados con la industria de IA o que estudien carreras relacionadas con IA no es suficiente. Existen problemas culturales mucho más pro-fundos en el puesto de trabajo en sí mismo, con asimetrías en el poder y el liderazgo, acoso, compensación desigual, etc.
Es por esto por lo que la recomendación se debería de centrar en llevar a cabo diversas iniciativas en varios campos, no solo en lo que se refiere a la construcción de modelos y a los datos utilizados para desarrollarlos, sino en aspectos mucho más globales, como que cada vez haya más mujeres creando esa tecnología, en empresas más diversas y equitativas en todos los niveles, desde la dirección hasta la investigación.
17
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
• Oliver, Nuria, “El Cazador de Cerebros” de La 2, disponible en Twitter: https://twitter.com, 5 octubre del 2019.
• Morris Zyana, The Business Woman Media, “Why are the stats on women in tech actually getting wor-se?”, disponible en: https://www.thebusinesswomanmedia.com, 26 de agosto del 2017.
• Future & STEAM, WA4STEAM, disponible en: https://wa4steam.com, septiembre del 2018
• Eurostat, “Employment Statistics”, disponible en https://ec.europa.eu, mayo del 2019
• Unesco, Women in Science, Fact Sheet No. 51, FS/2018/SCI/51, disponible en: http://uis.unesco.org,junio del 2018
• Hinchliffe, Emma, Fortune Magazine, “Funding For Female Founders Stalled at 2.2% of VC Dollars in2018”, disponible en: https://fortune.com, 28 enero del 2019
• Malmstrom, Malin y otros, Harvard Business Review, “We recorded VCs’ conversations and analysedhow differently they talked about female entrepreneurs”, disponible en: https://hbr.org, 17 de mayo del 2017
• Thébaud, Sarah, UC Santa Bárbara, EurekAlert!, “Women in Business”, disponible en: https://www.eu-rekalert.org, 3 de marzo del 2015
• Kaden, Rebecca, Harvard Business Review, HOW VC CAN HELP MORE WOMEN GET AHEAD, dis-ponible en: https://hbr.org, 1 de octubre del 2019
• Hunt, Vivan y otros, McKinsey, “Diversity Matters”, disponible en: https://www.mckinsey.com, 2 de fe-brero del 2015
• Founder Institute, “10 Venture Capital Funds Focusing on Female Entrepreneurs”, disponible en: ht-tps://fi.co, 17 de agosto del 2019
• DutchNews.nl, “Venture capital groups will only fund companies with at least 35% women”, disponible en: https://www.dutchnews.nl, 10 de julio del 2019
• WA4E, Women Angels for Europe’s Entrepreneurs, “The Barriers and Opportunities for Women Angel Investing in Europe”, disponible en: http://wa4e.businessangelseurope.com, febrero 2018
• Microsoft Tay, Wikipedia, disponible en: https://es.wikipedia.org, Marzo 2016
Bibliografía
18
Innovación en la empresa y liderazgo femenino
Gloria Lorenzo Jorge, WA4STEAM
• Myers West, Sarah y otros, AI Now Institute, informe DISCRIMINATING SYSTEMS, Gender, Race, and Power in AI, disponible en: https://ainowinstitute.org, abril del 2019
• Meyer, David, Fortune Magazine, “Amazon Reportedly Killed an AI Recruitment System Because ItCouldn’t Stop the Tool from Discriminating Against Women”, disponible en: https://fortune.com, 10 de octubre del 2018
• Lardesty, Harry, MIT News, “Study finds gender and skin-type bias in commercial artificial-intelligence systems”, disponible en: http://news.mit.edu, 11 de febrero del 2018
• Harini, Suresh y V. Guttag, John, MIT, “A Framework for Understanding Unintended Consequences of Machine Learning”, publicado en: https://arxiv.org, 28 de enero del 2019
