Congreso Futuro 2024: Cómo la IA perpetúa estereotipos de género, raza y clase social

Claudia López será una de las expositoras nacionales en la próxima edición de Congreso Futuro y estará presentando su charla sobre cómo la ética es la clave para preservar al humano en la IA, el día 17 de enero.

“Lo que hace la inteligencia artificial, en general, es usar técnicas de aprendizaje automático o machine learning, que lo que hace es aprender de la experiencia del pasado, y entonces, sabemos que vivimos en una sociedad machista, clasista, y que funciona muy bien para las personas que tienen todas sus capacidades físicas, pero no para la gente con discapacidades. Los datos que tenemos reflejan precisamente eso, por ende, si vamos a usar técnicas que van aprendiendo de esos datos históricos, lo más probable es que repliquemos aquellos patrones. Por tanto, hay dos desafíos en la inteligencia artificial, uno es darnos cuenta de que esta forma de hacer inteligencia artificial viene con esa carga y por lo tanto tenemos que tratar de abordarlo asumiendo que ya existe y viendo cómo podemos hacer para que las soluciones de la inteligencia artificial no simplemente repliquen, sino que puedan revertir esos patrones de alguna manera”, asevera López. 

-¿Y cómo se logra intervenir?

-Es complicado, porque para la gente que hace ingeniería o informática, en general, nos entrenan para no intervenir; uno quiere solucionar en base a cuestiones sistemáticas, basadas en la evidencia, sin poner posiciones morales sobre esas soluciones. Por lo tanto, creo que estamos viviendo justamente un momento súper interesante en la inteligencia artificial y el desarrollo de tecnologías, porque estamos empezando a comprender que la tecnología no es neutral.

-¿De qué forma la IA podría ayudar a erradicar aquellas concepciones del pasado que continúan perpetuando sesgos y estereotipos de género?

-Muchas veces se está utilizando la IA para hacer que la gente vea más vídeos en TikTok, o ver más películas, pero también podríamos usar la inteligencia artificial, por ejemplo, para disminuir el tiempo en que se procesan las denuncias de violencia de género. La IA podría ser utilizada para tantas cosas.

-Bajo ese punto de vista, ¿creerías tú que hoy las personas que están trabajando en inteligencia artificial desde esta perspectiva más social son las que van a hacer un cambio a futuro?

-Así como ahora la inteligencia artificial replica lo que ha sido el estatus, en el presente estamos trabajando para el futuro, o eso espero. Creo que todo lo que ha sucedido en el último tiempo en relación a la IA, sirve como alerta, pero además sí creo que hay gente que está tratando de cambiar las formas en que educamos a las siguientes generaciones de  ingenieros e ingenieras, y a mí me gusta creer que sí podemos hacer un cambio. 

-Y para generar esos cambios, en casas de estudio como la Universidad Santa María (UTFSM), ¿qué proyectos tienen dentro de las universidades que permitan disminuir la brecha de género en carreras STEM?

-Yo estoy súper contenta con los avances que han habido este año en particular. En la UTFSM hay dos iniciativas que a mí me interesan mucho y una de ellas es que vamos a estar tratando de apoyar y de empujar el ingreso de mujeres por cupos adicionales a través de la PAES, sobre todo en estas carreras donde hay menos mujeres. Esto lo está haciendo la Universidad de Chile desde 2014 y la política ha resultado efectiva, porque las chicas que han entrado no han desertado más que el resto de sus compañeros. Este patrón ha escalado lo suficiente como para que tengamos datos históricos y que ahora sea una medida del Ministerio de Educación. En el caso de la UTFSM el 74% de nuestras carreras tienen muy pocas mujeres, por lo que somos la universidad que tiene más cupos adicionales abiertos para mujeres en todo el sistema de educación superior. Y la segunda medida que aplicaremos como casa de estudio, es que tenemos un llamado para contratar a 24 académicas, que también son supernumerarias, porque, así como hay pocas estudiantes mujeres, también hay pocas académicas. Además, esperamos también que existan políticas que ayuden al acompañamiento y a la mantención de esas mujeres en las áreas de ingeniería o también en la academia.

-Apropósito de mujeres en las ciencias e ingenierías, eres una de las impulsoras de Chile WIC, este encuentro de mujeres en computación, que busca visibilizar a más mujeres que se dedican a este rubro de la ciencia y tecnología, ¿cómo se lleva a cabo este proyecto? 

-No estoy segura si comenzó el 2011 o el 2012, pero en diciembre del 2023 fue la undécima edición del encuentro. Yo estoy involucrada desde el 2015 o el 2016 cuando participé como estudiante, pero luego las fundadoras del encuentro, Valeria Herskovic, Barbara Poblete y Jocelyn Simmonds. Yo vine como estudiante a la competencia de estudiantes primero. En el 2016, creo, las personas que eran fundadoras en eso y que todavía eran parte de la organización en ese momento, Valeria Herskovic y Bárbara Poblete, me invitaron a ser parte de la organización. Actualmente soy parte del comité directivo y es una organización que la mantenemos entre puras colegas de forma voluntaria, en donde nos ayudan los centros de estudio como el Cenia y el Instituto Milenio de Datos, en donde hemos desempeñado un papel crucial en la organización de eventos que buscan fortalecer el sentido de pertenencia de las mujeres en el ámbito de la informática.

-¿Y de dónde surge la idea?

-Nos inspiramos por la experiencia personal de sentirse minoría durante la época universitaria, y decidimos replicar el éxito de Grace Hopper Celebration en Estados Unidos. Aunque nuestros números son diferentes, el objetivo es crear un espacio donde las mujeres en tecnología puedan compartir experiencias, descubrir investigaciones interesantes y sentirse parte de una comunidad diversa y segura.

 -¿Consideras que este tipo de iniciativas son activismo?

-Personalmente creo que hacemos activismo todo el tiempo. Nosotras hemos tenido discusiones sobre si el encuentro es feminista o no, y obviamente es feminista, y a la persona que no le gusta, bueno, no le será cómodo trabajar con nosotras, porque no es una palabra a la que le tenemos miedo, y no vamos a restringirnos de decir que sí es feminista o de posicionar conceptos feministas en un evento donde lo que estamos discutiendo es cómo la desigualdad estructural existe y que explica por qué las mujeres solo alcanzamos del 10 al 11% en informática. Tiene que ver con una desigualdad estructural y la disciplina que nos ha dado el lenguaje para hablar sobre esos conceptos provienen de la teoría feminista.

-Cuéntame un poco de qué tratará tu exposición de Congreso Futuro y qué aristas piensas presentar frente a las audiencias. 

-Quiero posicionar la idea de la inteligencia artificial centrada en las personas, que es a lo que me dedico, pero además, hay algo que me interesa comentar sobre la IA, y es que la inteligencia artificial no solo la realizan grandes empresas transnacionales, sino que localmente también. La IA no es una sola, sino que hay muchas y algunas de ellas las hacemos en este lado del mapa. Me parece que es importante visibilizar dónde está la IA, porque esa es la única forma en la que podemos evaluarla y entenderla. Con instancias como Congreso Futuro hay que hacer el mayor esfuerzo por tratar de comunicar cómo estamos entendiendo las nuevas tecnologías y los desafíos éticos que tenemos por delante, comprender que no podemos entender a la inteligencia artificial en abstracto, sino que tenemos que los contextos particulares