Digital
Según experto son varios los aspectos que hacen desafiante la aplicación de principios universales a las herramientas de la tecnología pilar de la revolución 4.0. Si bien hay varios esfuerzos a nivel global y local para abordar este debate, aspectos como la interpretación de algoritmos, su evolución constante y los problemas de escalabilidad podría generar conflictos éticos.
La aplicación de principios éticos universales a la inteligencia artificial es un desafío altamente complejo. Actualmente hay varios esfuerzos en curso a nivel mundial para asegurar que se aborden los desafíos éticos que surgen al desarrollar e implementar sistemas de IA.
Estos incluyen la adopción de principios éticos en: la investigación, desarrollo de la misma, la inclusión de especialistas en ética, y la creación de mecanismos de supervisión y rendición de cuentas para garantizar que se cumplan estos principios.
De acuerdo al CEO de la consultora tecnológica Asimov, Felipe Mancini, las principales dificultades se relacionan con la falta de regulación en la materia y aspectos de carácter técnico como la interpretación y escalabilidad de los datos.
Una de las mayores controversias en el uso de la inteligencia artificial ocurre en China, en la región de Sinkiang, en el noroeste del país asiático, donde el régimen local ha implementado sistemas de monitoreo basados en algoritmos para vigilar a minorías étnicas y religiosas, despertando denuncias de organismos internacionales de derechos humanos.
Pero no es el único caso. En Estados Unidos, un sistema llamado Análisis Compas (un cuestionario basado en IA) generaba resultados para determinar el nivel de riesgo de que una persona violara la ley.
Pese a que su objetivo era ayudar a los jueces proporcionando información basada en evidencia, se determinó que el algoritmo entregaba respuestas que discriminaban a ciertas poblaciones, en particular la afroamericana.
Los casos también se extienden a los gigantes tecnológicos. En 2018, la compañía Amazon tuvo que cancelar un sistema de IA que se estaba utilizando para contratar personal, ya que se descubrió que estaba discriminando a las mujeres.
Mientras que en 2016, se constató que los sistemas de anuncios en línea de Google y Facebook estaban discriminando a las mujeres al mostrarles anuncios de trabajos con salarios más bajos que a los hombres.
“Es crucial que se sigan investigando estos problemas para garantizar que los sistemas se desarrollen de manera ética y responsable. Los esfuerzos deben ser continuos ya que la IA y sus aplicaciones están cambiando constantemente y generando nuevos desafíos”, afirma el experto.
La controversia entre la inteligencia artificial y la ética es un tema de alto interés para el desarrollo de esta tecnología. A fines de 2021, los países miembros de la Unesco, entre ellos Chile, firmaron la primera declaración global en la materia.
En Chile, la política nacional de IA, establece una ruta de avance para esta década. Y estipula que el desarrollo, adopción y uso de toda tecnología debe someterse a estándares éticos y normativos.
Según destacó el especialista, resolver las controversias será complejo, principalmente debido a la naturaleza de la propia tecnología.
“Es posible que la ética en IA tenga algunos límites y resulte difícil establecer principios universales para todos los casos, tanto para su aplicación como para el seguimiento y monitoreo en la práctica. Algunos desarrollos no consideran la ética como un criterio relevante”.
La discriminación en el acceso a servicios y oportunidades, la privacidad y la seguridad de los datos, y la transparencia en la toma de decisiones automatizadas surgen como algunos de los problemas a resolver.
Establecer mecanismos adecuados de responsabilidad y regulación para garantizar que los sistemas se utilicen de manera ética, responsable y transparente, es fundamental según el ejecutivo.
Agrega que algunos de los temas importantes en el debate apuntan a cuestiones relacionadas con sesgos y discriminación de personas; privacidad y seguridad de los datos y el impacto sobre el mercado laboral.
“La evolución de una inteligencia artificial ética y responsable será vital para que la sociedad mantenga valores que contribuyan a garantizar la igualdad, estabilidad y paz del mundo”, concluye.
