CULTURA|CIENCIA
El especialista será unos de los expositores del festival Puerto de Ideas en Antofagasta. “Sin duda la aparición y aplicaciones de los modelos de Lenguaje Natural basados en IA, como Chatgpt han marcado recientemente y manera vertiginosa nuestro quehacer diario y no sin una gran preocupación, donde la IA y la ética se entrelazan en un camino cuyo camino no es fácil de imaginar”, reflexiona.
Una charla con el tema “La ética en la inteligencia artificial (IA)” brindará el neurocientífico Adrián Palacios en el festival de Puerto de Ideas en Antofagasta, que comenzará el próximo lunes hasta el 23 de abril.
La exposición se realizará el domingo 23, a las 12:00 horas, en la plaza del Museo de Antofagasta, donde estará acompañado por la periodista Andrea Obaid, para reflexionar si acaso “somos víctimas de nuestros propios éxitos científicos” y si “el análisis de la actividad cerebral hace posible su manipulación y amenaza nuestra privacidad y libertad”.
Palacios es bachiller en Psicología de la Universidad de la Sorbonne (Francia) y doctor en Neurociencia de la Universidad Pierre et Marie Curie (Francia). Cuenta con un periodo de post doctorado e investigador asociado en la Universidad de Yale (Estados Unidos) y ha sido profesor invitado en Francia y Estados Unidos.
Actualmente se desempeña como profesor titular en la Universidad de Valparaíso y es co-fundador e investigador del Centro Interdisciplinario de Neurociencia de Valparaíso y del Instituto de Sistemas Complejos de Valparaíso.
Al ser consultado sobre cuáles son los principales desafíos que plantea la IA en relación a las actividades cerebrales, señala que se trata de una disciplina que ha visto grandes desarrollos en el último tiempo, pero que también presenta un número igual de retos en cuanto a su capacidad de entregar soluciones tecnologías adecuadas y precisas, así como en cuanto a la adopción de aspectos éticos.
Históricamente, la IA surge del imperioso deseo humano de conocer y reproducir esa capacidad que es llamada la “inteligencia”, donde a través del estudio de los mecanismos y funciones cerebrales pretendemos robotizar soluciones computacionales o robotizadas en áreas como la salud, la educación, la creatividad, y en prácticamente todas las ramas de la productividad, explica.
Palacios señala que el desarrollo y la evolución de la IA ha ido a la par, por un lado, en psicología con el estudio del aprendizaje y memoria; en neurociencia, caracterizando las bases neurobiológicas de nuestras capacidades cognitivas (por ejemplo, en determinar qué áreas corticales están involucradas en la memoria); en neurología, que correlaciona estados de cognición con alteraciones orgánicas del cerebro, ya sea como consecuencia de traumatismos, envejecimiento o neurodegeneración; y por último en neurociencias computacionales, con el desarrollo de modelos y algoritmos que buscan explicitar o simular el cerebro humano a través de la recolección explosiva hoy en día de datos.
En ese sentido, “el desafío de la IA en el área del cerebro es múltiple”.
“Por un lado, la mente humana no funciona todo el tiempo bajo principios de racionalidad, sus decisiones suelen ser emocionales, algunas inconscientes, presenta un número importante de sesgos cognitivos, lo cual ha sido también del interés y preocupación de la economía conductual en cuanto a cómo mejorar la información para la toma de buenas decisiones. Es entonces una preocupación mayor, la recolección y calidad de la información obtenida, su validación y generalización, pudiendo observarse errores, sesgos conductuales y éticos importantes en las aplicaciones que usan IA”, afirma.
El científico subraya además que una frontera aun no alcanzada por IA, y sin duda lo que aún distingue a los humanos, es la subjetividad, la experiencia vivida, “algo que emerge de manera natural del funcionamiento de nuestro cerebro, frente a los eventos de nuestras vidas cotidianas”.
“Esto último nos lleva a una de las encrucijadas multidisciplinaria de mayor relevancia para el futuro de la humanidad: ¿Es la mente humana predecible? ¿Cómo y con ética utilizaremos el conocimiento cerebral? ¿Más bienestar y educación? ¿Mayor manipulación y control de nuestras decisiones?”.
Palacios destaca que “somos, nuestro cerebro, la fuente de la mayor revolución de todos los tiempos, y cuyo destino esta cambiando nuestras vidas de manera radical”.
“El explosivo avance de la IA se encuentra en prácticamente en todas las áreas del conocimiento y de la industria, entregando soluciones de precisiones, automatización, exploración de nuestros cielos, mares, montañas, en las industrias tecnológicas en el manejo de datos masivos, gestión y transacción en mercados bursátiles, que en todos sobrepasan la capacidad humana de manera significativa; también hemos visto avances cibernéticos en el cuidado de personas a través de robots que interactúan y aprenden del humano; en áreas de la educación, salud”, destaca.
“Sin duda la aparición y aplicaciones de los modelos de Lenguaje Natural basados en IA, como Chatgpt han marcado recientemente y manera vertiginosa nuestro quehacer diario y no sin una gran preocupación, donde la IA y la ética se entrelazan en un camino cuyo camino no es fácil de imaginar”.
Una arista de este explosivo desarrollo es reflexionar sobre cómo se vinculan los neuroderechos con esta problemática.
“Un grupo ya grande de personas, instituciones han manifestado preocupación de proteger el derecho fundamental de nuestra privacidad cognitiva en pro de una sociedad donde el ser humano posea la autonomía y libertad de sus propias decisiones”, explica Palacios.
Esto último, dice, se ha ido plasmando como el área de los neuroderechos, teniendo hoy en día ya impacto en Instituciones como en la Unesco, o países como en Chile postulando a leyes que protejan “los derechos del cerebro”, lo cual todavía no ha sido asimilado de manera profunda.
“La privacidad de los datos personales, del libre albedrío de nuestras decisiones, se estructura en base a diversos hechos y supuestos en donde se cruzan preguntas. ¿La lectura de nuestra mente es posible? ¿El uso de sesgos cognitivos (los cuales no controlamos) es ético? ¿Es el conocimiento de nuestro cerebro un bien transable en el mercado?”.
¿Podría manipularse la actividad cerebral mediante la IA?
“Como he comentado, la IA emana y contempla la recolección y análisis de datos a través de instrumentos, herramientas o medios sociales cuyo origen de contenido es multidisciplinario y de los cuales la IA puede construir modelos que toman en cuenta los dominios de nuestras acciones voluntarias e involuntarias y sobre los cuales poder incidir, incluyendo áreas de la salud, pero también de utilización mercantil del conocimiento adquirido”, responde.
“Aquí vemos ejemplos concretos en áreas de la salud por ejemplo en sujetos con implantes cerebrales que padecen enfermedades que afectan su cognición, pero también en la manipulación de esta para controlar la toma de decisiones. La experimentación de la lectura directa de la actividad neuronal en ratones ha dado cuenta de la factibilidad de tales procedimientos, lo que ha puesto en alerta a los que suscriben la protección de los neuroderechos”.
Todo esto ocurre, además, cuando el cerebro sigue siendo un órgano mayormente desconocido.
“El cerebro continúa siendo un órgano extremadamente complejo en su funcionamiento, si bien se ha avanzado en el conocimiento de sus propiedades moleculares, celulares y de circuitos, lo que han llevado a establecer el ‘conectoma cerebral’ en base a mapas estructurales y funcionales de conectividad, estamos aún lejos de poder vislumbrar como la articulación de estos diferentes niveles logran la emergencia de nuestra consciencia, de nuestra subjetividad, de nuestras experiencias vividas. Esto último, es aún una frontera difícilmente alcanzable por la cibernética asociada a IA”, concluye.
Para saber más de lo que está pasando en el mundo de la ciencia y la cultura, súmate a nuestra comunidad Cultívate, el Newsletter de El Mostrador sobre estos temas. Inscríbete gratis AQUÍ
