CULTURA|CIENCIA
Apuntó “al impacto potencial de la inteligencia artificial y las informaciones falsas relacionadas con las elecciones”, y se preguntó por qué en el momento en que se dispone de la mejor tecnología de la información de la historia “la gente parece incapaz de hablar unos con otros”.
El pensador israelí Yuval Noah Harari advirtió este lunes sobre los alcances de la inteligencia artificial (IA), en el marco de una conferencia con medios de Iberoamérica sobre su nuevo libro “Nexus” (Editorial Debate), que recorre la historia de las redes de información desde la Edad de Piedra hasta la IA.
Harari afirmó desde Washington que “la inteligencia artificial tiene un potencial totalitario” y que los medios de comunicación son claves para la democracia. También pidió más control de los gigantes tecnológicos como Facebook y Twitter a los contenidos que difunden sus algoritmos, que muchas veces corresponden a información falsa.
El especialista es autor el bestseller “Sapiens” (2013), un bestseller que vendió millones de ejemplares, y se ha convertido en uno de los pensadores más innovadores, interesantes y clarividentes de la actualidad.
Harari (1976) es profesor de Historia en la Universidad Hebrea de Jerusalén. Se especializó en Historia Medieval e Historia Militar, aunque sus investigaciones actuales se centran en los procesos macrohistóricos y en las relaciones entre historia y biología. Es considerado uno de los intelectuales más influyentes nuestro tiempo.
Su libro “Sapiens. De animales a dioses” ha sido un éxito internacional que ha vendido más de 21 millones de ejemplares en 65 idiomas. Recomendado por personalidades como Barack Obama, Natalie Portman o Bill Gates, alcanzó la lista de best sellers del New York Times y ocupó los tres primeros puestos de los libros más vendidos del Sunday Times durante 96 semanas consecutivas. Tal fue su éxito que se ha adaptado a novela gráfica, “Sapiens. Una historia gráfica”, cuyo primer volumen ya ha sido publicado.
La continuación de su obra, “Homo Deus. Breve historia del mañana”, ha vendido más de 7,5 millones de ejemplares y se ha traducido a 50 idiomas. En 2018 publicó “21 lecciones para el siglo XXI”, que en su primer año vendió 4 millones de ejemplares y fue traducido a 40 idiomas. En él Harari se detiene a examinar los mayores desafíos del tiempo actual.
En 2019, tras el reconocimiento internacional de sus libros, Yuval Noah Harari e Itzik Yahav fundaron Sapienship, una organización cuya misión es alentar la conversación global, señalar los desafíos más importantes y apoyar la búsqueda de soluciones colectivas. En 2018 y 2020 dio sendas conferencias magistrales en el Foro Económico Mundial de Davos. Asimismo, a lo largo de su trayectoria se ha reunido con líderes internacionales como Angela Merkel, Mauricio Macri, Kyriakos Mitsotakis, o con Mark Zuckerberg, CEO de Facebook, con quien conversó sobre el futuro de la tecnología.
En “Nexus”, Harari contempla “a la humanidad desde la amplia perspectiva de la historia para analizar cómo las redes de información han hecho y deshecho nuestro mundo. Durante los últimos 100.000 años, los sapiens hemos acumulado un enorme poder. Pero, a pesar de todos los descubrimientos, inventos y conquistas, ahora nos enfrentamos a una crisis existencial: el mundo está al borde del colapso ecológico, abunda ladesinformación y nos precitamos hacia la era de la I.A. Con todo el camino andando, ¿por qué somos una especie autodestructiva?”, según la reseña editorial.
A partir de una fascinante variedad de ejemplos históricos, desde la Edad de Piedra, pasando por la Biblia, la caza de brujas de principios de la Edad Moderna, el estalinismo y el nazismo, hasta el resurgimiento del populismo en la actualidad, Harari ofrece un marco revelador para indagar en las complejas relaciones que existen entre información y verdad, burocracia y mitología, y sabiduría y poder.
“Examina cómo diferentes sociedades y sistemas políticos han utilizado la información para lograr sus objetivos e imponer el orden, para bien y para mal. Y plantea las opciones urgentes a las que nos enfrentamos hoy en día, cuando la inteligencia no humana amenaza nuestra propia existencia. La información no es el principio activo de la verdad; tampoco una simple arma. ‘Nexus’ explora el esperanzador término medio entre estos extremos”, agrega la reseña.
El libro fue elogiado por la crítica.
«Tremendo, estimulante y muy bien razonado. Harari nos ofrece una visión de un futuro cada vez más próximo y que es al mismo tiempo emocionante y escalofriante. Si hay un libro que instaría a todo el mundo a leer, especialmente a nuestros líderes políticos, corporativos y culturales, es Nexus», señaló Stephen Fry.
«Harari tiene una capacidad única para unir detalles mínimos de la historia con grandiosas megatendencias. Este libro, profundamente importante, llega en un momento crítico en el que todos reflexionamos sobre lo que implica la inteligencia artificial», dijo por su parte Mustafa Suleyman.
Aunque Harari pensaba que el libro iba a concitar poca atención en vista de las elecciones presidenciales en Estados Unidos de noviembre próximo, celebró que esté ocurriendo todo lo contrario.
El autor apuntó especialmente “al impacto potencial de la inteligencia artificial y las informaciones falsas relacionadas con las elecciones”, y se preguntó por qué en el momento en que se dispone de la mejor tecnología de la información de la historia “la gente parece incapaz de hablar unos con otros todo”, en referencia a la división entre progresistas y conservadores en el país norteamericano.
“La conversación se rompe y la gente no puede llegar a acuerdos en los temas más básicos, no puede mantener ya una conversación racional, y eso está pasando después de que estos gigantes tecnológicos pues hayan creado esta tecnología, y nos hayan prometido que esta tecnología nos va a conectar a todos y va a diseminar la verdad”.
Al ser consultado sobre cuál es la diferencia de la IA en relación a otros inventos que han cambiado el curso de la humanidad, Harari destacó que “es distinta de cualquier otra tecnología que hayamos inventado antes porque no es una herramienta, es un agente independiente”.
“La bomba atómica tenía un poder ingente, pero el poder estaba en manos de los seres humanos. La bomba como tal no podía decidir nada”, ejemplificó.
En cambio, “la inteligencia artificial puede tomar decisiones por sí misma”. Y puso como ejemplo el periodismo, donde los editores deciden qué noticias publicar, a diferencia de las redes sociales.
“En algunas de las plataformas más importantes del mundo, como Twitter o Facebook, el papel del editor ya ha sido asumido por la inteligencia artificial. Son algoritmos los que deciden cuál será la historia recomendada que estará en la parte más alta del feed. El poder inmenso del editor está en manos de la inteligencia artificial, que no solo puede tomar decisiones, sino que además puede crear nuevas ideas por sí misma”, advirtió.
“Ahí hay una explosión de inteligencia artificial que queda fuera de nuestro control, y eso es lo que lo hace distinto de cualquier revolución o crisis previa que hayamos conocido”.
Hariri también abordó la paradoja de que aunque siempre se aseguró que el siglo XXI era el siglo de la sociedad de la información, la sociedad parece cada vez más ignorante.
“Lo más importante respecto a la información es que la información no es verdad, y la información no es conocimiento. La visión ingenua que domina a lugares como Silicon Valley es que con más información la gente sabe más, pero la mayor parte de la información en el mundo es basura. La mayor parte de la información no es verdadera. La verdad es algo escaso es una categoría rara de la información. Además la verdad es cara, escribir un informe realmente auténtico requiere tiempo, requiere dinero, esfuerzo”. En cambio en una mentira “no tienes que invertir nada, simplemente escribes lo primero que te viene a la mente”.
Añadió que “la verdad cuesta, mientras que la ficción es barata, y la verdad, normalmente, es complicada, porque la realidad es complicada, mientras que la ficción puede ser tan sencilla, y de hecho la mayor parte de la gente prefiere historias sencillas, y la verdad normalmente es dolorosa”.
“Hay muchas cosas que no queremos saber de nosotros mismos, de nuestro propio país, mientras que la ficción puede ser tan agradable como queramos”. En ese sentido, aseveró que para que prevalezca la verdad, “tenemos que invertir en la verdad, tenemos que crear, por ejemplo, instituciones como periódicos o como sociedades académicas instituciones académicas”.
Por otro lado, Hariri destacó que la inteligencia artificial está adquiriendo la capacidad de crear.
“Los desarrollos más recientes de la inteligencia artificial nos muestran una capacidad de crear historias que no estaban ahí antes. Hace unos años había inteligencia artificial que controlaba la información para ver qué llamaba la atención, es decir, que estaba en la parte más alta del feed en Facebook o qué es lo que conseguía más tráfico en Twitter, pero la inteligencia artificial entonces no podía crear contenido, no podía escribir buenos textos, no podía crear música o imágenes”, a diferencia de hoy.
“Hoy la inteligencia artificial sí puede hacerlo. Sé que hay mucha gente que dice que la IA escribe textos, pero no son muy buenos”, y que algo similar ocurre con la creación de imágenes o videos.
Sin embargo, apuntó que era necesario comprender que “esto es el primer paso incipiente de la revolución de la inteligencia artificial, que básicamente tiene diez años. Es decir, estamos en los primeros pasos, no hemos visto nada todavía. Si pensamos en la evolución de la inteligencia artificial como análogo a la evolución biológica, la inteligencia artificial de hoy son amebas”.
En ese sentido, recordó que las amebas necesitaron millones de año para evolucionar y convertirse en dinosaurios, mamíferos y humanos, porquela evolución orgánica es lenta.
En cambio, la IA “es millones de veces más rápida y no va a necesitar millones de años para ‘convertirse en un dinosaurio’, simplemente en diez o veinte años lo va a conseguir. Por tanto, si el Chat GPT es una ameba, ¿cómo será un rey un dinosaurio dentro de unos años?”.
Hasta ahora, en la historia, la música, los poemas, el teatro y las imágenes son productos de la imaginación humana, pero Hariri cree que en el futuro “serán el producto de una inteligencia alien”.
“Entonces, ¿qué hará esto a la psicología o a la sociedad humana? Nadie lo sabe y esa es la gran pregunta”.
En ese marco, el pensador fue consultado sobre si la sociedad humana se encamina a un nuevo totalitarismo tecnológico.
“Depende de las decisiones que adoptemos, pero tenemos que entender que existe un potencial totalitario en la inteligencia artificial, a diferencia de cualquier otra cosa que hayamos visto hasta ahora en la historia”, respondió Hariri.
“La diferencia entre regímenes autoritarios y totalitarios es que los autoritarios controlan la esfera política, pero normalmente la gente tiene su margen, y el rey o el tirano no puede saber lo que cada uno de nosotros está haciendo o piensa cada minuto del día”.
Agregó que incluso dictadores como el austríaco Adolfo Hitler o el soviético Josef Stalin tenían límites al nivel de control que podían adquirir respecto a sus súbditos, “porque no podían seguir a todo el mundo constantemente”.
“Incluso en la Unión Soviética había un cierto grado de privacidad, pero la inteligencia artificial permite una vigilancia total, que acabe con cualquier libertad, porque no necesitas agentes para seguir a todos los humanos. Hay teléfonos inteligentes, ordenadores, cámaras de fácil o de voz. La inteligencia artificial puede gestionar una cantidad de información ingente, vídeos, audio, texto, y analizarlo y reconocer patrones”.
Añadió que esto ya sucede en países como Israel y Palestina, “con cámaras, controles, con software siguiendo a todo el mundo, constantemente”. También en Irán, donde los sistemas de inteligencia artificial, gracias a las cámaras de vigilancia, con software de reconocimiento facial, puede identificar a las mujeres que no llevan el velo inmediatamente y castigarlas.
“Basta con leer un informe de Amnistía que precisamente denuncia lo que se están haciendo con muchas mujeres, que están conduciendo en su vehículo privado, sin el velo, y las cámaras de reconocimiento facial las identifican, identifican sus teléfonos e inmediatamente les envían un mensaje diciéndole, por ejemplo, que han cometido un delito y que su vehículo queda confiscado por el Estado”.
“Esto no es un escenario de ciencia ficción, no es algo que pueda pasar dentro de 100 años. Eso ya está sucediendo, está pasando ahora”, alertó.
En ese marco, Hariri aseguró que el papel de los medios de comunicación es central.
“La democracia es una conversación, eso es lo que significa democracia. Dictadura es dictar, una persona lo dicta todo. Democracia es cuando la gente pues habla entre sí e intenta llegar a una decisión común. Hasta la llegada de la prensa, la democracia a gran escalada era imposible, no tenemos ningún ejemplo de una democracia a gran escala del mundo antiguo. Sólo en estados ciudad como Atenas, porque para tener una conversación la gente tiene que hablar en una pequeña ciudad”.
“Una conversación a gran escala fue posible simplemente con la llegada de la tecnología de la información moderna y el primer elemento es el periódico. Los periódicos empezaron a surgir en los siglos 17 y 18 en lugares como los Países Bajos o Inglaterra, donde vemos también la llegada de las primeras democracias de la historia, y después tuvimos más información y esto es la base de una democracia a gran escala”, aseguró.
“Hay mucha gente que confunde la democracia con las elecciones. Las elecciones son un mecanismo muy importante dentro de la democracia, pero no son democracia como hemos visto en Venezuela, por ejemplo. En Corea del Norte hay elecciones cada cuatro años y eso no convierte al país en una democracia. La esencia de la democracia es la conversación, una conversación en la que se puede identificar y corregir errores”.
En consecuencia, dijo, un país en el que el gobierno controla los medios no se pueden exponer los errores y las mentiras del gobierno.
Por eso, Hariri atribuye una gran responsabilidad a los grandes gigantes tecnológicos como Facebook, Instagram y Twitter.
“Cuando se les acusa de algo, siempre hablan de la libertad de expresión y dicen que no quieren censurar a nadie. (…) Estoy de acuerdo, deberían ir con mucho tiempo antes de prohibir o censurar a una persona, pero el problema no son los usuarios, el problema son los algoritmos”, advirtió.
Y puso como ejemplo que muchas veces el algoritmo de Facebook o de Twitter disemina información falsa, como teoría conspiracionistas, porque atrae más atención y más gente esté en la plataforma por más tiempo, y por consiguiente la empresa gana.
Por eso “las corporaciones tendrían que ser responsables de las decisiones tomadas por los algoritmos, como los editores de los periódicos son responsables de las decisiones editoriales”.
“Si alguien inventa una historia estúpida, pues es su problema, pero si después el editor utiliza su poder inmenso para colocarlo en la portada del periódico, eso es la falta de responsabilidad del editor, y eso es lo que está pasando en las redes sociales, y por tanto deberían ser responsables de las decisiones que tomen”.
“Yo creo que la gente tiene derecho a la estupidez, es decir, la gente tiene derecho incluso a decir una mentira en casos extremos. En muchas situaciones la gente miente y forma parte de la libertad de expresión. Sin embargo, el tema principal ahora con las teorías de la conspiración”.
“Los algoritmos de las empresas han descubierto que la manera más fácil de capturar de captar la atención humana, de hacer que la gente se quede más tiempo a las plataformas, es pulsar el botón del odio o del miedo o de la rabia. En la mente de la gente y de forma deliberada diseminan la dosis de odio, de miedo, de rabia, porque esto hace que la gente se la gente esté más tiempo en la plataforma, la gente siga y envíe el links a los amigos para que también se puedan enfadar, y también tengan miedo y también sientan lo mismo. Y este es el problema, de eso sí las empresas tendrían que ser responsables, porque esto no es libertad de prensa, esto es harina de otro costal”, dijo.
“Las redes sociales hoy son mucho más potentes y poderosas que las cadenas de televisión o que los periódicos, es decir, los medios más potentes del mundo son las redes y si alguien pues gestiona estos medios, pues debería tener la responsabilidad de lo que está diseminando, de lo que está divulgando, de lo que llama la atención de la gente, de la misma manera que el editor en el periódico nacional es responsable de la decisión de lo que pone en la portada del periódico de lo que publica. Y no estamos diciendo al editor del New York Times que vaya censurando a la gente, esa es no es su labor, pero si el editor decide poner una teoría de la conspiración en la portada del New York Times, esto es un problema y debería ser responsable, y lo mismo si el algoritmo de TikTok o de Facebook, decide de forma deliberada para promover ciertas teorías de la conspiración”.
Asimismo, Hariri cree que tanto la extrema izquierda como la extrema derecha pueden utilizar en beneficio propio estas tecnologías.
“Tanto la extrema derecha como la extrema izquierda comparten una visión muy cínica del mundo, que dice que la única realidad es el poder”, y donde además es extrema la desconfianza frente a las instituciones.
“Si no se puede confiar en ninguna institución para que te diga la verdad, entonces todas las instituciones colapsan, y el único régimen que puede sobrevivir en estas condiciones es la dictadura. La democracia se basa en la confianza en los periódicos o los tribunales o en el Comité Electoral. La dictadura no necesita confianza, la dictadura se basa en el terror, no en la confianza, así que si destruyes la confianza en todas las instituciones, lo que haces es aplanar el terreno para la dictadura”.
Finalmente, a pesar de este oscuro panorama, Hariri también destacó los aspectos positivos de la IA.
“Sin duda la inteligencia artificial tiene un potencial enorme, si no la gente no lo estaría desarrollando. Yo no creo que la gente en Silicon Valley sean todos malvados”.
Puso como ejemplo el sector de la salud, donde cree que la IA tiene un enorme potencial para ampliar la atención a las personas o el transporte, donde un auto manejado por IA evitaría los accidentes de tránsito que causan un millón de muertos cada año, “porque la inteligencia artificial ni se va a dormir al volante ni va a beber alcohol cuando conduce”.
Admitió que su libro, sin embargo, se centra en los peligros de la inteligencia artificial.
“El motivo es simplemente que empresas muy ricas, que inundan a la población con historias positivas y predicciones positivas de lo que va a hacer la inteligencia artificial, y que tienden a ignorar los peligros”.
“Simplemente estamos diciendo que hay que invertir más en seguridad, hay que garantizar que la tecnología sea segura y esto simplemente sentido común en cualquier otro sector, en cualquier otra industria. Si se produce un coche, tienes que dedicar una buena parte de la investigación para garantizar que el vehículo sea seguro, si no, pues no te van a dejar que lo pongas en la carretera. Si produces un fármaco, una vacuna, hay que invertir mucho esfuerzo y dinero y talento y tiempo para garantizar que esa medicina sea segura”.
Para Hariri, lo mismo debe ocurrir en el caso de la inteligencia artificial. Y cree que hay que hacer con anticipación, y no sobre la marcha.
Inscríbete en el Newsletter Cultívate de El Mostrador, súmate a nuestra comunidad para contarte lo más interesante del mundo de la cultura, ciencia y tecnología.
