El historiador israelí Yuval Noah Harari Es uno de los intelectuales más destacados de nuestra era. En su obra ha pensado sobre todo en cómo el ser humano ha construido una narrativa de sí mismo. Es decir, la historia humana ha sido construida a partir de narrativas, mitos y creencias compartidas por grupos sociales. Esto es lo que ha afirmado en libros como Sapiens: de animales a diosSí, Homo Deus: una breve historia del mañana cualquiera 21 lecciones para el siglo XXI.

En su último libro, nexo (Debate) analiza algo que quedó pendiente: el papel de las redes de información en la historia. De la Edad de Piedra al surgimiento de la Inteligencia Artificial. En una concurrida conferencia de prensa virtual, donde estuvo CultoHarari presentó el libro y abordó el alcance actual de las redes de información.

El autor israelí abordó la paradoja de que, aunque Siempre se aseguró que el siglo XXI era el siglo de la sociedad de la información, la sociedad parece cada vez más ignorante.

“Lo más importante de la información es que la información no es verdad y la información no es conocimiento. La visión ingenua que domina lugares como Silicon Valley es que con más información la gente sabe más, pero la mayor parte de la información en el mundo es basura. La mayor parte de la información no es cierta. La verdad es que algo escaso es una categoría rara de información. Además, la verdad cuesta cara, escribir un informe verdaderamente auténtico requiere tiempo, requiere dinero, esfuerzo”. Y al contrario, en mentira “no hace falta invertir nada, simplemente escribe lo primero que se te ocurra”.

Por eso, agregó: “la verdad es difícil, mientras que la ficción es barata, y la verdad suele ser complicada, porque la realidad es complicada, mientras que la ficción puede ser tan simple, y de hecho la mayoría de la gente “prefiere historias simples, y las La verdad suele ser dolorosa.”

“Hay muchas cosas que no queremos saber sobre nosotros mismos, sobre nuestro propio país, mientras que la ficción puede ser tan agradable como queramos”. Por ello, indicó: “Tenemos que invertir en la verdad, tenemos que crear, por ejemplo, instituciones como periódicos o instituciones académicas como sociedades académicas”.

Además, Harari advirtió sobre los peligros de la Inteligencia Artificial: “Es un agente independiente. Por eso es diferente de cualquier tecnología anterior que hayamos inventado. Empiece a producir textos, imágenes, códigos informáticos. Y finalmente podría crear una IA más poderosa”, explicó.

“La gente del sector está atrapada en esta mentalidad de carrera armamentista, que es extremadamente peligrosa. Es como si alguien pusiera un coche sin frenos y decirle: ‘Nos enfocamos en que vaya lo más rápido que pueda, y si hay algún problema en el camino, buscamos la manera de inventar frenos y ponerlos’, dijo irónicamente.

Asimismo, agregó que La inteligencia artificial está adquiriendo la capacidad de crear. “Los desarrollos más recientes en inteligencia artificial nos muestran una capacidad de crear historias que antes no existían. Hace unos años existía una inteligencia artificial que controlaba la información para ver qué llamaba la atención, es decir, qué estaba en lo más alto del ranking. alimentar en Facebook o lo que conseguía más tráfico en Twitter, pero la inteligencia artificial en aquel entonces no podía crear contenidos, no podía escribir buenos textos, no podía crear música o imágenes”, a diferencia de hoy.

Y añadió un punto: “Sé que mucha gente dice que escribe textos que no son muy buenos, que hace música que no es muy buena, que produce imágenes con errores como gente de seis dedos. Pero estos son sólo los primeros pasos de la IA. Aún no hemos visto nada”. Por ello, agregó: “Los sistemas de inteligencia artificial actuales son solo amebas. Son IA muy, muy simples. Recordemos que las amebas tardaron miles de millones de años en evolucionar hasta convertirse en dinosaurios, mamíferos y humanos, porque la evolución orgánica es lenta. Pero lo digital es mucho más rápido. ChatGPT, la ameba de la IA, no tardará mil millones de años en evolucionar hasta convertirse en el dinosaurio de la IA. Sólo podrían ser necesarios 10 o 20 años. ¿Y cómo sería el AI T-Rex? ¿Qué podría hacer él?

Incluso señala que la IA ya está tomando decisiones por sí misma en las redes sociales. “Ahora, en algunas de las plataformas más importantes del mundo, como incógnitacualquiera FacebookEl papel del editor ya ha sido asumido por la IA: Son los algoritmos los que deciden cuál será la historia recomendada o cuál estará en lo más alto de la lista. alimentar”.

“Estoy de acuerdo con Zuckerberg cualquiera Elon Musk que tendríamos que tener cuidado al censurar a los usuarios humanos”, comenzó diciendo: “La gente tiene derecho a ser estúpida, tiene derecho a mentir”.“Es parte de la libertad de expresión”. Por tanto, para él, el foco no debe estar en los usuarios, sino en los algoritmos. Eso es lo que tienes que controlar.

“Los algoritmos quieren al mayor número de personas enganchadas a la plataforma durante el máximo tiempo posible. Eso es tu modelo de negocio”. El problema, para Harari, es que estos mecanismos de Inteligencia Artificial “han descubierto que la forma más fácil de captar la atención humana es presiona el botón de odio o miedo o la rabia en la mente de las personas”. Por lo tanto, “difundir deliberadamente noticias falsas y teorías de conspiración”, y eso es lo que hace que la gente comparta los enlaces y comience a difundir estas posverdades como un virus.

A Harari le preguntaron si la sociedad humana se encamina hacia un nuevo totalitarismo tecnológico. Y el pensador respondió: “Depende de las decisiones que tomemos, pero tenemos que entender que Hay un potencial totalitario en la inteligencia artificial, diferente a todo lo que hemos visto hasta ahora en la historia”, respondió.

“La diferencia entre regímenes autoritarios y totalitarios es que los autoritarios controlan la esfera política, pero normalmente la gente tiene su margen de maniobra y el rey o el tirano no pueden saber lo que cada uno de nosotros hace o piensa en cada minuto del día”.

Además, dictadores como Adolf Hitler o Josef Stalin tenían límites en el nivel de control que podían adquirir sobre sus súbditos, “porque no podían seguir a todos constantemente”. Pero ahora las cosas son diferentes: “Incluso en la Unión Soviética había un cierto grado de privacidad, pero la inteligencia artificial permite una vigilancia total, que acaba con cualquier libertad, porque no necesitas agentes para seguir a todos los humanos. Hay smartphones, ordenadores, cámaras sencillas o de voz. “La inteligencia artificial puede gestionar una gran cantidad de información, vídeos, audio, texto, analizarla y reconocer patrones”.

Sin ir más lejos, añadió que esto ya está sucediendo precisamente en la zona de donde él es, en Palestina e Israel: “Con cámaras, controles y software que siguen a todos, constantemente”. Incluso comentó que los sistemas de inteligencia artificial de Irán, gracias a cámaras de vigilancia, con software de reconocimiento facial, pueden identificar inmediatamente a las mujeres que no usan el velo y castigarlas.

“Basta leer un informe de Amnistía que precisamente denuncia lo que se les está haciendo a muchas mujeres, que van en su vehículo particular, sin velo, y las cámaras de reconocimiento facial las identifican, i“Identifican sus teléfonos e inmediatamente les envían un mensaje diciéndoles, por ejemplo, que han cometido un delito y que su vehículo está confiscado por el Estado”..

“Este no es un escenario de ciencia ficción, no es algo que pueda suceder dentro de 100 años.. “Eso ya está pasando, está pasando ahora”, advirtió.