El escritor israelí Yuval Noah Harari, que se sumó a una carta firmada por más de 1.000 expertos que piden que se frene el entrenamiento de la inteligencia artificial (IA) generativa, profundizó acerca de los peligros que esta tecnología podría traer a la humanidad en una entrevista al periódico The Telegraph.

“No sé si los humanos podrán sobrevivir a la IA”, subrayó el autor de ‘Sapiens’. “Es la primera tecnología de la historia que crea historias”, puntualizó. En su opinión, la creencia colectiva en “historias” –de fe, finanzas y nación, entre otras– ha alimentado el dominio de la humanidad sobre el planeta. Sin embargo, ahora la IA también tiene ese poder, lo que demuestra que el potencial de la tecnología, tanto para el bien como para el mal, antes considerado distante y teórico, es ahora inmediato y real, enfatizó.

“La nueva generación de IA no se limita a difundir los contenidos que producen los humanos. Puede producir contenido por sí misma. Trate de imaginar lo que significa vivir en un mundo en el que la mayoría de los textos y melodías, y luego las series de televisión y las imágenes, son creados por una inteligencia no humana”, explicó. “¿Cuáles podrían ser las consecuencias de que la IA se apodere de la cultura?”, se preguntó.

De acuerdo a Harari, tal panorama es una “amenaza especialmente grave para las democracias”, ya que ellas “dependen de la conversación pública”. “La democracia es básicamente conversación. Personas que hablan entre sí. Si la IA se apodera de la conversación, se acabó la democracia”, destacó.

“Tenemos que entender que la IA es la primera tecnología de la historia que puede tomar decisiones por sí misma. Puede tomar decisiones sobre su propio uso”, enfatizó con frustración, ya que, según él, el mundo no tomó dimensión de la gravedad del asunto.

“El poder se está desplazando por primera vez en la historia. Inventamos algo que nos quita el poder. Y está pasando tan rápido que la mayoría de la gente ni siquiera entiende lo que está pasando. Necesitamos asegurarnos de que la IA tome buenas decisiones sobre nuestras vidas”, expresó, abogando por su regulación.

“Una compañía farmacéutica no puede lanzar un nuevo medicamento al mercado sin pasar antes por un largo proceso de regulación. Es realmente extraño y aterrador que las corporaciones puedan lanzar herramientas de IA extremadamente potentes a la esfera pública sin ninguna medida de seguridad similar”, observó.

Creciente preocupación ante el avance de la IA

Si bien el uso de esta tecnología no es nuevo, la repentina popularidad del ‘chatbot’ ChatGPT ha despertado preocupaciones ante su rápido avance.

A finales de marzo, el multimillonario Elon Musk, el cofundador de Apple Steve Wozniak y otros expertos firmaron una carta en la que instaban a los laboratorios de IA a “pausar inmediatamente” el entrenamiento de los sistemas de IA más potentes que el GPT-4, la nueva versión de ChatGPT, durante al menos seis meses.

“Los sistemas de IA con inteligencia humana-competitiva pueden suponer graves riesgos para la sociedad y la humanidad, como lo demuestra una extensa investigación y es reconocido por los principales laboratorios de IA”, se lee en la misiva.

La IA generativa es un tipo de inteligencia artificial que utiliza modelos de aprendizaje automático para generar textos y crear contenidos originales en respuesta a las indicaciones del usuario. El bot de ChatGPT funciona según este principio, al igual que la red neuronal DALL-E, que permite hacer imágenes creíbles.