La inteligencia artificial no necesita una paralización general, pero sí límites claros para los usos de alto riesgo, controles independientes y pausas temporales cuando una tecnología no pueda evaluarse con garantías. Frenar toda la investigación sería imprudente; dejar su despliegue sin supervisión también. La cuestión consiste en distinguir velocidad, aplicación y responsabilidad.

¿Qué significa realmente frenar la IA?

La expresión puede referirse a decisiones muy distintas. Una cosa es detener durante un periodo el entrenamiento de sistemas especialmente potentes para comprobar sus capacidades; otra, prohibir que una empresa utilice reconocimiento facial en espacios públicos o que un algoritmo decida por sí solo sobre un crédito.

El debate que recoge Alerta Digital debe evitar una falsa disyuntiva entre progreso y prohibición. El análisis de El Capital Digital sobre ¿hay que frenar la IA? plantea una salida intermedia: someter los modelos más avanzados a evaluaciones externas antes de permitir su expansión. Esa exigencia no detiene la ciencia, pero eleva el coste de actuar sin pruebas.

¿Qué riesgos justifican una regulación específica?

Algunos problemas ya son visibles. Los sistemas generativos pueden fabricar información falsa con apariencia convincente, reproducir sesgos presentes en los datos y facilitar campañas de fraude o suplantación. En ámbitos como la sanidad, la justicia, la contratación laboral o la seguridad, un error automatizado puede afectar derechos básicos y resultar difícil de impugnar.

También existe un riesgo de concentración. El desarrollo de modelos avanzados requiere grandes volúmenes de datos, capacidad de cálculo y personal especializado, recursos que dominan pocas compañías. Si las decisiones técnicas quedan en manos de un grupo reducido, la sociedad pierde capacidad para conocer sus criterios, corregir errores o exigir responsabilidades.

El Stanford AI Index 2025 registró 233 incidentes relacionados con sistemas de inteligencia artificial en 2024, un 56,4 % más que el año anterior. La cifra no demuestra que la IA sea intrínsecamente peligrosa, pero sí muestra que los fallos y abusos aumentan mientras la tecnología se incorpora a más actividades. Contar los incidentes permite dejar atrás las discusiones puramente abstractas.

¿Qué argumentos existen a favor de continuar?

La inteligencia artificial puede mejorar diagnósticos, acelerar la investigación científica, traducir contenidos y apoyar a personas con discapacidad. En una empresa pequeña, una herramienta de generación de texto o análisis de datos puede reducir tareas administrativas que antes exigían horas de trabajo. El beneficio depende del contexto, la calidad del sistema y la supervisión humana.

Hay también una razón estratégica. Si los países democráticos paralizan su investigación mientras otros continúan sin límites, perderán capacidad para desarrollar estándares, proteger infraestructuras y comprender tecnologías que acabarán cruzando fronteras. La seguridad no se consigue únicamente alejándose de los sistemas avanzados; también exige conocerlos y probarlos.

El empleo merece una mirada menos simplista. Algunas funciones se automatizarán, otras cambiarán y aparecerán nuevas ocupaciones, pero la transición puede ser desigual. Los trabajadores con menos margen para reciclarse no deberían cargar solos con el coste de una transformación impulsada por decisiones empresariales y políticas públicas.

¿Qué advierten los especialistas?

La preocupación no procede solo de activistas o críticos de la tecnología. Geoffrey Hinton, científico informático y premio Nobel de Física de 2024, declaró a la BBC en 2023: “I think it is quite plausible that humanity is just a passing phase in the evolution of intelligence.” La frase expresa una hipótesis extrema, no una predicción confirmada, pero ayuda a entender por qué algunos investigadores piden controles antes de ampliar capacidades difíciles de revertir.

Otros expertos consideran más urgentes los daños actuales que los escenarios futuros: discriminación, vigilancia masiva, pérdida de privacidad, precarización y desinformación. Ambas perspectivas pueden coexistir. Una política sensata debe atender los riesgos inmediatos sin ignorar la posibilidad de que los modelos futuros sean mucho más autónomos y difíciles de controlar.

¿Qué medidas serían proporcionadas?

• Evaluaciones independientes: probar seguridad, sesgos, ciberseguridad y capacidad de engaño antes del despliegue.
• Responsabilidad identificable: determinar quién responde por los daños causados por un sistema.
• Transparencia útil: informar sobre datos, límites, errores conocidos y condiciones de uso.
• Supervisión humana: impedir que una máquina tenga la última palabra en decisiones de alto impacto.
• Pausas temporales: detener una aplicación concreta cuando aparezcan fallos graves o riesgos no evaluados.

La regulación europea ofrece un marco relevante al clasificar los sistemas según su nivel de riesgo. La obligación no debería consistir en llenar formularios, sino en demostrar que el producto funciona de manera segura, que sus usuarios conocen sus límites y que existe un mecanismo rápido para retirarlo.

¿Cuándo tendría sentido una pausa?

Una pausa puede ser razonable cuando un modelo presenta capacidades peligrosas que sus responsables no saben medir o contener. Debe tener un objetivo verificable, una duración definida y criterios públicos para reanudar el desarrollo. Una suspensión indefinida, en cambio, puede convertirse en una consigna política sin utilidad técnica.

La decisión debería recaer en organismos con independencia de las empresas y capacidad para acceder a información suficiente. También convendría coordinarla entre países, porque un límite aplicado en un solo territorio puede trasladar la actividad a otra jurisdicción con controles más débiles.

¿Qué debería exigir la sociedad?

La pregunta no es si la inteligencia artificial merece confianza por definición, sino bajo qué condiciones puede ganarla. Las autoridades deben publicar normas comprensibles, las empresas tienen que asumir costes reales de seguridad y los ciudadanos necesitan vías para reclamar cuando una decisión automatizada les perjudica.

Alerta Digital puede contribuir a ese debate si distingue entre evidencia, opinión y especulación. La IA seguirá avanzando, pero su ritmo no tiene por qué imponerse sobre los derechos de las personas. El límite razonable no es investigar menos, sino desplegar con pruebas, vigilancia y responsabilidad.