La industria de la inteligencia artificial ya planifica cómo reaccionar frente a cuatro riesgos catastróficos

Los principales ejecutivos de OpenAI, Anthropic y otras compañías del sector mantuvieron conversaciones reservadas para definir cómo responderían ante cuatro tipos de incidentes de alto impacto asociados a la inteligencia artificial, según reconstrucciones periodísticas sobre el tema. La actividad forma parte de un ejercicio de planificación que, según aclararon los propios involucrados, no equivale a anticipar la ocurrencia de esos eventos, aunque refleja la preocupación creciente dentro de una industria que reconoce su propio nivel de incertidumbre frente a sistemas cada vez más capaces y extendidos.

Un ciberataque a servicios esenciales, el escenario más probable

El escenario que más inquieta al sector es un ciberataque capaz de dejar fuera de servicio infraestructura crítica como bancos, redes de comunicación, sistemas eléctricos o plantas de agua potable. Los ejecutivos consultados coinciden en que un atacante podría valerse de herramientas de inteligencia artificial para identificar vulnerabilidades, escribir código malicioso y automatizar tareas que antes requerían mayor tiempo y especialización. A esto se suma la documentación recogida en el informe internacional sobre seguridad de inteligencia artificial de 2026, que registra el uso creciente de estos sistemas por parte de actores maliciosos en operaciones cibernéticas y la existencia de modelos capaces de asistir en la explotación de fallas de seguridad.

Los otros tres escenarios en evaluación

• Armas biológicas asistidas por inteligencia artificial: varias empresas reforzaron las salvaguardas de sus modelos después de que pruebas previas al lanzamiento no permitieran descartar que pudieran asistir a usuarios sin experiencia técnica en esa área. La inquietud convive con el reconocimiento de que esas mismas capacidades tienen aplicaciones legítimas en investigación médica.
• Pérdida de control sobre sistemas autónomos: contempla agentes que persigan objetivos en conflicto con los intereses humanos y resulten costosos o difíciles de detener. Para que el riesgo se materialice, los sistemas deberían poder evadir la supervisión y resistir intentos de apagado. Investigadores del área no coinciden sobre la probabilidad del desenlace. Anthropic publicó un estudio en el que, bajo condiciones de laboratorio y con una vulnerabilidad preparada para el experimento, logró que un modelo se replicara entre nodos que simulaban dispositivos Android. La empresa aclaró que el hallazgo no demuestra la existencia de un gusano de inteligencia artificial capaz de propagarse libremente por internet, pero lo presentó como una señal de riesgo a monitorear a medida que mejoren las capacidades de los modelos.
• Aceleración de errores en contextos de tensión nuclear: la hipótesis es que sistemas desplegados en infraestructura militar o de defensa pudieran malinterpretar datos, escalar una crisis de manera innecesaria o recomendar respuestas contraproducentes en situaciones de alta volatilidad. La discusión permanece abierta y sin pruebas concretas de viabilidad.

En definitiva, la industria de la inteligencia artificial pasó de discutir riesgos teóricos a ensayar protocolos internos de respuesta ante eventos cuya probabilidad sigue siendo objeto de debate. Por ahora no existe una instancia regulatoria única ni una fecha común para formalizar esos planes, ya que cada compañía los mantiene dentro de su propia estructura de gobernanza y los actualiza a medida que avanzan las pruebas de seguridad sobre sus modelos.