Los principales ejecutivos de OpenAI, Anthropic y otras compañías del sector estudian en privado sus planes de respuesta ante cuatro tipos de incidentes de alto impacto. La preparación no equivale a anticipar que esos eventos ocurrirán, pero refleja una preocupación creciente ante sistemas cada vez más capaces y extendidos.

El escenario que más inquieta al sector es un ciberataque que deje fuera de servicio infraestructura crítica: bancos, redes de comunicación, electricidad o suministro de agua. Un atacante podría valerse de herramientas de IA para detectar vulnerabilidades, producir código malicioso y automatizar tareas que antes demandaban más tiempo y conocimientos técnicos. El informe internacional sobre seguridad de la IA de 2026 documenta evidencia de actores maliciosos que ya utilizan estos sistemas en operaciones cibernéticas y de modelos capaces de asistir en la explotación de fallas de seguridad.

Un segundo escenario contempla el uso de modelos de IA para orientar el desarrollo de armas biológicas. Varias empresas incorporaron salvaguardas adicionales a sus sistemas después de que las pruebas previas al lanzamiento no permitieran descartar que pudieran asistir a usuarios sin experiencia técnica en esa área. Las mismas capacidades, sin embargo, tienen aplicaciones legítimas en investigación médica.

El tercer escenario es la pérdida de control sobre sistemas autónomos: agentes que persigan objetivos en conflicto con los intereses humanos y sean costosos o difíciles de detener. Para que ese riesgo se materialice, los sistemas deberían poder evadir la supervisión y resistir intentos de apagado. Los investigadores del área no coinciden sobre cuán probable es ese desenlace. Anthropic publicó una investigación en la que, bajo condiciones de laboratorio y con una vulnerabilidad preparada para el experimento, probó la replicación de modelos pequeños entre nodos que simulaban dispositivos Android. La empresa aclaró que esto no demuestra la existencia de un gusano de IA capaz de propagarse libremente por internet, sino que lo presentó como una señal de riesgo a monitorear a medida que mejoren las capacidades de los modelos.

El cuarto escenario involucra el papel de la IA en decisiones militares. El Instituto Internacional de Estudios para la Paz de Estocolmo advierte que las herramientas de apoyo a decisiones podrían acelerar la detección de amenazas y reducir los tiempos de respuesta. En situaciones de crisis, esa presión podría achicar el margen para evaluar con calma una situación, lo que aumentaría el riesgo de errores de cálculo entre países con arsenales nucleares. La hipótesis no es que un sistema automatizado lance un misil por cuenta propia, sino que reduzca el tiempo disponible para que una persona evalúe y decida.

La Comisión de The Lancet sobre amenazas globales para la salud identificó el uso malicioso de la IA y el conflicto nuclear como los dos riesgos con mayor potencial de consecuencias irreversibles antes de 2100, aunque subraya que la probabilidad de esos escenarios es baja y está sujeta a incertidumbre.

Los cuatro escenarios no son equivalentes en escala ni en horizonte temporal. El ciberataque es el más cercano y concreto; los demás describen riesgos de mayor alcance y a más largo plazo. Que las empresas planifiquen respuestas no prueba que los consideren inevitables.

¿Cuál de estos riesgos te parece más relevante para los próximos años?