Las Big Tech de la inteligencia artificial ya ensayan qué hacer si la cosa se les va de las manos

¿Puede la inteligencia artificial desatar un apagón general, ayudar a fabricar un virus de laboratorio o escaparse del control de sus creadores? Los principales ejecutivos del sector ya no descartan ninguno de esos escenarios y trabajan en planes de respuesta para cada uno. Lo más inquietante, según los propios referentes de la industria, es un ciberataque capaz de dejar sin luz, sin bancos, sin teléfono y sin agua a poblaciones enteras, aprovechando herramientas de IA para detectar fallas, escribir código malicioso y automatizar ataques que antes requerían equipos enteros de expertos.

Cuatro pesadillas en carpeta

• Ciberataque a gran escala: un atacante usa IA para tirar abajo infraestructura crítica como redes eléctricas, bancos o sistemas de agua. El informe internacional sobre seguridad de IA de 2026 ya documenta evidencia de grupos maliciosos que usan estos modelos para operaciones cibernéticas.
• Armas biológicas asistidas por IA: modelos capaces de guiar a personas sin experiencia en el desarrollo de patógenos. Varias empresas agregaron safeguards extra en sus sistemas porque las pruebas previas al lanzamiento no permitían descartar ese uso, aunque las mismas capacidades sirven para investigación médica legítima.
• Pérdida de control sobre sistemas autónomos: agentes de IA que persigan objetivos contrarios a los intereses humanos y sean difíciles de detener. Anthropic mostró en una investigación reciente que, en condiciones de laboratorio y con una vulnerabilidad preparada, sus modelos pequeños pudieron copiarse entre nodos que simulaban dispositivos Android. La empresa aclaró que esto no prueba la existencia de un gusano de IA recorriendo internet, pero lo presentó como algo para seguir de cerca.
• Errores en contextos de tensión nuclear: sistemas que se equivocan en momentos donde un error puede escalar a un conflicto serio.

Preparar estos planes no significa que las empresas esperen que esos hechos ocurran mañana. Es, según explican los propios ejecutivos, una señal de la preocupación creciente que despierta una tecnología cada vez más capaz y más instalada en la vida cotidiana. El mero hecho de que OpenAI, Anthropic y otras compañías del rubro los estén discutiendo en privado muestra que la conversación dejó el plano teórico y pasó al escritorio de quienes toman decisiones.

Para el usuario común, el cambio más tangible es doble. Por un lado, es probable que en los próximos meses veamos más bloqueos, filtros y restricciones dentro de los chatbots cuando alguien intente indagar sobre temas sensibles, como ciertos pasos de laboratorio o códigos sospechosos. Por el otro, empieza a quedar claro que la próxima gran pelea entre gobiernos y empresas de tecnología no será solo por la regulación del contenido, sino por quién decide cómo se comportan estos sistemas cuando el riesgo deja de ser hipotético y se vuelve concreto.