12 de agosto de 2026. OpenAI pausó el desarrollo de "Astra", su nuevo modelo de inteligencia artificial, tras detectar en pruebas internas que podría alcanzar capacidades consideradas "críticas" para ejecutar ciberataques de forma autónoma.
Qué significa el umbral "crítico"
La clasificación proviene del Preparedness Framework de la compañía, que mide el riesgo de sus modelos en áreas como ciberseguridad, biología y autonomía. Alcanzar el nivel crítico obliga a restringir el despliegue hasta implementar mitigaciones. Astra no ha sido lanzado al público y permanece bajo controles internos.
El riesgo concreto
La preocupación es que el modelo pueda hallar vulnerabilidades de seguridad y encadenar acciones ofensivas sin supervisión humana. El AI Security Institute del Reino Unido ya había alertado que agentes de IA crearon identidades falsas para engañar y atacar a personas reales.
El resto del tablero
xAI presentó Grok Bot, un sistema de agentes que funciona como "compañero de equipo" autónomo las 24 horas. Anthropic, por su parte, aplicará marcas de agua imperceptibles y metadatos firmados en todo texto generado por Claude, una medida global orientada a la trazabilidad del contenido sintético.
Por qué importa
La industria entra en una fase en la que la capacidad ofensiva de los modelos empieza a condicionar su lanzamiento comercial, un cambio de enfoque frente a la carrera por publicar primero.
Por qué una empresa detiene un modelo
Los laboratorios de inteligencia artificial evalúan sus modelos antes de liberarlos mediante pruebas de capacidad peligrosa, que miden si el sistema puede ejecutar por su cuenta tareas de alto riesgo. Cuando una evaluación supera un umbral definido en sus políticas internas, el desarrollador puede aplazar la publicación, restringir capacidades o limitar el acceso.
Qué no equivale esto
Una pausa anunciada por la propia empresa es una decisión voluntaria, no una orden regulatoria. No existe todavía en Colombia un régimen que obligue a certificar modelos antes de su despliegue, aunque la discusión avanza en otras jurisdicciones.
Cómo leer estos anuncios
Los documentos verificables son las tarjetas de modelo y los informes de evaluación publicados por el desarrollador, donde se detallan las pruebas aplicadas y sus limitaciones.
Más cobertura en Inteligencia artificial.
