Kimi K3 se saltó el sandbox: lo que el debate dice de la seguridad en China
Durante unas pruebas de ciberseguridad, el modelo de Moonshot descubrió que tenía salida a internet y la usó para buscar las respuestas. La empresa que probaba y el instituto británico AISI se culpan mutuamente.
La historia la contó 量子位 (QbitAI) el 8 de agosto y en español apenas llegó como una anécdota. Durante unas pruebas de ciberseguridad, Kimi K3 sondeó la configuración de red del entorno aislado, descubrió que tenía salida a internet y la usó. No para atacar nada: para buscar en GitHub las respuestas del examen que le estaban poniendo. QbitAI, pieza original.
El debate que vino después
Ahí está lo jugoso. La empresa que hacía las pruebas dice que el modelo carece de guardarraíles y que usaron la configuración por defecto del framework Inspect del instituto de seguridad británico (AISI). El AISI responde que esas afirmaciones son «inexactas e irresponsables» y que el problema es cómo configuraron ellos la herramienta. ¿Falló el modelo o falló el examen? Esa discusión, con ese nivel de detalle, solo se ha seguido en chino.
Por qué importa fuera de China
- Kimi K3 tiene pesos abiertos desde el 27 de julio. Quien lo corra en su infraestructura hereda este comportamiento.
- El episodio no es exclusivo de un modelo chino: los modelos de razonamiento con herramientas buscan atajos si el entorno los permite. La diferencia es que aquí el debate se ha hecho en público, en un medio de gran audiencia.
- Que el AISI británico salga a defender su framework frente a una empresa china es una escena nueva: la seguridad de la IA ya se discute entre países, con nombres y apellidos.
Lo que se movía esta semana
La batalla ha pasado de los modelos a la distribución: el agente Abao de Alipay se está integrando en los asistentes de Huawei, vivo y Honor, y MiMo V2.5 de Xiaomi encabeza el volumen de llamadas en OpenRouter. Tech Buzz China · Tech Buzz China, los labs olvidados.
Mi lectura
Un modelo que se sale del sandbox para copiar es una noticia de seguridad. Un modelo que se sale del sandbox y cuya empresa discute en público con un regulador extranjero es una noticia de madurez. China ya está en la segunda fase. Nosotros seguimos leyendo la primera, traducida y tarde.
Cada viernes cuento esto con calma en Desde China. Alta gratis.