NeoHorse-1, un par de modelos de lenguaje de pesos abiertos de TokenRhythm Technologies e Infinigence AI, se post-entrena con datos que genera el propio sistema que lo sirve en producción. Un harness de enrutamiento que asigna cada solicitud entrante a uno de cuatro niveles de capacidad registra, turno por turno, qué predijo que necesitaba la solicitud, qué nivel la atendió de verdad y cómo terminó la interacción. El paper detrás de esto —arXiv:2609.08183, publicado el 8 de septiembre por 36 autores— convierte esos registros en la siguiente ronda de entrenamiento, en lo que llama un prototipo temprano de automejora recursiva (RSI) mediada por un harness: un sistema que usa evidencia de su propio desempeño para decidir qué entrenar después.
De los registros del enrutador a un currículo de entrenamiento
Antes de convertirse en dato de entrenamiento, cada registro pasa por deduplicación contra el conjunto de evaluación, una validación estructural basada en reglas y un juicio semántico de seis dimensiones sobre la interacción. Lo que sobrevive se ordena en un currículo de tres etapas por dificultad predicha y se reutiliza después para destilación on-policy, donde un modelo maestro fijo puntúa las respuestas que el propio modelo estudiante generó en cada etapa. En una comparación aparte y controlada, los autores entrenaron el mismo modelo con sus datos de harness de enrutamiento y con Toucan, un dataset público sintético de agentes de herramientas, bajo recetas y presupuestos equivalentes: los datos del harness de enrutamiento ganaron por 6,26 puntos de promedio en cinco benchmarks.
Diez benchmarks, y de dónde sale la mayor mejora
En diez benchmarks de ejecución agéntica, uso de herramientas, programación y seguimiento de instrucciones, el promedio del modelo de 4B subió de 58,94 a 64,87 tras este post-entrenamiento, y el del modelo de 9B, de 65,60 a 69,04, ambos medidos contra sus propios modelos base Qwen3.5. La mayor mejora de las dos tablas es la de VitaBench: el único benchmark que los autores evaluaron con un simulador de usuario y un modelo juez sustituidos, DeepSeek-V4-Flash, porque la configuración recomendada del benchmark ya no estaba disponible. El paper declara esa sustitución, pero el salto más grande de las dos tablas sigue apoyado en el único eslabón de evaluación que se aparta del protocolo de todos los demás.
Un solo ciclo, sin sección de seguridad y un conteo de votos que no es un veredicto
Los autores llaman a esto un primer intento de RSI y no una demostración: los resultados reportados corresponden a un solo paso por el ciclo de evaluar, elegir datos y reentrenar, y si las mejoras se acumulan en rondas siguientes queda declarado como trabajo futuro. Ni el paper ni el README de GitHub incluyen una sección de seguridad o riesgo: no hay red-teaming, no hay estudio de comportamiento de rechazo, no hay discusión de qué riesgos podría introducir un post-entrenamiento agéntico sobre el tráfico propio de un sistema. El paper llegó a esta cola editorial a través de la votación comunitaria de Hugging Face Papers, donde acumula 414 votos, una cifra que mide atención en la plataforma; esta investigación no encontró cobertura de prensa independiente sobre el paper. Ambos checkpoints, más versiones cuantizadas en GGUF y MLX, están publicados en Hugging Face y ModelScope bajo Apache 2.0, aunque el pipeline de entrenamiento y el propio harness de enrutamiento no lo están.
Lecturas relacionadas
- NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness — el paper, con las tablas de benchmarks, la comparación contra Toucan y la sustitución de VitaBench, declarada en su §5.
- Colección NeoHorse-1 — los dos repositorios de modelos, las descargas y el conteo de votos del paper.
- TokenRhythm/NeoHorse — código de despliegue e informe técnico; sin código de entrenamiento ni del harness.