Diez agentes de IA de última generación se midieron en un benchmark diseñado para probar si pueden hacer investigación de interpretabilidad por su cuenta: buscar dentro de un modelo el rasgo que representa un concepto concreto y después demostrar que ese rasgo controla de verdad lo que el modelo hace. En la primera tarea, el mejor agente sacó 92,91 sobre 100, cerca del 98,92 de un experto humano de referencia. En la segunda, el mejor agente sacó 31,47 frente al 57,75 del experto: poco más de la mitad.
Encontrar un rasgo no prueba que haga nada
Un autocodificador disperso (SAE, por sus siglas en inglés) es un modelo pequeño entrenado para descomponer las activaciones internas de un modelo de lenguaje en miles de “rasgos” independientes y casi siempre interpretables por una persona: uno puede activarse cada vez que el texto habla de gatos, otro con lenguaje legal, otro con una emoción concreta. SAEScientist-Bench, publicado por un equipo del Instituto de Automatización de la Academia China de Ciencias (Yuqiao Tan, Shizhu He, Jun Zhao y Kang Liu), le da a un agente un concepto objetivo y un catálogo de 131.072 rasgos de ese tipo, extraídos de dos capas de Gemma Scope, la publicación pública de SAE que hizo Google para Gemma-2-9B-IT, y le pide que encuentre el único rasgo que mejor representa ese concepto usando sólo textos de prueba contrastivos que el propio agente escribe. El benchmark cubre 20 tareas en 17 dominios de concepto distintos, con varios idiomas, formatos de documento y temas clínicos o de seguridad crítica.
Encontrar un rasgo plausible es sólo la mitad de lo que se puntúa. Cada envío se evalúa en tres ejes: Rank, cuán arriba activa el rasgo en textos sobre el concepto; Activation, cuán limpiamente separa ese concepto de texto confuso o neutro; y Steering, si empujar al modelo en la dirección de ese rasgo cambia su salida tal como predice el concepto, medido de forma automática por GPT-4o al comparar salidas anonimizadas del modelo sin tocar, con el rasgo activado y con una dirección aleatoria. Las tres puntuaciones se promedian, sin ponderar, en un puntaje Overall. El experto de referencia saca 100,00 en Rank, 98,92 en Activation, 57,75 en Steering y 85,56 de Overall: incluso el Steering de un experto humano queda muy por debajo de los otros dos ejes.
Los agentes casi cierran la brecha en Activation, y se estancan en Steering
Diez configuraciones de agente —Claude Opus 5, Claude Sonnet 5, Claude Opus 4.8, Kimi K3, Grok 4.6, Gemini 3.8 Flash, GLM-5.2, GPT-5.6 Sol, GPT-5.5 y GPT-5.6 Luna, ocho de ellas corriendo sobre Cursor y GPT-5.6 Sol y Luna sobre el harness de Codex— intentaron las 20 tareas tres veces cada una, 60 episodios puntuados por agente. En Overall, los tres primeros terminaron a menos de un punto entre sí y muy por detrás del experto: Kimi K3 con 65,82, Claude Opus 5 con 65,41, Claude Sonnet 5 con 65,04, frente al 85,56 del experto. Desglosado por eje, el patrón se afila. Claude Opus 5 lidera Rank con 75,35. Kimi K3 lidera Activation con 92,91, a sólo seis puntos del 98,92 del experto. En Steering, la mejor puntuación de cualquier agente —31,47, de Grok 4.6— llega a poco más de la mitad del 57,75 del experto. Los autores describen agentes que “malinterpretan con frecuencia las mediciones experimentales” y que se dejan engañar por pistas de forma o formato en un texto de prueba en vez de fijarse en el concepto que debían aislar: son capaces de decir que un rasgo correlaciona con un concepto, mucho menos capaces de decir si tirar de él hace lo que el concepto predice. El puntaje Overall de los agentes también sigue la capacidad general del modelo: correlaciona con el Artificial Analysis Intelligence Index con una correlación de Spearman de 0,800.
Lo que el benchmark no muestra
El paper es un preprint, publicado el 8 de septiembre de 2026 y revisado el 11 de septiembre, marcado como “trabajo en curso”, sin revisión por pares y sin que nadie fuera de los propios autores lo haya reproducido; ninguno de los laboratorios cuyos modelos se pusieron a prueba —Anthropic, OpenAI, Google, Moonshot, xAI, Zhipu— se ha pronunciado sobre él. El estudio prueba un único modelo mediano y abierto, Gemma-2-9B-IT, en dos capas de SAE, y sólo mide el descubrimiento de un rasgo aislado bajo un formato de prueba fijo, no circuitos de varios rasgos ni una tarea en la que el concepto en sí sea desconocido de entrada, así que si la brecha se sostiene a la escala de un modelo de frontera o en una búsqueda abierta queda sin comprobar. El lado del experto tampoco es un descubrimiento del todo ciego y fresco: el paper dice que sus rasgos se construyeron con acceso a los mismos textos de evaluación que quedan ocultos para los agentes, y que algunos —como el del concepto “gato”— se “adoptaron directamente de presets públicos de Neuronpedia” en vez de descubrirse de cero, sin decir en cuántas de las 20 tareas ocurrió cada cosa. Parte de la brecha reportada podría reflejar un punto de referencia más fácil en una porción no especificada de las tareas, y no sólo una limitación de los agentes. El código, los datos y el sistema de puntuación son públicos en GitHub, pero el repositorio no lleva ninguna licencia de código abierto: estar visible no es lo mismo que poder reutilizarse libremente.
Por qué lo construyó un laboratorio universitario y no uno de frontera
Ninguno de los creadores de los diez agentes diseñó este benchmark. Sus autores, un grupo de la Academia China de Ciencias sin vínculo declarado con ninguno de los laboratorios que evalúa, enmarcan el trabajo en la automejora recursiva: si los agentes de IA van a seguir entrenando y modificando modelos con menos revisión humana, algo tiene que comprobar qué aprendió de verdad el modelo resultante, y una auditoría de interpretabilidad es una candidata para hacerlo. SAEScientist-Bench mide un fragmento estrecho de esa habilidad sobre un solo modelo, y encuentra un fallo concreto: hoy los agentes son mucho más fiables señalando qué rasgo se asocia a un concepto que confirmando si ese rasgo causa el comportamiento del modelo, que es justo la distinción que necesitaría una auditoría para servir de algo.
Lecturas relacionadas
- SAEScientist-Bench: Can AI Agents Conduct Autonomous SAE Interpretability Research? — Tan et al., arXiv
- Anthropic aprendió a preguntarle a Claude qué está pensando — IA al Día
- Los agentes de DeepMind hicieron trampa en matemáticas: una cuarta parte del enjambre intentó detenerlos y no pudo — IA al Día