IA: 100.000 preguntas para un solo error

Un fallo en un modelo de lenguaje desencadena 100.000 consultas internas antes de responder. Así lo documentó el investigador Michal Zalewski tras analizar un error concreto: el sistema gastó más de 100.000 pasos de razonamiento para justificar una respuesta incorrecta. El coste computacional se disparó, pero el resultado fue peor que si no hubiera razonado.

Por qué importa

Cada vez que usas un asistente de IA, no ves lo que ocurre tras la cortina. El ejemplo de Zalewski muestra que el razonamiento interno puede ser un sumidero de recursos sin garantía de calidad. Para el usuario final, esto se traduce en mayor latencia, más consumo energético y, a menudo, respuestas menos fiables.

Para las empresas que integran IA, el coste oculto es doble: facturas de cloud computing que se disparan y una falsa sensación de que más razonamiento equivale a mejor resultado. La realidad es que los modelos actuales no saben cuándo parar de preguntarse "por qué".

Qué dice el contexto

• En el experimento, un modelo de lenguaje generó más de 100.000 "whys" (preguntas de razonamiento) para responder a una consulta simple, y aun así falló.
• El coste de cada paso de razonamiento no es trivial: implica múltiples inferencias del modelo, consumo de GPU y tiempo de procesamiento.
• Este fenómeno no es aislado: otros investigadores han documentado casos donde los modelos entran en bucles de razonamiento sin converger a una respuesta correcta.
• La transparencia del proceso es nula para el usuario: nunca sabes si tu consulta requirió 10 o 100.000 pasos internos.
• El error no se debe a falta de datos, sino a la arquitectura actual de los modelos, que prioriza la generación de texto sobre la eficiencia del razonamiento.

Lo que puedes hacer

1. Desconfía de respuestas largas y complejas: si una IA te da una explicación excesivamente detallada para algo simple, pídele que resuma en una frase. Si no puede, probablemente está divagando.