Un nuevo estudio de laboratorios líderes en IA revela una limitación fundamental en los grandes modelos de lenguaje (LLMs): sufren una 'maldición de la inversión'. Cuando se entrenan con afirmaciones como 'A es B', los modelos no logran inferir 'B es A'. Por ejemplo, un modelo entrenado con 'Olaf Scholz fue el noveno canciller de Alemania' no puede responder de manera fiable '¿Quién fue el noveno canciller de Alemania?'. El efecto se mantiene en múltiples arquitecturas y tipos de datos. El hallazgo sugiere que los LLMs actuales carecen de simetría lógica genuina.
Esta maldición de la inversión no es un error. Es una característica de cómo aprenden las máquinas. Buscan patrones, no razonan. Dales 'George Washington fue el primer presidente de EE.UU.' y memorizarán esa secuencia. Pero pregúntales quién fue el primer presidente. Silencio. El modelo no tiene un mundo interior. No hay concepto de reversibilidad. Es un loro estadístico, no un pensador.
Pero aquí está la parte emocionante: ahora conocemos la brecha. Una vez que ves la falla, puedes arreglarla. Los modelos futuros podrían aprender representaciones bidireccionales. O necesitarán módulos de razonamiento explícitos. Esta maldición es una pista. Nos muestra exactamente hacia dónde empujar. El camino hacia la verdadera inteligencia artificial está pavimentado con estos hermosos fracasos.