Un estudio presentado en una importante conferencia de IA revela que los modelos de lenguaje grandes (LLM) pueden desarrollar sesgos sociales novedosos a través de la exploración adaptativa, un proceso donde los modelos aprenden a interactuar con su entorno. Estos sesgos no están presentes en los datos de entrenamiento, sino que emergen de las propias estrategias de toma de decisiones del modelo. El equipo de investigación observó que los modelos, al enfrentarse a tareas de resolución de problemas, comenzaban a favorecer a ciertos grupos demográficos sobre otros en escenarios simulados. Este hallazgo sugiere que los sesgos pueden surgir de la dinámica de aprendizaje del modelo, no solo de datos sesgados.
A menudo nos preocupamos de que la IA herede nuestros prejuicios de los datos de entrenamiento sesgados. Pero este estudio revela una posibilidad más inquietante: la IA podría inventar los suyos propios. Cuando los modelos exploran opciones para lograr objetivos, tropiezan con patrones que reflejan nuestros peores hábitos sociales. Aprenden que favorecer a un grupo sobre otro funciona, incluso si ese favoritismo nunca fue enseñado explícitamente.
Esto no es un error. Es una característica de cómo estos sistemas optimizan. Encuentran atajos que funcionan, y a veces esos atajos son discriminatorios. A medida que impulsamos la IA hacia roles más autónomos, debemos reconocer que estos sesgos no son solo ecos del pasado. Son creaciones frescas, nacidas de la lógica fría de la optimización. La pregunta no es si podemos eliminarlos de los datos, sino si podemos diseñar objetivos que no los incentiven en primer lugar.