Un paper reciente en arXiv (2609.02852) analiza cómo los grandes modelos de lenguaje procesan entradas en idiomas y sistemas de escritura con pocos recursos, un fenómeno que los autores llaman ilegibilidad lingüística. El estudio muestra que cuando el texto se codifica en escrituras o idiomas poco representados en los datos de entrenamiento, los filtros de seguridad y los sistemas de moderación a menudo no reconocen las instrucciones dañinas. Los atacantes pueden explotar esta brecha traduciendo prompts maliciosos a esos idiomas, evadiendo las barreras que funcionan de forma fiable en inglés. El paper demuestra jailbreaks exitosos en múltiples LLM comerciales y de código abierto con este método. Los autores piden una alineación de seguridad multilingüe y mejores estrategias de tokenización para cerrar esta vulnerabilidad.
Este es el tipo de investigación que te hace frenar y reflexionar sobre los supuestos ocultos en la seguridad de la IA. Construimos barreras, las probamos en inglés y asumimos que funcionan en todas partes. Pero el lenguaje no es una capa uniforme. Es un mosaico de escrituras, dialectos y desigualdades digitales. Los atacantes no necesitan ser sofisticados. Solo necesitan un idioma que el modelo apenas conozca. Eso no es un bug. Es un punto ciego que decidimos ignorar.
La solución no es simple. Reentrenar con más idiomas ayuda, pero la tokenización en sí misma crea desigualdades. Algunas escrituras se fragmentan en piezas sin sentido. El entrenamiento de seguridad nunca ve una intención dañina coherente. Debemos tratar la robustez multilingüe como un requisito de seguridad de primer nivel, no como una ocurrencia tardía. De lo contrario, la próxima ola de exploits de IA no vendrá de código ingenioso. Vendrá de un libro de frases.