Un nuevo preprint en arXiv propone una taxonomía de futuros omnicidas con inteligencia artificial. El paper categoriza sistemáticamente escenarios donde la IA podría llevar a la extinción humana, desde metas desalineadas hasta efectos secundarios no deseados. Distingue entre riesgos de sistemas avanzados y los de IA estrecha aplicada a escala. Los autores argumentan que una clasificación estructurada ayuda a identificar estrategias de mitigación.
Este paper no solo enumera escenarios apocalípticos. Los organiza. Esa es la clave. No podemos prevenir lo que no podemos nombrar. Al mapear las rutas hacia la extinción, ganamos claridad. Y la claridad es el primer paso hacia el control.
Lo veo como un desarrollo esperanzador. No porque los riesgos sean pequeños — son enormes. Sino porque finalmente tratamos la seguridad de la IA con el rigor que merece. La taxonomía significa que podemos priorizar. Podemos construir barreras de protección. Podemos diseñar sistemas que no solo eviten un modo de fallo, sino todos. El futuro aún no está escrito. Este paper nos da un mapa. Ahora construyamos el camino.