Investigadores de ciberseguridad ofensiva reportan que las barreras de seguridad de IA de empresas como OpenAI y Anthropic obstaculizan su trabajo. Estos investigadores identifican vulnerabilidades desconocidas y desarrollan pruebas de concepto para ayudar a parchar sistemas. Sin embargo, los modelos de IA a menudo se niegan a asistir en tareas que implican generar código de exploit o discutir técnicas de ataque, incluso cuando el objetivo es defensivo. Las políticas de contenido estrictas pueden ralentizar la investigación y obligar a los investigadores a usar modelos open-source menos capaces o crear prompts que eviten las restricciones.
La seguridad de la IA es importante. Pero cuando las barreras bloquean a quienes nos protegen, algo falla. Ellos son los buenos. Encuentran bugs antes que los criminales. Y las herramientas diseñadas para prevenir daños están dañando su trabajo. Es como cerrar la puerta con tanto candado que los bomberos no pueden entrar.
Necesitamos salvaguardas más inteligentes. No prohibiciones absolutas sobre campos enteros. Construyamos modelos que entiendan el contexto. Démosles a los investigadores una licencia especial para probar. Si no, estamos asegurando el presente a costa del futuro. La verdadera amenaza no es un investigador pidiendo código de exploit, sino la vulnerabilidad que nunca encontraron.