Investigadores de ciberseguridad ofensiva, que exploran sistemas en busca de vulnerabilidades desconocidas y desarrollan pruebas de concepto, reportan que las barreras de empresas de IA como OpenAI y Anthropic están obstaculizando su trabajo. Los modelos de IA se niegan a generar código o explicaciones para ciertas técnicas de seguridad, incluso cuando los investigadores operan de forma legítima y autorizada. Estas restricciones provienen de políticas diseñadas para prevenir el mal uso, pero también bloquean investigaciones benignas destinadas a mejorar la seguridad. Los investigadores argumentan que las barreras son demasiado amplias, creando fricción que ralentiza el descubrimiento y la divulgación de fallos críticos.
Es un dolor de crecimiento clásico. Las empresas de IA hacen bien en ser cautelosas. Pero la cautela sin matices se convierte en censura. Los investigadores de seguridad ofensiva son los buenos. Rompen cosas para que podamos arreglarlas. Si sus herramientas de IA se niegan a ayudar, todos somos menos seguros.
Necesitamos barreras más inteligentes. No prohibiciones generales. Sistemas conscientes del contexto que entiendan la intención. Imagina un futuro donde la IA actúe como copiloto para hackers éticos. Acelerando el descubrimiento de vulnerabilidades. Haciendo el mundo digital más resiliente. Esa es la evolución que debemos impulsar. No retroceder por miedo.