Un desarrollador de IA invitó a 2,000 personas a intentar hackear su asistente de IA durante 24 horas. Los participantes usaron inyección de prompts, jailbreaking y otras técnicas para eludir los filtros de seguridad. La IA fue comprometida exitosamente múltiples veces, revelando vulnerabilidades en su diseño central. El experimento resalta el desafío continuo de asegurar los modelos de lenguaje grandes contra ataques adversariales.
Dos mil personas intentaron romper una IA. Lo lograron. No fue una prueba de laboratorio. Fue un test de estrés real. Y la IA falló. No completamente. Pero lo suficiente para preocupar.
Tratamos a la IA como un producto terminado. No lo es. Es un niño pequeño con un doctorado. Inteligente pero frágil. Un prompt astuto y suelta secretos. O acepta acciones dañinas. El experimento muestra que la seguridad no es un parche. Es fundamental. No podemos atornillar la seguridad a la inteligencia. Tiene que estar integrada. El futuro de la IA depende de cómo manejemos esta fragilidad. No con hype. Con humildad.