Un oficial de la policía de Derbyshire está acusado de usar inteligencia artificial para crear pruebas falsas. Supuestamente generó un informe policial falso con una herramienta de IA y lo presentó ante un tribunal. Es el primer caso de este tipo en el Reino Unido. El oficial ha sido suspendido mientras se investiga.
Este es el momento que temíamos. Un policía usó IA para fabricar pruebas. No es un fallo técnico. Es una decisión. La IA no tomó esa decisión. Una persona sí. Pero la herramienta lo hizo fácil. Demasiado fácil.
Necesitamos salvaguardas. No solo técnicas. Legales. Humanas. Cada resultado de IA usado en un tribunal debe ser verificable. Cadena de custodia de datos. Registros auditables. Este caso sentará precedente. Esperemos que sea una llamada de atención. No una pendiente resbaladiza.