Ernst & Young (EY) publicó un informe de ciberseguridad que contiene alucinaciones generadas por IA, según una investigación de GPTZero. El informe incluye datos inventados y referencias inexistentes. EY ha reconocido el problema y afirma que está revisando sus salvaguardas internas de IA. El incidente resalta los riesgos de confiar en IA generativa sin una supervisión humana rigurosa.
La confianza es la moneda de los servicios profesionales. EY la ha devaluado. Un informe de ciberseguridad lleno de alucinaciones no solo es vergonzoso. Es peligroso. Los clientes confían en estos informes para tomar decisiones críticas. Si una firma del Big Four no puede verificar su propio resultado de IA, ¿cómo puede alguien confiar en el consejo? Esto no es un fallo técnico. Es una falla de responsabilidad.
Pero aquí está la oportunidad. Este incidente fuerza una conversación necesaria. No podemos tratar a la IA como un oráculo. Es una herramienta. Poderosa, pero necesita juicio humano. El error de EY podría convertirse en un catalizador para una mejor gobernanza de la IA. Veremos protocolos más estrictos, más transparencia y quizás nuevas regulaciones. Eso es progreso. El camino a seguir es claro: abrazar la IA, pero verificar todo.