EY publicó un informe de ciberseguridad lleno de alucinaciones de IA

El informe de ciberseguridad de Ernst & Young, una de las consultoras más prestigiosas del mundo, contenía alucinaciones generadas por inteligencia artificial. GPTZero detectó que secciones enteras del documento citaban estudios inexistentes y datos falsos.

Por qué importa

Cuando una firma como EY publica un informe con información inventada, el problema no es solo su reputación. Clientes, gobiernos y otras empresas toman decisiones de seguridad basadas en esos análisis. Una alucinación puede traducirse en inversiones mal dirigidas o vulnerabilidades no detectadas.

Además, el caso revela un patrón preocupante: el uso acrítico de IA generativa en trabajos que requieren verificación humana. Si una consultora con recursos ilimitados no revisa sus outputs, ¿qué podemos esperar del resto?

Qué dice el contexto

• GPTZero analizó el informe de EY y encontró referencias a papers y autores que no existen.
• Las alucinaciones aparecían en secciones clave, como análisis de amenazas y recomendaciones.
• EY no ha emitido una corrección pública ni explicado cómo ocurrió el error.
• El informe fue distribuido a clientes corporativos y publicado en el sitio web de EY.
• Este no es un caso aislado: otras consultoras han tenido incidentes similares con contenido generado por IA.

Lo que puedes hacer

1. Verifica siempre las fuentes: si un informe cita estudios o datos que no puedes localizar, desconfía. Pide los originales antes de tomar decisiones.
2. Exige transparencia: pregunta a tus proveedores si usan IA generativa y cómo verifican los resultados. Si no tienen un proceso claro, busca alternativas.
3. No delegues el criterio: la IA puede resumir y redactar, pero la validación de hechos sigue siendo humana. Revisa personalmente cualquier documento que afecte tu seguridad o inversiones.