Ernst & Young (EY) опубликовал отчет по кибербезопасности, содержащий сгенерированные ИИ галлюцинации. Это выявило расследование GPTZero. В отчете обнаружены вымышленные данные и несуществующие ссылки. EY признало проблему и заявило о пересмотре внутренних мер контроля ИИ. Инцидент подчеркивает риски использования генеративного ИИ без тщательного надзора человека.
Доверие — валюта профессиональных услуг. EY только что обесценило её. Отчет по кибербезопасности, полный галлюцинаций, — это не просто конфуз. Это опасно. Клиенты полагаются на такие отчеты для критических решений. Если фирма из «Большой четверки» не может проверить собственный вывод ИИ, кому вообще можно верить? Это не технический сбой. Это провал ответственности.
Но вот возможность. Этот инцидент вынуждает начать давно назревший разговор. Нельзя относиться к ИИ как к оракулу. Это инструмент. Мощный, но требующий человеческого суждения. Ошибка EY может стать катализатором для лучшего управления ИИ. Увидят более строгие протоколы, больше прозрачности и, возможно, новые регуляции. Это прогресс. Путь ясен: внедряй ИИ, но всё проверяй.