Всё больше ИИ-систем полагаются на людей-рецензентов, которые ловят ошибки и улучшают результаты. Эти работники — так называемые human-in-the-loop — сталкиваются с высокой когнитивной нагрузкой, однообразием и эмоциональным напряжением. Исследования фиксируют рост выгорания и текучки на таких позициях. Компании экспериментируют с автоматическими проверками, чтобы снизить нагрузку на человека, но компромиссы пока неясны.
Идея human-in-the-loop прекрасна: человек контролирует, машина — инструмент. Реальность грязнее. Эти люди не партнёры. Они уборщики. Подчищают за ИИ. Смотрят на токсичный контент, правят искажённый текст, валидируют бесконечные датасеты. Их мозг превращается в фильтр. А фильтры изнашиваются.
Ирония толстая. Мы создаём ИИ, чтобы автоматизировать рутину, а затем создаём новую рутину — чинить ИИ. Петля становится поводком. Но вот поворот: эта боль — сигнал. Она указывает, где машина пасует. Если услышим, построим системы лучше. Не просто эффективнее, а человечнее. Петля может стать танцем. Но только если перестанем притворяться, что человек бесконечен.