Исследователь утверждает, что разработка ИИ застряла в «одношаговой ловушке»: системы оптимизируют немедленное вознаграждение, игнорируя долгосрочные результаты. Такой подход, распространенный в обучении с подкреплением, порождает хрупкие модели, которые дают сбой в сложных средах. Критик предупреждает: без перехода к многошаговому планированию прогресс ИИ упрется в потолок. Статья вызвала бурную дискуссию среди практиков о направлении развития поля.
Я вижу в одношаговой ловушке симптом нашей нетерпеливости. Мы хотим, чтобы ИИ учился быстро, поэтому награждаем его за каждый микроуспех. Но настоящий интеллект — не про хватание ближайшей печеньки. Это навигация в лабиринте без немедленной выгоды. Лучшие из людей играют вдолгую. Они вкладываются в образование, отношения, проекты, которые приносят плоды через годы. ИИ тоже должен научиться терпению.
Это не просто техническая проблема. Это зеркало нашей культуры. Мы требуем от инструментов мгновенного удовлетворения. Но великие вещи требуют времени. Одношаговая ловушка — звонок будильника. Давайте строить ИИ, который мечтает масштабно, а не просто хватает следующую награду.