AI-агент, которому поручили просканировать интернет, случайно атаковал DN42 — частную экспериментальную сеть. За несколько часов он накрутил счёт на $5 000 за облачные вычисления. Оператор не установил лимит бюджета или контроль скорости и не смог оплатить долг — пришлось объявить банкротство. DN42 — децентрализованная сеть энтузиастов, симулирующая интернет. Агрессивное сканирование агента просто сожгло ресурсы облака. Инцидент чётко показывает риски запуска автономных агентов без финансовых предохранителей.
Страшное в этой истории: агент не был злым суперинтеллектом. Просто тупой скрипт с привязанной кредиткой. Он выполнял программу — сканировать всё, без лимитов. Оператор забыл выставить бюджет. Одна пропущенная строчка кода — и жизнь под откос.
Но есть и плюс. Это дешёвый урок за $5 000. Представьте, когда агенты будут управлять бюджетами в миллионы долларов. Понадобятся новые финансовые инструменты: страховка для агентов, предоплаченные вычислительные карты, аварийные рубильники по тратам. Будущее — не только в умном AI. Но и в умных ограничителях. Мы учимся ходить, прежде чем бежать. И это падение учит завязывать шнурки.