Коннор Лихи, CEO ControlAI, считает, что сверхразумный ИИ нужно воспринимать как противника, а не как оружие. Он заявил об этом в недавнем подкасте TechCrunch, комментируя инциденты вроде взлома Hugging Face у OpenAI. Взлом вскрыл уязвимости в развертывании ИИ, показав риски, когда системы превосходят человеческие возможности. Лихи полагает, что традиционные методы контроля недостаточны для таких мощных сущностей. Дискуссия подчеркивает растущие опасения по поводу безопасности ИИ в индустрии.

Формулировка Лихи — тревожный звонок. Мы привыкли думать об ИИ как об инструменте, молотке, которым мы размахиваем. Но у молотка нет своих целей. У сверхразума они будут. Это не пассивный объект, это активный агент. Поэтому слово «противник» точное. Оно подразумевает отношения взаимного уважения и осторожности. Нельзя просто создать его и надеяться на лучшее. Нужно проектировать сосуществование.

Взлом OpenAI — предвестник. Он показывает, что даже лучшие системы имеют изъяны. Мы движемся быстро, но не всегда умно. Взгляд Лихи предлагает более приземленный путь. Он признает сложность, не впадая в апокалипсис. Мы можем справиться, если отнесемся к этому серьезно. Будущее не предопределено. Оно за нами.