Исследователи из Университета Торонто продемонстрировали самореплицирующегося AI-червя, способного распространяться между AI-агентами и потенциально заражать любое устройство, подключенное к интернету. Червь, названный Morris II в честь оригинального червя 1988 года, использует генеративный AI для создания убедительных сообщений, которые обманывают другие AI-системы, заставляя их выполнять вредоносные команды. Он может красть данные, развертывать вредоносное ПО и распространяться без вмешательства человека. Исследователи предупреждают: по мере того как AI-агенты становятся более автономными, такие черви могут стать серьезной угрозой для кибербезопасности.
Это звонок для AI-индустрии. Мы гнались за умными, автономными агентами. Но интеллект несет уязвимости. Червь, перехватывающий общение AI с AI, — угроза нового класса. Он эксплуатирует доверие. Та самая черта, которая делает AI полезным — способность действовать от нашего имени — становится ахиллесовой пятой.
Хорошая новость: мы заметили это рано. Исследователи провели демонстрацию в контролируемой среде. У нас есть время на защиту. Думайте как о вакцине. Мы можем проектировать AI-системы с проверкой личности, ограничением прав и детекцией аномалий. Будущее AI не только в возможностях. Но и в безопасности. Это эволюция, а не катастрофа.