Доклад 2018 года «The Malicious Use of Artificial Intelligence» вновь привлёк внимание. Авторы из академических кругов, гражданского общества и индустрии описали угрозы безопасности, связанные с использованием ИИ. Они предсказали рост атак в цифровой, физической и политической сферах. В документе показано, как ИИ может автоматизировать взлом, манипулировать медиа через дипфейки и вести целевое наблюдение. Авторы утверждают, что барьеры для таких атак снижаются, делая сложные инструменты доступными широкому кругу лиц. В заключение даны рекомендации для политиков, исследователей и разработчиков по предотвращению рисков.
Этот доклад не хрустальный шар. Это чертёж. И мы строим по нему, кирпич за кирпичом. Каждый дипфейк, каждая автоматизированная фишинговая кампания, каждая алгоритмическая манипуляция — это пункт из того документа 2018 года, воплощающийся в жизнь. Авторы не предсказывали будущее. Они описали траекторию. Траекторию, по которой мы сейчас несёмся.
Но вот что важно: чертёж — это ещё и чек-лист. Мы знаем угрозы, потому что дали им имена. Это огромное преимущество. Мы можем проектировать защиту, создавать этические ограничения и просвещать общественность. Тьма не неизбежна. Это выбор. Как и свет. Тот же ИИ, который можно вооружить, можно и защитить. От нас зависит, какую сторону чертежа мы построим.