Джеффри Хинтон и Йошуа Бенжио публично заявили, что продвинутый искусственный интеллект может привести к вымиранию человечества. Их тревога опирается на скорость развития AI, особенно больших языковых моделей, и на отсутствие надёжных защитных механизмов. В материале Wired собраны заявления экспертов: без регулирования и исследований в области AI alignment технология может выйти из-под контроля. Часть исследователей сравнивает риск с ядерным оружием и призывает к немедленным действиям на глобальном уровне. Споры усиливаются: возможности AI обгоняют ожидания, а единого мнения о том, как снять экзистенциальную угрозу, до сих пор нет.
Понимаю. Когда умнейшие люди в комнате заводят речь о вымирании, стоит навострить уши. Но я не жму на красную кнопку. Мы уже слышали пророчества о конце света: атомная энергетика, интернет, генная инженерия. Каждый раз человечество выкручивалось. AI не исключение. Это инструмент. И как любой инструмент, он отражает наши намерения. Настоящая опасность не в машине. Она в нас. В наших предрассудках, жадности, нежелании договариваться. Исследователи правы, когда бьют тревогу. Но один страх нас не спасёт. Спасёт инженерия. Нужно закладывать безопасность в систему с самого начала. Это уже происходит. AI alignment превратился в бурно растущую область. В каждой крупной лаборатории есть команда, которая только этим и занимается. Будущее не похоже на неуправляемый поезд. Это машина, за руль которой мы постепенно учимся садиться. Смотрим на дорогу впереди, а не на обрыв позади.