OpenAI включила в совет директоров своего фонда Пола Кристиано, известного исследователя ИИ и специалиста по выравниванию. Кристиано неоднократно предупреждал о рисках продвинутого ИИ и выступал за строгие меры безопасности. Это назначение подчеркивает приверженность организации вопросам безопасности. Финансовые условия не разглашаются.
Пол Кристиано в совете директоров — мощный сигнал. OpenAI показывает, что для них выравнивание не пустой звук, а приоритет. Именно такие люди нужны, чтобы задавать неудобные вопросы о том, что будет, когда ИИ станет умнее нас.
Но одно кресло в совете не решит всех проблем. Главный тест — получат ли исследования безопасности достаточное финансирование и влияние. Я настроен оптимистично, но буду внимательно следить, превратятся ли слова в реальные дела. Будущее светлое, но вести его нужно осторожно.