Экономист Anthropic назвал «оптимальным» риск исчезновения человечества ради сверхразумного ИИ

Подробности

Профессор экономики Стэнфордского университета Чэд Джонс, недавно присоединившийся к компании Anthropic, оказался в центре внимания после публикации материала Financial Times о его исследованиях, посвящённых экономике сверхразумного искусственного интеллекта. Математическая модель и её последствияВ своей научной модели Джонс рассматривает сценарий, при котором развитие сверхразумного ИИ сопровождается примерно 33-процентной вероятностью исчезновения человечества, однако в оставшихся двух случаях уровень жизни людей может вырасти примерно в 55 раз. При использовании одной из классических экономических моделей полезности такой компромисс оказывается математически оптимальным, хотя сам расчёт не является рекомендацией к действию.

После появления публикации выводы исследователя вызвали бурную реакцию в сети. Многие пользователи заявили, что подобные расчёты выглядят абсурдно, поскольку ставят на одну чашу весов потенциальное технологическое процветание, а на другую — риск полного исчезновения человечества.

В обсуждениях также напомнили, что теперь Джонс будет работать в Anthropic — компании, развивающей семейство моделей Claude. В то же время часть экономистов и специалистов по ИИ выступила в защиту Джонса, подчеркнув, что его работа представляет собой теоретическое исследование последствий различных экономических моделей, а не призыв принимать подобный уровень риска как допустимый на практике.

Таким образом, дискуссия вокруг модели Джонса поднимает фундаментальные вопросы о том, насколько далеко человечество готово зайти в стремлении к технологическому прогрессу и какие риски считать приемлемыми. Пока одни видят в его расчётах опасный прецедент, другие напоминают о необходимости отделять научные гипотезы от практических рекомендаций.