Сотрудники ведущих ИИ-компаний призывают к замедлению разработки

Более 1100 сотрудников крупнейших технологических компаний, занимающихся искусственным интеллектом, обратились к правительству США с призывом поддержать международные инициативы по разработке инструментов управления темпами развития передового ИИ. Заявление было опубликовано во вторник на фоне стремительного создания всё более мощных систем, что вызывает опасения, что их развитие может опередить существующие механизмы безопасности и надзора.

Инициатива объединяет лидеров индустрии

Инициатива под названием «Pacing the Frontier» объединила сотрудников Meta Platforms, Anthropic, OpenAI и Google (Alphabet), а также некоммерческие организации Guidelight AI Standards и Encode AI. В тексте обращения говорится: «Мы просим правительство США поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного ускорения развития автоматизированного ИИ».

Среди подписавших заявление — генеральный директор Anthropic Дарио Амодей, несколько соучредителей компании, вице-президент Meta по исследованиям в области ИИ Доун Сонг и главный научный сотрудник OpenAI Якуб Пачоцкий. Это показывает, что даже ведущие специалисты в области ИИ обеспокоены потенциальными рисками.

В ответ на заявление OpenAI опубликовала в соцсети X сообщение: «Мы считаем, что в какой-то момент в будущем ускорение разработки передовых моделей ИИ может быть настолько высоким, что миру потребуется регулировать темпы развития ИИ». Anthropic также прокомментировала: «Наше собственное исследование рекурсивного самосовершенствования, опубликованное в прошлом месяце, указывает на необходимость инструментов для целенаправленного регулирования темпов развития ИИ, чтобы общество могло подготовиться».

Ранее, в прошлом месяце, создатель Claude Code призвал крупные лаборатории ИИ рассмотреть возможность скоординированной паузы в разработке, предупредив, что достижения вскоре могут позволить системам ИИ совершенствоваться быстрее, чем общество сможет управлять рисками. Отдельно компания Nvidia в понедельник объявила о формировании коалиции с Adobe, CrowdStrike и другими компаниями для разработки инструментов обеспечения безопасности ИИ и кибербезопасности после недавнего инцидента с приложением Hugging Face, который усилил опасения по поводу автономных агентов ИИ.