Сенатор Сандерс и конгрессмен Касар предложили навсегда запретить сверхинтеллект в США

Американский сенатор Берни Сандерс и член Палаты представителей Грег Касар анонсировали законопроект Ban Artificial Superintelligence Act, который предлагает навсегда запретить разработку и запуск искусственного сверхинтеллекта. Под запрет попадают системы, превосходящие человеческий интеллект, способные противодействовать командам отключения или обладающие возможностями, потенциально позволяющими подорвать работу человеческих институтов и правительств.

Меры регулирования и наказания

До появления федеральных правил авторы инициативы предлагают временно приостановить разработку наиболее продвинутых ИИ-систем. Для контроля отрасли планируется создать новое федеральное ведомство кабинетного уровня, которое сможет проверять передовые модели на опасные возможности, контролировать их устранение и следить за соблюдением запрета на сверхинтеллект. При ведомстве должен работать независимый консультативный совет специалистов по искусственному интеллекту.

За попытку нарушить или обойти предусмотренные законопроектом ограничения физическим лицам может грозить до 20 лет лишения свободы. Для компаний предусмотрена так называемая corporate death penalty — прекращение возможности продолжать деятельность. В офисе Сандерса отдельно отмечают, что максимальный срок сопоставим с существующими в США наказаниями за незаконную разработку ядерного оружия.

Сандерс заявил, что решения о развитии настолько мощных технологий не должны оставаться в руках небольшой группы крупнейших технологических компаний. Инициатива предусматривает не только внутренние ограничения: США предлагается добиваться международных соглашений, координации с союзниками и применения экспортного контроля, чтобы не допустить разработки искусственного сверхинтеллекта и за пределами страны. На момент анонса документ официально характеризовался как готовящийся законопроект, поэтому предложенные меры пока не являются действующим законодательством США.