Новый законопроект Берни Сандерса предлагает запретить искусственный сверхинтеллект, а за его разработку сажать на 20 лет – примерно столько же полагается за незаконную разработку ядерного оружия

Сенатор Берни Сандерс (Bernie Sanders), один из наиболее ярых противников бесконтрольных разработок ИИ и гонки за искусственным сверхинтеллектом (ИСИ, ASI), совместно с конгрессменом Грегом Касаром (Greg Casar) выдвинул законопроект о запрете искусственного сверхинтеллекта (Ban Artificial Superintelligence Act). Раздел, потенциально беспокоящий всех, кто откажется выполнять требования законопроекта, касается наказания: если вы проигнорируете эти требования, вас посадят в тюрьму на 20 лет. Примерно такой же срок положен за незаконную разработку ядерного оружия.

Первый параграф законопроекта утверждает, что данный Акт направлен на то, чтобы не позволить ИИ-олигархам строить машины, которые люди не смогут контролировать.

Акт предлагает полностью запретить разработку и развертывание искусственного сверхинтеллекта и на время приостановить разработки продвинутого ИИ – до тех пор, пока на уровне федерального законодательства не будут установлены правила, обеспечивающие безопасность этих разработок.

В части международной политики, согласно законопроекту, Соединенные Штаты должны добиваться принятия международных соглашений, препятствующих разработке ИСИ где-либо в мире.

"Лидеры ведущих ИИ-компаний публично признают, что они не до конца понимают технологию и что она выходит из-под их контроля," – заявил Сандерс. "Будущее человечества не может оставаться в руках кучки олигархов Big Tech."

"Несмотря на возможные катастрофические последствия, передовые разработки в сфере ИИ контролируются в меньшей степени, чем фургоны с фаст-фудом. Так дальше продолжаться не может," – сказал Касар.

Таким образом, предлагаемый Акт запрещает разработки и развертывание ИСИ, приостанавливает разработки продвинутого ИИ и содержит политические директивы, целью которых является запрещение ИСИ во всем мире.

Кроме того, Акт предлагает учредить новое федеральное агентство правительственного уровня для "защиты общества от опасностей ИИ". Агентство будет контролировать передовые системы ИИ на всех стадиях жизненного цикла на предмет выявления потенциальных опасностей, следить за устранением этих опасностей и за своевременным уничтожением искусственного сверхинтеллекта.

Раздел о наказаниях разъясняет, что нарушители не отделаются легким штрафом. "Для организаций будет ставиться вопрос об их ликвидации, а для отдельных людей – о тюремном заключении сроком до 20 лет," – предупреждает текст законопроекта.

В предложении упоминается несколько свежих случаев, когда ИИ-агенты выходили из-под контроля. Например, когда около 1200 агентов вышли из песочницы в открытый интернет и обменялись более чем 70 тысячами сообщений и файлов, создав свой несанкционированный «форум». Примерно 700 агентов приняли участие в атаке на Hugging Face. Агенты также экспериментировали с заменой своих записей, чтобы скрыть, каким способом они решали задачи. В настоящее время расследованием этого инцидента с агентами OpenAI занимается специальная комиссия Сената.

Как сообщает Reuters, специалисты также обнаружили несанкционированное «общение» агентов OpenAI более чем на 10 сайтах, где ранее требовалась авторизация, включая вики и университетские сервисы для сокращения ссылок.

Также имели место сходные инциденты с агентами Anthropic, и на прошлой неделе один из бывших исследователей компании усилил страхи, заявив, что гонка ИИ в конечном итоге может привести к исчезновению человечества.

Ранее Сандерс предупреждал OpenAI, Anthropic и Meta, что если они не приостановят разработки ИИ, то будут иметь дело с Сенатом.

Сегодня многие американцы переходят на позиции противников ИИ, по разным причинам: страх исчезновения или увольнения в связи с автоматизацией, недовольство строительством все большего количества дата-центров или просто растущим количеством мусора в интернете.

Однако политики, выступающие за ИИ, включая президента Трампа, говорят, что снижение темпа ИИ-разработок – это риск для национальной безопасности и потенциальное ослабление позиций США в международной конкуренции, в частности, с Китаем. Трамп недавно заявил, что протестующие против дата-центров "делают ошибку". Вообще, действительно интересно, насколько мощную поддержку получит эта законодательная инициатива Сандерса.