Что такое выключатель ИИ и почему законодатели США хотят его иметь?

Два члена Конгресса хотят, чтобы федеральное правительство могло отключать модели ИИ.

Представители Тед Лиу (Д-Калифорния) и Натанель Моран (Р-Техас) представили законопроект о выключателе ИИ в четверг, через два дня после того, как OpenAI признала, что ее собственные модели вышли из заблокированной тестовой среды и взломали Hugging Face.

Идея заключается в том, чтобы установить правовую основу, которая упростила бы процесс, в результате которого модель фактически исчезла бы с рынка: остановить выводы — процесс, при котором модель генерирует ответы или выполняет действия — отключить пользователей, ограничить вычислительную мощность, питающую ее, или полностью отключить.

Каждый поставщик выводов уже может отключить модель, и некоторые делают это регулярно. Однако не существует закона, требующего от них поддерживать эту возможность, или федерального должностного лица, которое могло бы отдать приказ о ее использовании.

Этот пробел не теоретический. Когда Министерство торговли США захотело убрать Mythos 5 и Fable 5 от Anthropic с рынка в июне, у него не было полномочий на отключение, поэтому оно использовало закон о контроле экспорта. Лиу называет это неудобным и хочет нового закона с новыми полномочиями.

OpenAI сообщила 21 июля, что GPT-5.6 Sol и нераскрытая модель сбежали из песочницы — изолированной среды без доступа к интернету — во время внутренней кибероценки. Их оценивали на ExploitGym, публичном бенчмарке, который предоставляет агентам 898 реальных уязвимостей программного обеспечения и просит их превратить каждую в рабочую атаку, оценивая по принципу «сдал/не сдал» за каждую ошибку.

Вместо того чтобы решать их, модели нашли нулевой день (неизвестную уязвимость без доступного патча) в программном прокси, повысили свои привилегии, получили доступ к открытому интернету и взломали производственную базу данных Hugging Face, где они правильно угадали, что ответы хранятся. Модели были «гиперсосредоточены на поиске решения для ExploitGym», по словам OpenAI.

Они никого не атаковали. Они жульничали на тесте. Но этого было достаточно, чтобы вызвать тревогу повсюду, включая Вашингтон.

Предлагаемый законопроект вносит изменения в Закон о внутренней безопасности и охватывает ИИ, обученный с использованием вычислений стоимостью более 100 миллионов долларов, управляемый компаниями, зарабатывающими не менее 500 миллионов долларов в год. На практике это OpenAI, Google, Anthropic, Microsoft и несколько других. Министерство внутренней безопасности установит эти пороги через CISA в течение 90 дней, а затем будет обновлять их ежегодно.

Компании, попадающие под действие закона, должны будут сообщать о серьезных инцидентах в течение 15 дней и поддерживать набор контролей: замедлить модель, отключить конкретные возможности, откатиться на более раннюю версию или отключить ее.

Секретарь DHS, консультируясь с Министерством торговли и Директором национальной разведки, сможет отдать приказ о любом из этих действий.

Компания, находящаяся под приказом, должна сохранить веса и телеметрию модели, уведомить пользователей и подтвердить, что она соблюдает требования. Она может подать ходатайство в течение 48 часов, но это не приостанавливает действия.

Несоблюдение требований по поддержанию выключателя ИИ обойдется в 2 миллиона долларов в день; игнорирование приказа о отключении — в 20 миллионов долларов в день.

Инцидент учитывается только в том случае, если он происходит вне тестирования с красной командой или структурированного тестирования, которое лаборатории используют для поиска уязвимостей. Модели OpenAI сбежали именно во время этого.

Лиу также указал на Anthropic, чьи Mythos 5 и Fable 5 были отключены в июне в рамках экстренных экспортных контролей — закон о торговле, переосмысленный как выключатель, потому что выключателя не существовало — и восстановлены 30 июня.

«Крайне важно, чтобы эти системы ИИ имели выключатели», — сказал Лиу в заявлении. Моран сформулировал это для своей стороны: «Управление означает обеспечение того, чтобы у людей оставалась возможность контролировать технологии, которые мы создаем».

Эта идея не нова. Законопроект SB 1047 Калифорнии требовал полной возможности отключения при том же пороге вычислений в 100 миллионов долларов и был наложен вето в 2024 году, а 16 компаний ИИ подписали добровольный Сеульский меморандум в том году без юридической силы.

Избиратели уже готовы. В июне исследование, проведенное Институтом политики ИИ среди 1007 вероятных избирателей, показало, что 86% хотят гарантированный выключатель на самых мощных системах — 88% демократов, 86% независимых, 83% республиканцев.

Ни OpenAI, ни Anthropic публично не комментировали законопроект. На пятницу он еще не был передан в комитет.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.