Anthropic вводит контекстный замок для Claude, чтобы предотвратить дистилляцию модели

Anthropic внедрил «контекстный замок» для размышлений Claude, требуя, чтобы зашифрованные размышления, генерируемые через API, возвращались вместе с системными подсказками, инструментами и историческими сообщениями, использованными при генерации. Если предыдущий контент будет изменен, API выдаст ошибку или отбросит это размышление. Это изменение направлено на предотвращение дистилляции модели, поскольку исследователи обнаружили, что зашифрованные размышления Claude могут быть прочитаны другими моделями, и злоумышленники могут использовать качественные рассуждения, чтобы заставить более слабые модели раскрыть полный процесс размышлений. Anthropic уже проводил защиту в июне, когда выпустил Fable 5, ограничив зашифрованные размышления только для определенных моделей. Fable 5.1 дополнительно увеличил механизм «привязки к диалогу», при котором любое изменение предыдущих подсказок, инструментов или истории чата делает старые размышления недействительными. Этот замок еще не внедрен повсеместно; после 31 августа новые аккаунты API будут обязаны соблюдать это правило, в то время как старые аккаунты временно не затронуты. Модели Claude.ai, Claude Code, Cowork и другие не подпадают под это правило, и Anthropic заявляет, что новые модели в будущем будут по умолчанию включать это правило.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.