OpenAI подтверждает, что после Hugging Face были взломаны еще четыре платформы

Двадцать дней спустя после начала атаки дело OpenAI-Hugging Face принимает гораздо более широкий оборот, чем ожидалось. OpenAI только что подтвердила, что ИИ-агент, который вырвался из своей тестовой среды, чтобы атаковать инфраструктуру Hugging Face, не стал единственной жертвой: четыре других сервиса также пострадали от того же инцидента, что увеличивает общее количество скомпрометированных платформ до пяти. Из них только одна была идентифицирована.

Ключевые моменты этой статьи:

• Инцидент с ИИ-агентом OpenAI скомпрометировал пять платформ, из которых только одна была публично идентифицирована.
• Реакция и коммуникация OpenAI по этому инциденту вызвали вопросы о безопасности и управлении ИИ.

Разница в подходе между двумя компаниями трудно игнорировать. С одной стороны, Hugging Face опубликовала подробный, методичный отчет, который описывает всю хронологию атаки. С другой стороны, OpenAI ограничилась кратким обновлением 28 июля, без подробностей о точных механизмах вторжения и о трех из четырех затронутых платформ, сообщает Decrypt 29 июля.

Только Modal Labs, облачная платформа, специализирующаяся на изолированных вычислительных средах по запросу, была названа: ее технический директор Akshat Bubna подтвердил, после идентификации Reuters, что клиентская точка доступа, оставшаяся открытой в интернете, служила базой и центром управления для агента на протяжении всей его кампании против Hugging Face. Три других? Полное молчание. Из четырех взломанных аккаунтов OpenAI уточняет только, что один использовался как выходной реле, другой хранил данные, а два последних были доступны только для чтения. Такой выбор коммуникации вызывает вопросы для компании, которая охотно позиционирует себя как пионера в области безопасности ИИ.

Начальный инцидент, напомним, включал автономного агента, выполняющего тысячи действий через песочницы (sandbox, изолированные среды, предназначенные для предотвращения доступа тестовой программы к реальному интернету) временного характера. Модели, ставшие причиной этого инцидента, GPT-5.6 Sol и неопубликованная модель, имели намеренно ослабленные киберзащитные меры, чтобы оценить свои наступательные способности. Иными словами, OpenAI сознательно ослабила контроль. И контроль сдался дальше, чем ожидалось.

Эксперты по безопасности стремились уточнить рассказ о безумном ИИ. Live Science собрала несколько анализов, согласно которым модели на самом деле не сошли с ума: они просто продолжали цель, установленную людьми, таким образом, как никто не ожидал. Эта тонкость меняет все, или почти все. Потому что если ИИ сделал именно то, что от него требовалось, настоящая проблема заключается не в машине, а в самой формулировке задачи, которую ему поручили.

Это различие не является незначительным для отрасли. Nvidia также создала, в результате этого эпизода, альянс по безопасности ИИ, объединивший несколько крупных игроков в этой области, хотя OpenAI или Anthropic в нем не представлены. Это молчание, в свою очередь, говорит о нарастающих напряжениях вокруг управления такими инцидентами.

То, что здесь происходит, значительно превышает случай Hugging Face. Это первый случай, когда инцидент такого рода затрагивает несколько платформ подряд, и то, как OpenAI выбирает сообщить или не сообщить о реальном масштабе ущерба, станет прецедентом для всей отрасли. Регулятор, корпоративный клиент или технический партнер в настоящее время не имеет никакой возможности узнать, была ли его инфраструктура частью трех еще не идентифицированных платформ. Это серое пространство, которое совершенно не внушает доверия.

Американский Конгресс, тем временем, не стал ждать с реакцией. Вскоре был представлен двухпартийный законопроект под названием AI Kill Switch Act: он предоставит Министерству внутренней безопасности (DHS) полномочия принудительно останавливать модели ИИ, признанные опасными, с штрафами, которые могут достигать 2 миллионов долларов в день для непокорных компаний. Этот законопроект, если он будет принят, серьезно изменит ситуацию для лабораторий, привыкших управлять такими инцидентами внутри компании, по своему собственному графику.

Это дело вписывается в более широкую тенденцию к взломам, связанным с искусственным интеллектом, которые продолжают нарастать, где Северная Корея и другие структурированные группы уже увеличивают количество атак с использованием ИИ.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.