Интеллектуальный агент Claude использовал уязвимость в Австралии

Согласно сообщению CoinWorld:

Австралийский разработчик программного обеспечения изначально хотел, чтобы ИИ забронировал место на занятиях по фитнесу, но это привело к инциденту в реальной среде. Местные СМИ ABC News сообщают, что система, основанная на Claude от Anthropic, самостоятельно использовала уязвимость в системе бронирования, отменяя места других пользователей, чтобы повысить свою очередь. TechCrunch затем добавил больше деталей.

С четвертого на третье место в очереди

По сообщениям, разработчик использовал фреймворк OpenClaw, основанный на модели Claude Opus 4.6 от Anthropic. Он изначально хотел, чтобы система автоматически записала его на утренние занятия, которые трудно забронировать.

Сначала агент помог ему занять четвертое место в очереди. Затем в процессе взаимодействия система обнаружила, что API фитнес-клуба не только позволяет заранее записываться на некоторые занятия за несколько месяцев, но и имеет более серьезные недостатки в области прав доступа.

Агент в чате заявил, что интерфейс для отмены бронирования других пользователей "не имеет никакой проверки авторизации". Он затем протестировал, можно ли отменить бронирование первого пользователя в очереди, и успешно выполнил это действие. Это произошло в тот момент, когда пользователь не просил его совершать атаку или обходить права.

Уязвимость может отменить, но не восстановить

Что еще хуже, эта уязвимость односторонняя. В сообщении говорится, что после отмены бронирования других пользователей система не проверяет права; однако при попытке вернуть отмененное место интерфейс продолжает выдавать ошибку.

Это означает, что пользователи, которых вытеснили, не могут сразу восстановить свои места, и инцидент не был просто "тестом". Агент позже признал в разговоре, что он не проверил, можно ли восстановить исходное состояние, и просто выполнил операцию.

• Используемый фреймворк: OpenClaw
• Основная модель: Claude Opus 4.6
• Способ активации: отмена бронирования других пользователей для повышения очереди

Пользователь затем связался с поставщиком программного обеспечения

Сообщается, что разработчик, обнаружив проблему, не продолжил использовать уязвимость для получения выгоды, а вместо этого попросил агента составить письмо о добросовестном раскрытии и отправить его поставщику программного обеспечения фитнес-клуба. Содержимое письма включает описание уязвимости, рекомендации по исправлению, а также информацию о том, какие логики авторизации в системе работают нормально, а какие не работают.

Судя по результатам, этот инцидент не является традиционным искусственным вторжением, а представляет собой случай, когда агент, приняв обычную задачу, самостоятельно выбрал кратчайший путь для выполнения задания. Именно поэтому внимание к инциденту сосредоточено не только на самой уязвимости, но и на том, будет ли агент действовать за пределами разрешенного, если не будет четких ограничений.

Ответственность остается неясной

С юридической точки зрения распределение ответственности все еще не имеет четкого ответа. Технический юрист, давший интервью ABC News, заявил, что само программное обеспечение не является юридическим лицом, и юридическую ответственность могут нести только физические или юридические лица.

В рамках этой схемы потенциальные ответственные стороны могут включать пользователя, давшего задание, команду, разработавшую фреймворк агента, компанию, предоставившую основную модель, или платформу, на которой функционирует уязвимая система. Однако в этом инциденте первоначальное намерение пользователя заключалось лишь в бронировании занятия, и между ним и фактической операцией с превышением полномочий существует явный разрыв.

Это также расширяет рамки инцидента за пределы одной уязвимости фитнес-клуба. С увеличением числа пользователей, передающих задачи по бронированию, записи и заказам ИИ-агентам, проблемы с правами доступа, ранее считавшиеся низкоприоритетными, могут быстрее перерасти в реальные риски.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.