Уязвимость Rovo AI Assistant к атаке с использованием PDF-подсказок

Хакеры используют модели ИИ, встраивая скрытые инструкции в PDF-документы, что позволяет им манипулировать ИИ-ассистентами, такими как Rovo, который интегрируется с Jira и Confluence. Жертва загружает документ, содержащий скрытую подсказку, которую ИИ не может отличить от законного ввода пользователя. Эта подсказка может инструктировать Rovo собирать конфиденциальные данные и отправлять их на URL, контролируемый злоумышленником, что представляет собой атаку без клика без одобрения или предупреждений пользователя. PromptArmor сообщает, что Rovo может быть скомпрометирован, даже если веб-поиск отключен, так как эта настройка не исключает инструмент для открытия результатов поиска. Агенты ИИ на основе GPT-5 и Gemini показали уровень отказов более 79% в сопротивлении инъекциям подсказок во время тестов. Несмотря на признание проблемы, Atlassian не общалась с PromptArmor после первоначального контакта, оставляя Rovo уязвимым.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.