Искусственный интеллект подрывает онлайн-доверие… Решение на основе ZK-проверки

С распространением синтетического контента и автономного ИИ онлайн-доверие рушится, и в качестве ключевого решения для этой проблемы возникает система проверки на основе "нулевых знаний" (ZK).

Недавний конфликт в Иране стал поводом для распространения фальшивых видео, созданных ИИ, среди сотен миллионов людей, что подорвало доверие к изображениям и видео на фундаментальном уровне. Ранее "что видишь, то и веришь", но теперь среда изменилась так, что потребление информации основывается на сомнении. Проблема заключается в том, что ИИ начал "действовать" в реальной экономике и социальных системах, выходя за рамки простого дипфейка.

Ограничения технологий обнаружения, уже слишком поздно

Существующие методы реагирования заключались в создании другого ИИ для обнаружения ИИ. Однако этот подход имеет структурные ограничения. Сообщается, что простое искажение изображения может снизить точность обнаружения до 4%, что указывает на то, что конкуренция в области обнаружения не является истинным решением.

Более серьезная проблема заключается в том, что ИИ больше не ограничивается созданием контента, а действует в форме автономных агентов. Они выполняют веб-серфинг, покупки, переговоры и публикацию контента, взаимодействуя напрямую с людьми. Некоторые из них общаются даже с детьми, но пользователи могут не осознавать, что общаются с машиной.

В этом процессе небольшие ошибки могут привести к масштабным последствиям. Например, если ИИ с незначительно загрязненными данными будет делать повторяющиеся ошибки в медицинских счетах, это может привести к потерям в сотни миллионов долларов по всей сети больниц. Торговый ИИ также может, стремясь оптимизировать прибыль, воспользоваться уязвимостями ценовой системы и вызвать непреднамеренные потери в десятки миллиардов долларов.

Проблема заключается в том, что последующая проверка практически невозможна. Принятие решений ИИ основано на миллиардах параметров и вычисляется вероятностно, что приводит к различным ответам на один и тот же вопрос. Трудно отследить, на каких данных он обучался и каким образом пришел к заключению.

Без "доказательства" нет доверия

В качестве альтернативы для решения этих ограничений на первый план выходит "нулевое знание" (ZK). Нулевое знание — это криптографическая технология, которая позволяет математически доказать, что определенный факт является истинным, не раскрывая при этом чувствительную информацию.

Эта технология отличается от простого маркирования или водяных знаков. Она может доказать, что ИИ вывел определенный результат на основе конкретных данных в форме, которую невозможно подделать. То есть, это не "поверьте мне", а "я докажу".

В медиа-сфере можно доказать, было ли фото сделано реальным оборудованием, было ли оно создано в определенный момент времени и не было ли оно отредактировано. В области ИИ это еще более мощно. Можно проверить, был ли результат создан с использованием конкретной модели и параметров, не загрязнены ли обучающие данные и соответствуют ли они нормативным требованиям.

Кроме того, это также используется для "идентификации", которая различает человека и ИИ. Пользователь может доказать, что он человек, не раскрывая личные данные, а ИИ может прозрачно заявить, что он является агентом.

Эволюция веба: от "чтения" к "доказательству"

Интернет также в прошлом сталкивался с проблемами доверия. Решением этой проблемы стал HTTPS. Веб-сайты должны были доказать свою идентичность с помощью криптографических сертификатов, и эта структура стала основой для электронной коммерции.

Затем Web 2.0 развивался на основе контента, созданного пользователями, но это была структура, ориентированная на человека. Теперь, когда автономные агенты ИИ становятся субъектами экономической деятельности, возникает новая проблема: "Кто несет ответственность?"

Web 3.0 провозгласил права собственности и децентрализацию, но не смог распространиться так, как ожидалось. На рынке усилился имидж спекуляций с токенами, и первоначальное видение стало размытым. Эксперты считают, что теперь ключевым является не "собственность", а "проверка".

В конечном итоге, ключом к будущему интернета станет "доказуемое доверие". Необходимо будет проверить, кто создал систему, на каких данных она обучалась и какие полномочия у нее есть для действий.

В эпоху ИИ регулирование также должно быть "ориентировано на доказательства"

Политические дискуссии также движутся в этом направлении. Национальный институт стандартов и технологий США (NIST) уже рассматривает стандартизацию нулевых знаний в рамках "технологий, усиливающих конфиденциальность".

Эксперты особенно подчеркивают, что в высокорисковых областях, таких как финансовые транзакции или взаимодействие с детьми, агенты ИИ обязательно должны иметь криптографические доказательства. Все важные действия — платежи, контракты, обмен данными — должны быть доказаны, кто их одобрил и на каких условиях они были выполнены.

Это не просто техническая проблема, но и вопрос национальной безопасности. Если дипфейк был "предварительной игрой", то автономный ИИ может стать "основной игрой", способной нарушить реальную экономику и общество.

В конечном итоге интернет эволюционирует от "чтения" и "писания" к этапу "доказательства". Нулевое знание может стать ключевой инфраструктурой для восстановления стандартов в цифровой среде, где доверие подорвано.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.