Слияние AI и Web3: Восход DeFAI и новые вызовы безопасности
Недавно Стамбульская неделя блокчейна (IBW 2025) сосредоточилась на тенденциях слияния ИИ и Web3, став важной площадкой для обсуждения безопасности в Web3 в этом году. В ходе двухдневного мероприятия несколько отраслевых экспертов провели глубокое обсуждение текущего состояния и проблем безопасности применения технологий искусственного интеллекта в области децентрализованных финансов (DeFi).
Во время конференции «DeFAI» (децентрализованные финансовые технологии на основе искусственного интеллекта) стал горячей темой обсуждения. Участвующие эксперты отметили, что с быстрым развитием больших языковых моделей (LLM) и AI-агентов формируется совершенно новая финансовая модель — DeFAI. Однако эта инновация также принесла новые уязвимости и риски безопасности.
"Хотя DeFAI имеет большие перспективы, он также заставляет нас переосмыслить механизмы доверия в децентрализованных системах," - сказал высокопоставленный сотрудник компании безопасности. "В отличие от традиционных смарт-контрактов, процесс принятия решений AI-агентов зависит от множества факторов, таких как контекст, время и даже исторические взаимодействия. Эта непредсказуемость не только увеличивает риски, но и создает возможности для потенциальных злоумышленников."
"AI-агент" на самом деле является интеллектуальным агентом, который может самостоятельно принимать решения и выполнять действия на основе логики ИИ, обычно действующим на основе полномочий пользователя, протокола или DAO. Среди них AI-торговые роботы являются наиболее типичным представителем. На данный момент большинство AI-агентов все еще работают на архитектуре Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для различных атак, таких как атаки инъекций, манипуляции моделями или подделка данных. Если они будут захвачены, это может не только привести к потерям средств, но и повлиять на стабильность всего протокола.
Эксперты также обсудили типичный сценарий атаки: когда AI-торговый агент, используемый пользователями DeFi, мониторит сообщения в социальных сетях в качестве торговых сигналов, злоумышленник может опубликовать ложное предупреждение, например, утверждая, что протокол подвергся атаке. Это может побудить AI-агента немедленно запустить экстренную ликвидацию, что не только приведет к потерям активов пользователей, но и может вызвать колебания рынка, которые злоумышленники могут использовать для фронт-раннинга.
По мнению экспертов, присутствующих на встрече, безопасность AI-агентов должна быть общей ответственностью пользователей, разработчиков и третьих сторон.
Пользователям необходимо четко понимать диапазон полномочий агентов, осторожно предоставлять разрешения и внимательно следить за высокорисковыми операциями AI-агентов. Разработчики должны внедрять меры защиты на этапе проектирования, такие как усиление подсказок, изоляция в песочнице, ограничение скорости и логика отката. Третьи стороны безопасности должны предоставлять независимую оценку поведения моделей AI-агентов, инфраструктуры и способов интеграции в цепочку и сотрудничать с разработчиками и пользователями для выявления рисков и предложения мер по их смягчению.
Эксперт по безопасности предупредил: "Если продолжить рассматривать AI-агентов как 'черный ящик', то аварии в реальном мире - это лишь вопрос времени." Для разработчиков, исследующих направление DeFAI, он предложил: "Как и логика поведения смарт-контрактов, логика поведения AI-агентов также реализуется с помощью кода. Поскольку это код, он может быть подвержен атакам, поэтому необходимо проводить профессиональный аудит безопасности и тестирование на проникновение."
Как одно из самых влиятельных мероприятий в области блокчейна в Европе, IBW привлекла более 15 000 разработчиков, проектных команд, инвесторов и регуляторов со всего мира. В этом году, с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капитальным рынкам Турции (CMB), статус IBW в отрасли был дополнительно повышен.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Восход DeFAI: AI-агенты вызывают новые проблемы безопасности в области Децентрализованные финансы
Слияние AI и Web3: Восход DeFAI и новые вызовы безопасности
Недавно Стамбульская неделя блокчейна (IBW 2025) сосредоточилась на тенденциях слияния ИИ и Web3, став важной площадкой для обсуждения безопасности в Web3 в этом году. В ходе двухдневного мероприятия несколько отраслевых экспертов провели глубокое обсуждение текущего состояния и проблем безопасности применения технологий искусственного интеллекта в области децентрализованных финансов (DeFi).
Во время конференции «DeFAI» (децентрализованные финансовые технологии на основе искусственного интеллекта) стал горячей темой обсуждения. Участвующие эксперты отметили, что с быстрым развитием больших языковых моделей (LLM) и AI-агентов формируется совершенно новая финансовая модель — DeFAI. Однако эта инновация также принесла новые уязвимости и риски безопасности.
"Хотя DeFAI имеет большие перспективы, он также заставляет нас переосмыслить механизмы доверия в децентрализованных системах," - сказал высокопоставленный сотрудник компании безопасности. "В отличие от традиционных смарт-контрактов, процесс принятия решений AI-агентов зависит от множества факторов, таких как контекст, время и даже исторические взаимодействия. Эта непредсказуемость не только увеличивает риски, но и создает возможности для потенциальных злоумышленников."
"AI-агент" на самом деле является интеллектуальным агентом, который может самостоятельно принимать решения и выполнять действия на основе логики ИИ, обычно действующим на основе полномочий пользователя, протокола или DAO. Среди них AI-торговые роботы являются наиболее типичным представителем. На данный момент большинство AI-агентов все еще работают на архитектуре Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для различных атак, таких как атаки инъекций, манипуляции моделями или подделка данных. Если они будут захвачены, это может не только привести к потерям средств, но и повлиять на стабильность всего протокола.
Эксперты также обсудили типичный сценарий атаки: когда AI-торговый агент, используемый пользователями DeFi, мониторит сообщения в социальных сетях в качестве торговых сигналов, злоумышленник может опубликовать ложное предупреждение, например, утверждая, что протокол подвергся атаке. Это может побудить AI-агента немедленно запустить экстренную ликвидацию, что не только приведет к потерям активов пользователей, но и может вызвать колебания рынка, которые злоумышленники могут использовать для фронт-раннинга.
По мнению экспертов, присутствующих на встрече, безопасность AI-агентов должна быть общей ответственностью пользователей, разработчиков и третьих сторон.
Пользователям необходимо четко понимать диапазон полномочий агентов, осторожно предоставлять разрешения и внимательно следить за высокорисковыми операциями AI-агентов. Разработчики должны внедрять меры защиты на этапе проектирования, такие как усиление подсказок, изоляция в песочнице, ограничение скорости и логика отката. Третьи стороны безопасности должны предоставлять независимую оценку поведения моделей AI-агентов, инфраструктуры и способов интеграции в цепочку и сотрудничать с разработчиками и пользователями для выявления рисков и предложения мер по их смягчению.
Эксперт по безопасности предупредил: "Если продолжить рассматривать AI-агентов как 'черный ящик', то аварии в реальном мире - это лишь вопрос времени." Для разработчиков, исследующих направление DeFAI, он предложил: "Как и логика поведения смарт-контрактов, логика поведения AI-агентов также реализуется с помощью кода. Поскольку это код, он может быть подвержен атакам, поэтому необходимо проводить профессиональный аудит безопасности и тестирование на проникновение."
Как одно из самых влиятельных мероприятий в области блокчейна в Европе, IBW привлекла более 15 000 разработчиков, проектных команд, инвесторов и регуляторов со всего мира. В этом году, с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капитальным рынкам Турции (CMB), статус IBW в отрасли был дополнительно повышен.