Злиття AI та Web3: Підйом DeFAI та нові виклики безпеки

Нещодавно Тиждень блокчейн в Стамбулі (IBW 2025) зосередився на тенденціях інтеграції AI та Web3, ставши важливою платформою для обговорення безпеки Web3 цього року. Протягом двох днів заходу кілька експертів галузі провели глибоке обговорення поточного стану застосування технології штучного інтелекту у сфері децентралізованих фінансів (DeFi) та викликів безпеки.

Під час конференції темою обговорення стало "DeFAI" (децентралізовані фінанси штучного інтелекту). Експерти, які брали участь у заході, зазначили, що з швидким розвитком великих мовних моделей (LLM) та AI-агентів формується абсолютно нова фінансова модель — DeFAI. Проте ця інновація також приносить нові вектори атак та ризики безпеки.

Один з керівників безпекової компанії заявив: "Хоча DeFAI має великі перспективи, він також змушує нас переосмислити механізми довіри в децентралізованих системах. На відміну від традиційних смарт-контрактів, процес прийняття рішень AI-агентів підлягає впливу багатьох факторів, таких як контекст, час і навіть історичні взаємодії. Ця непередбачуваність не лише збільшує ризики, але й створює можливості для потенційних атакуючих."

"AI-агенти" насправді є розумними агенти, які можуть самостійно приймати рішення та виконувати їх на основі логіки AI, зазвичай запущені за дозволом користувача, протоколу або DAO. Серед них, AI торгівельні роботи є найбільш типовим представником. Наразі більшість AI-агентів все ще працюють на основі архітектури Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до різних атак, таких як атаки на введення, маніпуляції моделлю або зміна даних. Якщо вони будуть захоплені, це може призвести не лише до втрати коштів, а й вплинути на стабільність всього протоколу.

Експерти також обговорили типовий сценарій атаки: коли AI-торговий агент, що працює для користувачів DeFi, моніторить повідомлення в соціальних мережах як торгові сигнали, зловмисник може опублікувати фальшиві тривоги, наприклад, стверджуючи, що певний протокол зазнає атаки. Це може спонукати AI-агента терміново запустити екстрене очищення, що не лише призведе до втрати активів користувача, але й може викликати коливання ринку, які зловмисник зможе використати через попереднє виконання угод (Front Running).

Щодо цих ризиків, експерти, які взяли участь у конференції, загалом вважають, що безпека AI-агентів повинна бути спільною відповідальністю користувачів, розробників та сторонніх безпекових організацій.

Користувачі повинні чітко усвідомлювати межі прав代理, обережно надавати повноваження та уважно стежити за високими ризиковими операціями AI代理. Розробники повинні впроваджувати заходи захисту вже на стадії проектування, такі як зміцнення підказок, ізоляція в пісочниці, обмеження швидкості та логіка відкату. Треті сторони безпеки повинні забезпечити незалежний аудит поведінки моделей AI代理, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами для виявлення ризиків та пропозиції заходів щодо їх пом'якшення.

Експерт з безпеки попереджає: "Якщо продовжити розглядати AI-агенти як 'чорну скриньку', то безпекові інциденти в реальному світі — це лише питання часу." Для розробників, які досліджують напрямок DeFAI, він радить: "Як і у випадку зі смарт-контрактами, логіка поведінки AI-агентів також реалізується за допомогою коду. Оскільки це код, існує можливість атак, тому необхідно проводити професійний аудит безпеки та тестування на проникнення."

Як одна з найбільш впливових блокчейн-подій в Європі, IBW залучила понад 15 тисяч розробників, учасників проектів, інвесторів та регуляторів з усього світу. Цього року, з офіційним запуском видачі ліцензій на блокчейн-проекти Комісією з капітальних ринків Туреччини (CMB), галузевий статус IBW отримав подальше підвищення.