Fusion de l'IA et du Web3 : L'émergence de DeFAI et les nouveaux défis de sécurité

Récemment, la Semaine de la Blockchain d'Istanbul (IBW 2025) s'est concentrée sur les tendances de la fusion de l'IA et du Web3, devenant ainsi une plateforme importante pour les discussions sur la sécurité du Web3 cette année. Lors de cet événement de deux jours, plusieurs experts de l'industrie ont mené des discussions approfondies sur l'état actuel de l'application de la technologie de l'intelligence artificielle dans le domaine de la finance décentralisée (DeFi) et les défis de sécurité associés.

Pendant la réunion, "DeFAI" (finance décentralisée par l'intelligence artificielle) est devenu un sujet de débat animé. Les experts présents ont souligné qu'avec le développement rapide des modèles de langage de grande taille (LLM) et des agents IA, un tout nouveau modèle financier - DeFAI - est en train de prendre forme. Cependant, cette innovation a également entraîné de nouvelles surfaces d'attaque et des risques de sécurité.

Un cadre d'une société de sécurité a déclaré : "Bien que DeFAI ait un avenir prometteur, il nous oblige également à réévaluer les mécanismes de confiance dans les systèmes décentralisés. Contrairement aux contrats intelligents traditionnels, le processus de décision des agents AI est influencé par divers facteurs, tels que le contexte, le temps, voire les interactions historiques. Cette imprévisibilité augmente non seulement les risques, mais crée également des opportunités pour de potentiels attaquants."

"Les agents IA" sont essentiellement des entités intelligentes capables de prendre des décisions et d'exécuter des actions de manière autonome sur la base de la logique AI, généralement autorisées à fonctionner par des utilisateurs, des protocoles ou des DAO. Parmi eux, les robots de trading AI sont les représentants les plus typiques. Actuellement, la plupart des agents IA fonctionnent encore sur une architecture Web2, dépendant de serveurs centralisés et d'API, ce qui les rend vulnérables à divers types d'attaques, telles que les attaques par injection, la manipulation de modèles ou la falsification de données. Une fois détournés, cela peut non seulement entraîner des pertes financières, mais aussi affecter la stabilité de l'ensemble du protocole.

Les experts ont également discuté d'un scénario d'attaque typique : lorsque l'agent de trading AI utilisé par les utilisateurs de DeFi surveille les messages sur les réseaux sociaux comme signaux de trading, un attaquant peut publier de fausses alertes, par exemple en affirmant qu'un certain protocole est attaqué. Cela pourrait inciter l'agent AI à déclencher immédiatement une liquidation d'urgence, entraînant non seulement des pertes d'actifs pour les utilisateurs, mais aussi provoquant des fluctuations du marché, que l'attaquant pourrait exploiter par du front-running.

Concernant ces risques, les experts présents conviennent généralement que la sécurité des agents IA devrait être une responsabilité commune des utilisateurs, des développeurs et des agences de sécurité tierces.

Les utilisateurs doivent clairement comprendre l'étendue des pouvoirs accordés à l'agent, faire preuve de prudence dans l'octroi de ces pouvoirs et surveiller de près les opérations à haut risque de l'agent IA. Les développeurs doivent mettre en œuvre des mesures de défense dès la phase de conception, telles que le renforcement des mots clés, l'isolation en bac à sable, la limitation des taux et la logique de retour en arrière. Les entreprises de sécurité tierces doivent fournir un examen indépendant du comportement du modèle d'agent IA, de l'infrastructure et des méthodes d'intégration en chaîne, et collaborer avec les développeurs et les utilisateurs pour identifier les risques et proposer des mesures d'atténuation.

Un expert en sécurité a averti : "Si nous continuons à considérer les agents IA comme une 'boîte noire', il ne s'agit que d'une question de temps avant qu'un accident de sécurité ne se produise dans le monde réel." Pour les développeurs qui explorent la direction du DeFAI, il a recommandé : "Tout comme pour les contrats intelligents, la logique de comportement des agents IA est également mise en œuvre par le code. Puisqu'il s'agit de code, il peut être attaqué, donc des audits de sécurité professionnels et des tests d'intrusion sont nécessaires."

En tant que l'un des événements blockchain les plus influents d'Europe, l'IBW a attiré plus de 15 000 développeurs, porteurs de projets, investisseurs et régulateurs du monde entier. Cette année, avec le lancement officiel par la Commission des marchés de capitaux de Turquie (CMB) de la délivrance de licences pour des projets blockchain, la position de l'IBW dans l'industrie a été encore renforcée.