La fusión de la IA y Web3: el surgimiento de DeFAI y los nuevos desafíos de seguridad

Recientemente, la Semana de Blockchain de Estambul (IBW 2025) se centró en la tendencia de fusión entre AI y Web3, convirtiéndose en una plataforma importante para la discusión de la seguridad de Web3 este año. Durante el evento de dos días, varios expertos de la industria llevaron a cabo una profunda discusión sobre el estado actual de la aplicación de la tecnología de inteligencia artificial en el ámbito de las finanzas descentralizadas (DeFi) y los desafíos de seguridad.

Durante la conferencia, "DeFAI" (finanzas de inteligencia artificial descentralizada) se convirtió en un tema candente. Los expertos presentes señalaron que, con el rápido desarrollo de los modelos de lenguaje grande (LLM) y los agentes de IA, un nuevo modelo financiero - DeFAI - se está formando gradualmente. Sin embargo, esta innovación también ha traído nuevas superficies de ataque y riesgos de seguridad.

Un ejecutivo de una empresa de seguridad declaró: "Aunque DeFAI tiene un gran potencial, también nos obliga a reconsiderar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes tradicionales, el proceso de toma de decisiones de los agentes de IA se ve influenciado por varios factores, como el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo aumenta el riesgo, sino que también crea oportunidades para posibles atacantes."

"AI agentes" son en esencia entidades inteligentes que pueden tomar decisiones y ejecutar acciones de forma autónoma basándose en lógica de IA, generalmente autorizadas para operar por usuarios, protocolos o DAOs. Entre ellos, los robots de trading de IA son los más representativos. Actualmente, la mayoría de los agentes de IA todavía funcionan sobre la arquitectura Web2, dependiendo de servidores centralizados y API, lo que los hace vulnerables a varios ataques, como ataques de inyección, manipulación de modelos o alteración de datos. Una vez secuestrados, no solo pueden causar pérdidas de fondos, sino que también pueden afectar la estabilidad de todo el protocolo.

Los expertos también discutieron un escenario típico de ataque: cuando un agente de trading de IA que utilizan los usuarios de DeFi está monitoreando mensajes en redes sociales como señales de trading, un atacante puede publicar falsas alarmas, como afirmar que un protocolo está bajo ataque. Esto podría inducir al agente de IA a iniciar inmediatamente una liquidación de emergencia, lo que no solo resultaría en pérdidas de activos para el usuario, sino que también podría provocar volatilidad en el mercado, que el atacante podría aprovechar mediante el front-running.

En relación a estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA debe ser una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros.

Los usuarios deben comprender claramente el alcance de los permisos del agente, otorgar autorizaciones con precaución y prestar atención a las operaciones de alto riesgo del agente de IA. Los desarrolladores, por su parte, deben implementar medidas de defensa en la fase de diseño, como la robustecimiento de las indicaciones, el aislamiento en sandbox, la limitación de la velocidad y la lógica de retroceso. Las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, de la infraestructura y del modo de integración en la cadena, y colaborar con los desarrolladores y usuarios para identificar riesgos y proponer medidas de mitigación.

Un experto en seguridad advirtió: "Si seguimos considerando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo cuestión de tiempo." Para los desarrolladores que están explorando la dirección de DeFAI, sugirió: "Al igual que con los contratos inteligentes, la lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita realizar auditorías de seguridad profesionales y pruebas de penetración."

Como uno de los eventos de blockchain más influyentes de Europa, el IBW ha atraído a más de 15,000 desarrolladores, proyectos, inversores y reguladores de todo el mundo. Este año, con el lanzamiento oficial por parte de la Comisión de Mercados de Capitales de Turquía (CMB) de la emisión de licencias para proyectos de blockchain, la posición del IBW en la industria se ha visto aún más fortalecida.