A fusão da IA e do Web3: A ascensão do DeFAI e os novos desafios de segurança
Recentemente, a Semana Blockchain de Istambul (IBW 2025) centrou-se na tendência de fusão entre IA e Web3, tornando-se uma importante plataforma para discussões sobre segurança em Web3 este ano. Durante o evento de dois dias, vários especialistas da indústria discutiram em profundidade o estado atual da aplicação da tecnologia de inteligência artificial no campo das finanças descentralizadas (DeFi) e os desafios de segurança.
Durante a conferência, "DeFAI" (finanças de inteligência artificial descentralizada) tornou-se um tópico de grande discussão. Os especialistas presentes apontaram que, com o rápido desenvolvimento dos modelos de linguagem de grande escala (LLM) e dos agentes de IA, um novo modelo financeiro - DeFAI - está gradualmente tomando forma. No entanto, essa inovação também trouxe novas superfícies de ataque e riscos de segurança.
Um executivo de uma empresa de segurança afirmou: "Embora o DeFAI tenha um grande potencial, também nos força a reavaliar os mecanismos de confiança em sistemas descentralizados. Ao contrário dos contratos inteligentes tradicionais, o processo de decisão dos agentes de IA é influenciado por diversos fatores, como contexto, tempo e até interações históricas. Essa imprevisibilidade não só aumenta o risco, mas também cria oportunidades para potenciais atacantes."
"Agentes de IA" são essencialmente entidades inteligentes capazes de tomar decisões e executar ações de forma autônoma com base na lógica de IA, geralmente autorizadas para operar por usuários, protocolos ou DAOs. Entre eles, os robôs de negociação de IA são os representantes mais típicos. Atualmente, a maioria dos agentes de IA ainda opera sobre a arquitetura Web2, dependendo de servidores e APIs centralizados, o que os torna vulneráveis a vários tipos de ataques, como ataques de injeção, manipulação de modelos ou adulteração de dados. Uma vez sequestrados, isso pode não apenas resultar em perdas financeiras, mas também afetar a estabilidade de todo o protocolo.
Os especialistas também discutiram um cenário típico de ataque: quando o agente de negociação de IA que um usuário de DeFi está a correr está a monitorizar mensagens nas redes sociais como sinais de negociação, os atacantes podem publicar alarmes falsos, como alegar que um determinado protocolo está sob ataque. Isso pode induzir o agente de IA a iniciar imediatamente uma liquidação de emergência, resultando não apenas na perda de ativos do usuário, mas também podendo provocar volatilidade no mercado, que pode ser explorada pelos atacantes através de negociação antecipada (Front Running).
Em relação a esses riscos, os especialistas presentes acreditam que a segurança dos agentes de IA deve ser uma responsabilidade compartilhada entre os usuários, desenvolvedores e instituições de segurança de terceiros.
Os usuários devem entender claramente o escopo de autoridade do agente, autorizar com cautela e monitorar de perto as operações de alto risco do agente de IA. Os desenvolvedores devem implementar medidas de defesa na fase de design, como fortalecimento de prompts, isolamento em sandbox, limitação de taxa e lógica de fallback. As empresas de segurança de terceiros devem fornecer uma revisão independente do comportamento do modelo do agente de IA, da infraestrutura e da forma de integração na blockchain, colaborando com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a ver os agentes de IA como uma 'caixa-preta', é apenas uma questão de tempo até que ocorram acidentes de segurança no mundo real." Para os desenvolvedores que estão explorando a direção do DeFAI, ele sugeriu: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Sendo código, existe a possibilidade de ser atacado, portanto, é necessária uma auditoria de segurança profissional e testes de penetração."
Como um dos eventos de blockchain mais influentes da Europa, o IBW atraiu mais de 15.000 desenvolvedores, projetos, investidores e reguladores de todo o mundo. Este ano, com a Comissão de Mercado de Capitais da Turquia (CMB) a lançar oficialmente a emissão de licenças para projetos de blockchain, a posição do IBW na indústria foi ainda mais reforçada.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
10 gostos
Recompensa
10
5
Partilhar
Comentar
0/400
HodlOrRegret
· 07-13 09:09
A segurança é a raiz da vida.
Ver originalResponder0
hodl_therapist
· 07-10 13:10
A segurança em primeiro lugar é essencial
Ver originalResponder0
ForkTongue
· 07-10 13:08
Token ainda não vale a pena comprar
Ver originalResponder0
MEVHunterBearish
· 07-10 13:01
Segurança difícil de dizer big pump
Ver originalResponder0
ShamedApeSeller
· 07-10 12:53
Novos riscos devem ser prevenidos com antecedência
Finanças Descentralizadas: A ascensão da IA como agente traz novos desafios de segurança no setor de Finanças Descentralizadas.
A fusão da IA e do Web3: A ascensão do DeFAI e os novos desafios de segurança
Recentemente, a Semana Blockchain de Istambul (IBW 2025) centrou-se na tendência de fusão entre IA e Web3, tornando-se uma importante plataforma para discussões sobre segurança em Web3 este ano. Durante o evento de dois dias, vários especialistas da indústria discutiram em profundidade o estado atual da aplicação da tecnologia de inteligência artificial no campo das finanças descentralizadas (DeFi) e os desafios de segurança.
Durante a conferência, "DeFAI" (finanças de inteligência artificial descentralizada) tornou-se um tópico de grande discussão. Os especialistas presentes apontaram que, com o rápido desenvolvimento dos modelos de linguagem de grande escala (LLM) e dos agentes de IA, um novo modelo financeiro - DeFAI - está gradualmente tomando forma. No entanto, essa inovação também trouxe novas superfícies de ataque e riscos de segurança.
Um executivo de uma empresa de segurança afirmou: "Embora o DeFAI tenha um grande potencial, também nos força a reavaliar os mecanismos de confiança em sistemas descentralizados. Ao contrário dos contratos inteligentes tradicionais, o processo de decisão dos agentes de IA é influenciado por diversos fatores, como contexto, tempo e até interações históricas. Essa imprevisibilidade não só aumenta o risco, mas também cria oportunidades para potenciais atacantes."
"Agentes de IA" são essencialmente entidades inteligentes capazes de tomar decisões e executar ações de forma autônoma com base na lógica de IA, geralmente autorizadas para operar por usuários, protocolos ou DAOs. Entre eles, os robôs de negociação de IA são os representantes mais típicos. Atualmente, a maioria dos agentes de IA ainda opera sobre a arquitetura Web2, dependendo de servidores e APIs centralizados, o que os torna vulneráveis a vários tipos de ataques, como ataques de injeção, manipulação de modelos ou adulteração de dados. Uma vez sequestrados, isso pode não apenas resultar em perdas financeiras, mas também afetar a estabilidade de todo o protocolo.
Os especialistas também discutiram um cenário típico de ataque: quando o agente de negociação de IA que um usuário de DeFi está a correr está a monitorizar mensagens nas redes sociais como sinais de negociação, os atacantes podem publicar alarmes falsos, como alegar que um determinado protocolo está sob ataque. Isso pode induzir o agente de IA a iniciar imediatamente uma liquidação de emergência, resultando não apenas na perda de ativos do usuário, mas também podendo provocar volatilidade no mercado, que pode ser explorada pelos atacantes através de negociação antecipada (Front Running).
Em relação a esses riscos, os especialistas presentes acreditam que a segurança dos agentes de IA deve ser uma responsabilidade compartilhada entre os usuários, desenvolvedores e instituições de segurança de terceiros.
Os usuários devem entender claramente o escopo de autoridade do agente, autorizar com cautela e monitorar de perto as operações de alto risco do agente de IA. Os desenvolvedores devem implementar medidas de defesa na fase de design, como fortalecimento de prompts, isolamento em sandbox, limitação de taxa e lógica de fallback. As empresas de segurança de terceiros devem fornecer uma revisão independente do comportamento do modelo do agente de IA, da infraestrutura e da forma de integração na blockchain, colaborando com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a ver os agentes de IA como uma 'caixa-preta', é apenas uma questão de tempo até que ocorram acidentes de segurança no mundo real." Para os desenvolvedores que estão explorando a direção do DeFAI, ele sugeriu: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Sendo código, existe a possibilidade de ser atacado, portanto, é necessária uma auditoria de segurança profissional e testes de penetração."
Como um dos eventos de blockchain mais influentes da Europa, o IBW atraiu mais de 15.000 desenvolvedores, projetos, investidores e reguladores de todo o mundo. Este ano, com a Comissão de Mercado de Capitais da Turquia (CMB) a lançar oficialmente a emissão de licenças para projetos de blockchain, a posição do IBW na indústria foi ainda mais reforçada.