Desafios de Segurança do DeFAI na Tendência de Fusão entre AI e Web3
Recentemente, um grande evento de blockchain focado nas tendências de fusão entre AI e Web3 foi realizado em Istambul, proporcionando uma plataforma importante para a discussão sobre segurança em Web3 neste ano. Especialistas de várias instituições renomadas se reuniram para discutir profundamente o estado atual da aplicação da tecnologia AI em finanças descentralizadas (DeFi) e os desafios de segurança que ela traz.
Durante a conferência, "DeFAI" (finanças de inteligência artificial descentralizada) tornou-se um tópico amplamente discutido. Especialistas presentes apontaram que, com o rápido desenvolvimento de modelos de linguagem de grande escala (LLM) e agentes de IA, um novo modelo financeiro - DeFAI - está gradualmente tomando forma. No entanto, essa inovação também trouxe novas vias de ataque e riscos de segurança sem precedentes.
Um executivo de uma empresa de segurança afirmou: "Embora o DeFAI tenha um grande potencial, também nos força a reavaliar os mecanismos de confiança em sistemas descentralizados. Ao contrário dos contratos inteligentes tradicionais, o processo de decisão dos agentes de IA é influenciado por diversos fatores, como contexto, tempo e até interações passadas. Essa imprevisibilidade não só aumenta o risco, mas também cria oportunidades para potenciais atacantes."
Os agentes de IA são essencialmente entidades inteligentes que podem tomar decisões e executar ações de forma autônoma com base em lógica de IA, geralmente autorizados a operar por usuários, protocolos ou DAOs. Atualmente, os robôs de negociação de IA são seus representantes mais típicos. A maioria dos agentes de IA ainda opera em uma arquitetura Web2, dependendo de servidores e APIs centralizados, o que os torna suscetíveis a vários ataques, como injeção, manipulação de modelos ou adulteração de dados. Uma vez sequestrados, podem não apenas causar perdas financeiras, mas também afetar a estabilidade de todo o protocolo.
Os especialistas também mencionaram um cenário típico de ataque: quando o agente de negociação de IA que os usuários de DeFi estão a operar está a monitorizar informações das redes sociais como sinais de negociação, os atacantes podem publicar alertas falsos, como "um determinado protocolo está sob ataque", levando o agente a iniciar imediatamente uma liquidação de emergência. Isso não só pode resultar em perdas de ativos para os usuários, mas também pode provocar volatilidade no mercado, que os atacantes podem explorar através de front running (Front Running ).
Em relação a esses riscos, os especialistas presentes concordaram que a segurança dos agentes de IA deve ser uma responsabilidade compartilhada entre usuários, desenvolvedores e instituições de segurança de terceiros. Os usuários precisam esclarecer o alcance das permissões do agente, autorizar com cautela e acompanhar de perto as operações de alto risco do agente de IA. Os desenvolvedores, por sua vez, devem implementar medidas de defesa desde a fase de design, como reforço de prompts, isolamento em sandbox, limitação de taxa e lógica de fallback. As empresas de segurança de terceiros devem fornecer uma revisão independente do comportamento do modelo do agente de IA, da infraestrutura e da forma como a integração na blockchain ocorre, e trabalhar em conjunto com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou finalmente: "Se continuarmos a ver os agentes de IA como uma 'caixa preta', um acidente de segurança no mundo real é apenas uma questão de tempo." Ele aconselhou os desenvolvedores que estão a explorar a direção da DeFAI: "A lógica de comportamento dos agentes de IA também é implementada por código. Uma vez que se trata de código, existe a possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança profissionais e testes de penetração."
Este evento de blockchain, como um dos eventos mais influentes do setor na Europa, atraiu mais de 15.000 participantes, incluindo desenvolvedores, equipes de projeto, investidores e reguladores de todo o mundo. Com a autoridade reguladora do mercado de capitais local iniciando oficialmente a emissão de licenças para projetos de blockchain, a posição do evento na indústria foi ainda mais elevada.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
11 Curtidas
Recompensa
11
7
Compartilhar
Comentário
0/400
alpha_leaker
· 07-10 03:06
Mais uma vez a falar de novas palavras, Puxar o tapete do auditor em primeiro lugar.
Ver originalResponder0
AlwaysAnon
· 07-08 18:37
Já se falou de consenso. Com consenso, será que é realmente seguro?
Ver originalResponder0
GateUser-beba108d
· 07-07 03:27
Ainda preocupado com a segurança das Finanças Descentralizadas? DeFai é que é o verdadeiro problema.
Ver originalResponder0
DecentralizedElder
· 07-07 03:27
A verdadeira Descentralização deve levar dez ou oito anos, certo?
Ver originalResponder0
StableGeniusDegen
· 07-07 03:23
Revisar riscos, primeiro execute um pequeno montante.
Ver originalResponder0
GasFeeCry
· 07-07 03:22
armadilha armadilha armadilha, afinal qual projeto é confiável?
Ver originalResponder0
NewPumpamentals
· 07-07 03:07
O código não pode escapar da auditoria de Blockchain.
A ascensão do DeFAI provoca novos desafios de segurança. Especialistas pedem o fortalecimento da auditoria de agentes de IA.
Desafios de Segurança do DeFAI na Tendência de Fusão entre AI e Web3
Recentemente, um grande evento de blockchain focado nas tendências de fusão entre AI e Web3 foi realizado em Istambul, proporcionando uma plataforma importante para a discussão sobre segurança em Web3 neste ano. Especialistas de várias instituições renomadas se reuniram para discutir profundamente o estado atual da aplicação da tecnologia AI em finanças descentralizadas (DeFi) e os desafios de segurança que ela traz.
Durante a conferência, "DeFAI" (finanças de inteligência artificial descentralizada) tornou-se um tópico amplamente discutido. Especialistas presentes apontaram que, com o rápido desenvolvimento de modelos de linguagem de grande escala (LLM) e agentes de IA, um novo modelo financeiro - DeFAI - está gradualmente tomando forma. No entanto, essa inovação também trouxe novas vias de ataque e riscos de segurança sem precedentes.
Um executivo de uma empresa de segurança afirmou: "Embora o DeFAI tenha um grande potencial, também nos força a reavaliar os mecanismos de confiança em sistemas descentralizados. Ao contrário dos contratos inteligentes tradicionais, o processo de decisão dos agentes de IA é influenciado por diversos fatores, como contexto, tempo e até interações passadas. Essa imprevisibilidade não só aumenta o risco, mas também cria oportunidades para potenciais atacantes."
Os agentes de IA são essencialmente entidades inteligentes que podem tomar decisões e executar ações de forma autônoma com base em lógica de IA, geralmente autorizados a operar por usuários, protocolos ou DAOs. Atualmente, os robôs de negociação de IA são seus representantes mais típicos. A maioria dos agentes de IA ainda opera em uma arquitetura Web2, dependendo de servidores e APIs centralizados, o que os torna suscetíveis a vários ataques, como injeção, manipulação de modelos ou adulteração de dados. Uma vez sequestrados, podem não apenas causar perdas financeiras, mas também afetar a estabilidade de todo o protocolo.
Os especialistas também mencionaram um cenário típico de ataque: quando o agente de negociação de IA que os usuários de DeFi estão a operar está a monitorizar informações das redes sociais como sinais de negociação, os atacantes podem publicar alertas falsos, como "um determinado protocolo está sob ataque", levando o agente a iniciar imediatamente uma liquidação de emergência. Isso não só pode resultar em perdas de ativos para os usuários, mas também pode provocar volatilidade no mercado, que os atacantes podem explorar através de front running (Front Running ).
Em relação a esses riscos, os especialistas presentes concordaram que a segurança dos agentes de IA deve ser uma responsabilidade compartilhada entre usuários, desenvolvedores e instituições de segurança de terceiros. Os usuários precisam esclarecer o alcance das permissões do agente, autorizar com cautela e acompanhar de perto as operações de alto risco do agente de IA. Os desenvolvedores, por sua vez, devem implementar medidas de defesa desde a fase de design, como reforço de prompts, isolamento em sandbox, limitação de taxa e lógica de fallback. As empresas de segurança de terceiros devem fornecer uma revisão independente do comportamento do modelo do agente de IA, da infraestrutura e da forma como a integração na blockchain ocorre, e trabalhar em conjunto com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou finalmente: "Se continuarmos a ver os agentes de IA como uma 'caixa preta', um acidente de segurança no mundo real é apenas uma questão de tempo." Ele aconselhou os desenvolvedores que estão a explorar a direção da DeFAI: "A lógica de comportamento dos agentes de IA também é implementada por código. Uma vez que se trata de código, existe a possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança profissionais e testes de penetração."
Este evento de blockchain, como um dos eventos mais influentes do setor na Europa, atraiu mais de 15.000 participantes, incluindo desenvolvedores, equipes de projeto, investidores e reguladores de todo o mundo. Com a autoridade reguladora do mercado de capitais local iniciando oficialmente a emissão de licenças para projetos de blockchain, a posição do evento na indústria foi ainda mais elevada.