Desafíos de seguridad de DeFAI en la tendencia de fusión de AI y Web3
Recientemente, se llevó a cabo una gran conferencia de blockchain en Estambul, centrada en la tendencia de la fusión entre AI y Web3, que proporcionó una plataforma importante para las discusiones en el campo de la seguridad de Web3 este año. Expertos de varias instituciones reconocidas se reunieron para discutir en profundidad el estado actual de la aplicación de la tecnología AI en las finanzas descentralizadas (DeFi) y los desafíos de seguridad que conlleva.
Durante la conferencia, "DeFAI" (finanzas de inteligencia artificial descentralizada) se convirtió en un tema candente. Los expertos presentes señalaron que, con el rápido desarrollo de los modelos de lenguaje grandes (LLM) y los agentes de IA, un nuevo modelo financiero - DeFAI - está tomando forma. Sin embargo, esta innovación también ha traído consigo vías de ataque y riesgos de seguridad sin precedentes.
Un alto ejecutivo de una empresa de seguridad declaró: "Aunque DeFAI tiene un gran potencial, también nos obliga a reevaluar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes tradicionales, el proceso de toma de decisiones de los agentes de IA se ve influenciado por diversos factores, como el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo aumenta el riesgo, sino que también crea oportunidades para los posibles atacantes."
Los agentes de IA son esencialmente entidades inteligentes capaces de tomar decisiones y ejecutar acciones de forma autónoma basándose en la lógica de IA, y generalmente son autorizados para operar por usuarios, protocolos o DAOs. Actualmente, los robots de trading de IA son su representación más típica. La mayoría de los agentes de IA aún operan en una arquitectura Web2, confiando en servidores centralizados y API, lo que los hace vulnerables a varios ataques, como ataques de inyección, manipulación de modelos o alteración de datos. Una vez que son secuestrados, no solo pueden causar pérdidas de fondos, sino que también pueden afectar la estabilidad de todo el protocolo.
Los expertos también mencionaron un escenario típico de ataque: cuando un agente de trading de IA que utilizan los usuarios de DeFi está monitoreando la información de las redes sociales como señales de trading, los atacantes pueden publicar alertas falsas, como "un protocolo ha sido atacado", lo que lleva al agente a iniciar de inmediato una liquidación de emergencia. Esto no solo puede resultar en pérdidas de activos para el usuario, sino que también puede desencadenar volatilidad en el mercado, que luego puede ser explotada por los atacantes mediante el front running (Front Running).
Ante estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA debe ser una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros. Los usuarios deben tener claro el alcance de los permisos del agente, autorizar con precaución y prestar atención a las operaciones de alto riesgo de la IA. Los desarrolladores, por su parte, deben implementar medidas de defensa desde la fase de diseño, como refuerzo de palabras clave, aislamiento en sandbox, limitación de velocidad y lógica de retroceso. Las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con los desarrolladores y los usuarios para identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad advirtió finalmente: "Si seguimos considerando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo una cuestión de tiempo." Sugerió a los desarrolladores que están explorando la dirección de DeFAI: "La lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita realizar auditorías de seguridad profesionales y pruebas de penetración."
Este evento de blockchain, como uno de los eventos más influyentes de la industria en Europa, ha atraído a más de 15,000 participantes de desarrolladores, proyectos, inversores y reguladores de todo el mundo. Con el inicio oficial por parte de las autoridades regulatorias del mercado de capitales local de la emisión de licencias para proyectos de blockchain, la posición de la industria de este evento se ha elevado aún más.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
11 me gusta
Recompensa
11
7
Compartir
Comentar
0/400
alpha_leaker
· 07-10 03:06
Otra vez creando nuevas palabras, el primer lugar en la auditoría es Rug Pull.
Ver originalesResponder0
AlwaysAnon
· 07-08 18:37
Otra vez se habla de consenso. ¿Con consenso realmente es seguro?
Ver originalesResponder0
GateUser-beba108d
· 07-07 03:27
¿Aún te preocupas por la seguridad de las Finanzas descentralizadas? DeFai es el verdadero problema.
Ver originalesResponder0
DecentralizedElder
· 07-07 03:27
La verdadera descentralización siempre tomará diez u ocho años, ¿verdad?
Ver originalesResponder0
StableGeniusDegen
· 07-07 03:23
Revisar el riesgo, primero ejecutar una pequeña cantidad
Ver originalesResponder0
GasFeeCry
· 07-07 03:22
trampa trampa trampa, ¿cuál proyecto es realmente confiable?
Ver originalesResponder0
NewPumpamentals
· 07-07 03:07
El código no puede escapar de la auditoría de la cadena de bloques.
El surgimiento de DeFAI plantea nuevos desafíos de seguridad, los expertos piden fortalecer la auditoría de agentes de IA.
Desafíos de seguridad de DeFAI en la tendencia de fusión de AI y Web3
Recientemente, se llevó a cabo una gran conferencia de blockchain en Estambul, centrada en la tendencia de la fusión entre AI y Web3, que proporcionó una plataforma importante para las discusiones en el campo de la seguridad de Web3 este año. Expertos de varias instituciones reconocidas se reunieron para discutir en profundidad el estado actual de la aplicación de la tecnología AI en las finanzas descentralizadas (DeFi) y los desafíos de seguridad que conlleva.
Durante la conferencia, "DeFAI" (finanzas de inteligencia artificial descentralizada) se convirtió en un tema candente. Los expertos presentes señalaron que, con el rápido desarrollo de los modelos de lenguaje grandes (LLM) y los agentes de IA, un nuevo modelo financiero - DeFAI - está tomando forma. Sin embargo, esta innovación también ha traído consigo vías de ataque y riesgos de seguridad sin precedentes.
Un alto ejecutivo de una empresa de seguridad declaró: "Aunque DeFAI tiene un gran potencial, también nos obliga a reevaluar los mecanismos de confianza en los sistemas descentralizados. A diferencia de los contratos inteligentes tradicionales, el proceso de toma de decisiones de los agentes de IA se ve influenciado por diversos factores, como el contexto, el tiempo e incluso las interacciones históricas. Esta imprevisibilidad no solo aumenta el riesgo, sino que también crea oportunidades para los posibles atacantes."
Los agentes de IA son esencialmente entidades inteligentes capaces de tomar decisiones y ejecutar acciones de forma autónoma basándose en la lógica de IA, y generalmente son autorizados para operar por usuarios, protocolos o DAOs. Actualmente, los robots de trading de IA son su representación más típica. La mayoría de los agentes de IA aún operan en una arquitectura Web2, confiando en servidores centralizados y API, lo que los hace vulnerables a varios ataques, como ataques de inyección, manipulación de modelos o alteración de datos. Una vez que son secuestrados, no solo pueden causar pérdidas de fondos, sino que también pueden afectar la estabilidad de todo el protocolo.
Los expertos también mencionaron un escenario típico de ataque: cuando un agente de trading de IA que utilizan los usuarios de DeFi está monitoreando la información de las redes sociales como señales de trading, los atacantes pueden publicar alertas falsas, como "un protocolo ha sido atacado", lo que lleva al agente a iniciar de inmediato una liquidación de emergencia. Esto no solo puede resultar en pérdidas de activos para el usuario, sino que también puede desencadenar volatilidad en el mercado, que luego puede ser explotada por los atacantes mediante el front running (Front Running).
Ante estos riesgos, los expertos presentes coincidieron en que la seguridad de los agentes de IA debe ser una responsabilidad compartida entre los usuarios, los desarrolladores y las agencias de seguridad de terceros. Los usuarios deben tener claro el alcance de los permisos del agente, autorizar con precaución y prestar atención a las operaciones de alto riesgo de la IA. Los desarrolladores, por su parte, deben implementar medidas de defensa desde la fase de diseño, como refuerzo de palabras clave, aislamiento en sandbox, limitación de velocidad y lógica de retroceso. Las empresas de seguridad de terceros deben proporcionar una revisión independiente del comportamiento del modelo del agente de IA, la infraestructura y la forma de integración en la cadena, y colaborar con los desarrolladores y los usuarios para identificar riesgos y proponer medidas de mitigación.
Un experto en seguridad advirtió finalmente: "Si seguimos considerando a los agentes de IA como una 'caja negra', los accidentes de seguridad en el mundo real son solo una cuestión de tiempo." Sugerió a los desarrolladores que están explorando la dirección de DeFAI: "La lógica de comportamiento de los agentes de IA también se implementa mediante código. Dado que es código, existe la posibilidad de ser atacado, por lo que se necesita realizar auditorías de seguridad profesionales y pruebas de penetración."
Este evento de blockchain, como uno de los eventos más influyentes de la industria en Europa, ha atraído a más de 15,000 participantes de desarrolladores, proyectos, inversores y reguladores de todo el mundo. Con el inicio oficial por parte de las autoridades regulatorias del mercado de capitales local de la emisión de licencias para proyectos de blockchain, la posición de la industria de este evento se ha elevado aún más.