Безпекові виклики DeFAI в умовах тенденції інтеграції AI та Web3

Нещодавно в Стамбулі відбулася блокчейн-конференція, що зосередилася на тенденціях злиття AI та Web3, яка стала важливою платформою для обговорення безпеки Web3 цього року. Експерти з багатьох відомих установ зібралися разом, щоб глибоко обговорити сучасний стан застосування технології AI в децентралізованих фінансах (DeFi) та пов'язані з цим виклики безпеки.

Під час конференції «DeFAI» (децентралізовані фінанси штучного інтелекту) стала гарячою темою обговорення. Експерти, які брали участь у конференції, зазначили, що з швидким розвитком великих мовних моделей (LLM) і AI-агентів формується абсолютно нова фінансова модель — DeFAI. Однак ця інновація також призвела до безпрецедентних шляхів атаки та ризиків безпеки.

Керівник безпекової компанії заявив: "Хоча DeFAI має великі перспективи, він також змушує нас переосмислити механізми довіри в децентралізованих системах. На відміну від традиційних смарт-контрактів, процес ухвалення рішень AI-агентів підлягає впливу багатьох факторів, таких як контекст, час і навіть історичні взаємодії. Ця непередбачуваність не лише підвищує ризики, але й створює можливості для потенційних зловмисників."

AI-агенти за своєю суттю є інтелектуальними агентами, які можуть автономно приймати рішення та виконувати їх на основі AI-логіки, зазвичай уповноважені на це користувачами, протоколами або DAO. На даний момент AI-торгові роботи є їх найтиповішими представниками. Більшість AI-агентів наразі все ще працюють на архітектурі Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до різних атак, таких як атаки ін'єкцій, маніпуляції моделлю або підробка даних. Як тільки їх захоплюють, це може призвести не лише до фінансових втрат, але й вплинути на стабільність всього протоколу.

Експерти також згадали про типовий сценарій атаки: коли AI-торговий агент, яким користуються DeFi-користувачі, моніторить інформацію з соціальних медіа як торгові сигнали, зловмисник може опублікувати фальшивий сигнал тривоги, наприклад, "протокол зазнав атаки", щоб спонукати агента негайно запустити екстрене розпродаж. Це не тільки призведе до втрат активів користувачів, але й може викликати коливання ринку, які зловмисник може використати через фронт-ранінг (Front Running).

Щодо цих ризиків, експерти, які брали участь у зустрічі, одностайно вважають, що безпека AI-агентів повинна бути спільною відповідальністю користувачів, розробників та третіх сторін безпеки. Користувачі повинні чітко визначити межі повноважень агентів, обережно надавати дозволи та уважно стежити за операціями з високим ризиком AI-агентів. Розробники повинні впроваджувати заходи захисту на етапі проектування, такі як підсилення підказок, ізоляція в пісочниці, обмеження швидкості та логіка відкату. Треті сторони безпеки повинні забезпечувати незалежний аудит поведінки моделей AI-агентів, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами для виявлення ризиків та пропозицій щодо їх пом'якшення.

Останній експерт з безпеки застеріг: "Якщо продовжувати розглядати AI-агентів як 'чорну скриньку', то в реальному світі виникнення інцидентів безпеки - це лише питання часу." Він порадив розробникам, які досліджують напрямок DeFAI: "Логіка поведінки AI-агентів також реалізується кодом. Оскільки це код, існує ймовірність атаки, тому потрібен професійний аудит безпеки та тестування на проникнення."

Ця конференція з блокчейну, як одна з найвпливовіших галузевих подій у Європі, залучила понад 15 тисяч учасників з усього світу, включаючи розробників, проєктні команди, інвесторів та регуляторів. Завдяки офіційному запуску регуляторними органами місцевого ринку капіталу видачі ліцензій на блокчейн-проєкти статус цієї події в галузі ще більше підвищився.