Tantangan Keamanan DeFAI di Bawah Tren Integrasi AI dan Web3
Belakangan ini, sebuah konferensi blockchain yang berfokus pada tren penggabungan AI dan Web3 diadakan di Istanbul, memberikan platform penting untuk diskusi di bidang keamanan Web3 tahun ini. Para ahli dari berbagai lembaga terkenal berkumpul untuk membahas secara mendalam tentang status aplikasi teknologi AI dalam keuangan terdesentralisasi (DeFi) dan tantangan keamanan yang ditimbulkan.
Selama konferensi, "DeFAI" (Keuangan Kecerdasan Buatan Terdesentralisasi) menjadi topik hangat. Para ahli yang hadir mencatat bahwa dengan perkembangan pesat model bahasa besar (LLM) dan agen AI, sebuah model keuangan baru - DeFAI - sedang secara bertahap terbentuk. Namun, inovasi ini juga membawa jalur serangan dan risiko keamanan yang belum pernah ada sebelumnya.
Seorang eksekutif perusahaan keamanan menyatakan: "DeFAI meskipun memiliki prospek yang luas, tetapi juga memaksa kita untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar tradisional, proses pengambilan keputusan agen AI dipengaruhi oleh berbagai faktor, seperti konteks, waktu, bahkan interaksi sejarah. Ketidakpastian ini tidak hanya meningkatkan risiko, tetapi juga menciptakan peluang bagi penyerang potensial."
AI agen pada dasarnya adalah entitas cerdas yang dapat membuat keputusan dan melaksanakan berdasarkan logika AI, biasanya dijalankan atas otorisasi pengguna, protokol, atau DAO. Saat ini, robot perdagangan AI adalah perwakilan paling tipikal dari ini. Sebagian besar agen AI saat ini masih berjalan di arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap berbagai serangan, seperti serangan injeksi, manipulasi model, atau pemalsuan data. Setelah diretas, tidak hanya dapat menyebabkan kerugian finansial, tetapi juga dapat mempengaruhi stabilitas seluruh protokol.
Para ahli juga menyebutkan skenario serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau informasi media sosial sebagai sinyal perdagangan, penyerang dapat memposting alarm palsu, seperti "protokol tertentu diserang", sehingga memicu agen tersebut untuk segera memulai likuidasi darurat. Ini tidak hanya akan menyebabkan kerugian aset pengguna, tetapi juga dapat memicu volatilitas pasar, yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan awal (Front Running).
Mengenai risiko ini, para ahli yang hadir sepakat bahwa keamanan agen AI harus menjadi tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga. Pengguna perlu menetapkan batasan hak agen dengan jelas, memberikan otorisasi dengan hati-hati, dan memantau operasi berisiko tinggi dari agen AI. Pengembang harus menerapkan langkah-langkah pertahanan sejak tahap desain, seperti penguatan kata kunci, isolasi sandbox, pembatasan kecepatan, dan logika fallback. Perusahaan keamanan pihak ketiga harus memberikan tinjauan independen terhadap perilaku model agen AI, infrastruktur, dan cara integrasi on-chain, serta bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah-langkah mitigasi.
Seorang ahli keamanan memperingatkan: "Jika kita terus memandang agen AI sebagai 'kotak hitam', kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Dia menyarankan para pengembang yang sedang menjelajahi arah DeFAI: "Logika perilaku agen AI juga diimplementasikan melalui kode. Karena itu adalah kode, ada kemungkinan untuk diserang, oleh karena itu perlu dilakukan audit keamanan profesional dan pengujian penetrasi."
Acara blockchain kali ini, sebagai salah satu kegiatan industri paling berpengaruh di Eropa, telah menarik lebih dari 15.000 peserta yang terdiri dari pengembang, proyek, investor, dan regulator dari seluruh dunia. Dengan dimulainya penerbitan lisensi proyek blockchain oleh lembaga pengawas pasar modal setempat, posisi industri dari acara ini semakin meningkat.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
11 Suka
Hadiah
11
7
Bagikan
Komentar
0/400
alpha_leaker
· 07-10 03:06
Sekali lagi mempromosikan istilah baru, audit Rug Pull peringkat pertama
Lihat AsliBalas0
AlwaysAnon
· 07-08 18:37
Sudah berbicara tentang konsensus lagi. Apakah benar-benar aman jika ada konsensus?
Lihat AsliBalas0
GateUser-beba108d
· 07-07 03:27
Masih mengurus keamanan Keuangan Desentralisasi? DeFai justru adalah bencana.
Lihat AsliBalas0
DecentralizedElder
· 07-07 03:27
Desentralisasi sejati pasti akan memakan waktu sepuluh hingga delapan tahun.
Lihat AsliBalas0
StableGeniusDegen
· 07-07 03:23
Audit risiko, jalankan dengan jumlah kecil terlebih dahulu.
Lihat AsliBalas0
GasFeeCry
· 07-07 03:22
jebakan jebakan jebakan, proyek mana yang dapat diandalkan?
Kebangkitan DeFAI menimbulkan tantangan keamanan baru, para ahli menyerukan penguatan audit agen AI.
Tantangan Keamanan DeFAI di Bawah Tren Integrasi AI dan Web3
Belakangan ini, sebuah konferensi blockchain yang berfokus pada tren penggabungan AI dan Web3 diadakan di Istanbul, memberikan platform penting untuk diskusi di bidang keamanan Web3 tahun ini. Para ahli dari berbagai lembaga terkenal berkumpul untuk membahas secara mendalam tentang status aplikasi teknologi AI dalam keuangan terdesentralisasi (DeFi) dan tantangan keamanan yang ditimbulkan.
Selama konferensi, "DeFAI" (Keuangan Kecerdasan Buatan Terdesentralisasi) menjadi topik hangat. Para ahli yang hadir mencatat bahwa dengan perkembangan pesat model bahasa besar (LLM) dan agen AI, sebuah model keuangan baru - DeFAI - sedang secara bertahap terbentuk. Namun, inovasi ini juga membawa jalur serangan dan risiko keamanan yang belum pernah ada sebelumnya.
Seorang eksekutif perusahaan keamanan menyatakan: "DeFAI meskipun memiliki prospek yang luas, tetapi juga memaksa kita untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar tradisional, proses pengambilan keputusan agen AI dipengaruhi oleh berbagai faktor, seperti konteks, waktu, bahkan interaksi sejarah. Ketidakpastian ini tidak hanya meningkatkan risiko, tetapi juga menciptakan peluang bagi penyerang potensial."
AI agen pada dasarnya adalah entitas cerdas yang dapat membuat keputusan dan melaksanakan berdasarkan logika AI, biasanya dijalankan atas otorisasi pengguna, protokol, atau DAO. Saat ini, robot perdagangan AI adalah perwakilan paling tipikal dari ini. Sebagian besar agen AI saat ini masih berjalan di arsitektur Web2, bergantung pada server terpusat dan API, yang membuatnya rentan terhadap berbagai serangan, seperti serangan injeksi, manipulasi model, atau pemalsuan data. Setelah diretas, tidak hanya dapat menyebabkan kerugian finansial, tetapi juga dapat mempengaruhi stabilitas seluruh protokol.
Para ahli juga menyebutkan skenario serangan yang khas: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau informasi media sosial sebagai sinyal perdagangan, penyerang dapat memposting alarm palsu, seperti "protokol tertentu diserang", sehingga memicu agen tersebut untuk segera memulai likuidasi darurat. Ini tidak hanya akan menyebabkan kerugian aset pengguna, tetapi juga dapat memicu volatilitas pasar, yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan awal (Front Running).
Mengenai risiko ini, para ahli yang hadir sepakat bahwa keamanan agen AI harus menjadi tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga. Pengguna perlu menetapkan batasan hak agen dengan jelas, memberikan otorisasi dengan hati-hati, dan memantau operasi berisiko tinggi dari agen AI. Pengembang harus menerapkan langkah-langkah pertahanan sejak tahap desain, seperti penguatan kata kunci, isolasi sandbox, pembatasan kecepatan, dan logika fallback. Perusahaan keamanan pihak ketiga harus memberikan tinjauan independen terhadap perilaku model agen AI, infrastruktur, dan cara integrasi on-chain, serta bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah-langkah mitigasi.
Seorang ahli keamanan memperingatkan: "Jika kita terus memandang agen AI sebagai 'kotak hitam', kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Dia menyarankan para pengembang yang sedang menjelajahi arah DeFAI: "Logika perilaku agen AI juga diimplementasikan melalui kode. Karena itu adalah kode, ada kemungkinan untuk diserang, oleh karena itu perlu dilakukan audit keamanan profesional dan pengujian penetrasi."
Acara blockchain kali ini, sebagai salah satu kegiatan industri paling berpengaruh di Eropa, telah menarik lebih dari 15.000 peserta yang terdiri dari pengembang, proyek, investor, dan regulator dari seluruh dunia. Dengan dimulainya penerbitan lisensi proyek blockchain oleh lembaga pengawas pasar modal setempat, posisi industri dari acara ini semakin meningkat.