AI ve Web3 entegrasyonu altında DeFAI'nin güvenlik zorlukları

Son günlerde, AI ve Web3 entegrasyon trendine odaklanan bir blockchain etkinliği İstanbul'da gerçekleştirildi ve bu yıl Web3 güvenlik alanındaki tartışmalar için önemli bir platform sağladı. Birçok tanınmış kuruluştan uzmanlar bir araya gelerek, AI teknolojisinin merkeziyetsiz finans (DeFi) içindeki mevcut uygulama durumu ve getirdiği güvenlik zorluklarını derinlemesine tartıştılar.

Toplantı sırasında, "DeFAI" (merkeziyetsiz yapay zeka finansı) en çok tartışılan konulardan biri haline geldi. Katılımcı uzmanlar, büyük dil modellerinin (LLM) ve AI ajanlarının hızla gelişimi ile birlikte, tamamen yeni bir finansal model olan DeFAI'nın yavaş yavaş şekillendiğini belirttiler. Ancak, bu yenilik aynı zamanda benzeri görülmemiş saldırı yolları ve güvenlik riskleri de getirdi.

Bir güvenlik şirketinin üst düzey yöneticisi şunları söyledi: "DeFAI geniş bir perspektife sahip olsa da, merkeziyetsiz sistemlerdeki güven mekanizmalarını yeniden gözden geçirmeye zorladı. Geleneksel akıllı sözleşmelerin aksine, AI ajanlarının karar verme süreci birçok faktörden etkileniyor, örneğin bağlam, zaman ve hatta geçmiş etkileşimler. Bu öngörülemezlik yalnızca riski artırmakla kalmıyor, aynı zamanda potansiyel saldırganlar için fırsatlar yaratıyor."

AI ajanları esasen AI mantığına dayanarak bağımsız karar verme ve uygulama yeteneğine sahip akıllı varlıklardır ve genellikle kullanıcılar, protokoller veya DAO'lar tarafından çalıştırılması için yetkilendirilir. Şu anda, AI ticaret robotları bunun en tipik temsilcisidir. Çoğu AI ajanı hâlâ Web2 mimarisinde çalışmakta olup, merkezi sunucular ve API'lere bağımlıdır; bu da onları enjeksiyon saldırıları, model manipülasyonu veya veri değiştirme gibi çeşitli saldırılara karşı savunmasız hale getirir. Bir kez ele geçirildiğinde, sadece finansal kayıplara neden olmakla kalmaz, aynı zamanda tüm protokolün istikrarını da etkileyebilir.

Uzmanlar, DeFi kullanıcılarının çalıştırdığı AI ticaret aracının ticaret sinyali olarak sosyal medya bilgilerini izlediği tipik bir saldırı senaryosuna da değindiler. Saldırganlar, "bir protokol saldırıya uğradı" gibi sahte alarmlar yayınlayarak bu aracın acil tasfiye başlatmasını teşvik edebilir. Bu, yalnızca kullanıcı varlıklarının kaybına yol açmakla kalmaz, aynı zamanda piyasa dalgalanmalarına neden olabilir ve saldırganlar bunu (Front Running) ile avantaj sağlayarak kullanabilir.

Bu risklere karşı, katılımcı uzmanlar, AI ajanlarının güvenliğinin kullanıcılar, geliştiriciler ve üçüncü taraf güvenlik kuruluşlarının ortak sorumluluğu olması gerektiği konusunda hemfikirdir. Kullanıcılar, ajanların yetki alanını net bir şekilde belirlemeli, dikkatli bir şekilde yetki vermeli ve AI ajanlarının yüksek riskli işlemlerine yakından dikkat etmelidir. Geliştiriciler ise tasarım aşamasında savunma önlemlerini uygulamalıdır; örneğin, talep güçlendirme, kum havuzu izolasyonu, hız sınırlama ve geri dönüş mantığı gibi mekanizmalar. Üçüncü taraf güvenlik şirketleri, AI ajanlarının model davranışları, altyapıları ve zincir üzerindeki entegrasyon yöntemleri için bağımsız denetim sağlamalı ve geliştirme ekipleri ve kullanıcılarla işbirliği yaparak riskleri tanımlayıp hafifletme önlemleri önermelidir.

Bir güvenlik uzmanı son olarak şunları uyardı: "Eğer AI ajanlarını 'kara kutu' olarak değerlendirmeye devam edersek, gerçek dünyada güvenlik kazalarının olması sadece zaman meselesi." DeFAI yönünü araştıran geliştiricilere önerdi: "AI ajanlarının davranış mantığı da kod ile gerçekleştirilir. Madem ki bu bir kod, saldırıya uğrama olasılığı vardır, bu nedenle profesyonel güvenlik denetimi ve penetrasyon testleri yapılmalıdır."

Bu blockchain etkinliği, Avrupa'nın en etkili sektör etkinliklerinden biri olarak, dünya genelinden geliştiriciler, proje sahipleri, yatırımcılar ve düzenleyiciler toplamda 15.000'den fazla katılımcıyı kendine çekti. Yerel sermaye piyasası düzenleyici kurumlarının blockchain proje lisansı verme sürecini resmi olarak başlatmasıyla birlikte, bu etkinliğin sektördeki konumu daha da güçlenmiştir.