Post🔐 وقتی LLM وارد Web App می‌شود، مدل تهدید هم تغییر می‌کند.

🔐 وقتی LLM وارد Web App می‌شود، مدل تهدید هم تغییر می‌کند. قبلاً امنیت وب را بیشتر با تهدیدهایی مثل: XSS SQL Injection CSRF SSRF می‌شناختیم. اما وقتی یک LLM یا AI Agent را وارد Application می‌کنیم، یک لایه جدید ایجاد می‌شود: Prompt Injection مشکل اینجاست که ورودی کاربر دیگر فقط یک Input ساده نیست؛ ممکن است روی تصمیم‌گیری Agent تأثیر بگذارد. مثلاً: User Input ↓ LLM ↓ Tool / API ↓ Database اگر Agent اجازه اجرای Tool داشته باشد، یک ورودی مخرب می‌تواند از مرز «متن» عبور کرده و روی عملیات واقعی سیستم اثر بگذارد. به همین دلیل در معماری‌های AI-enabled باید علاوه بر Validation سنتی، به مواردی مثل: 🛡️ محدودسازی Toolها 🛡️ کنترل Permission 🛡️ جداسازی داده و دستور 🛡️ اعتبارسنجی خروجی 🛡️همچنین Runtime Monitoring هم فکر کرد. امنیت Web Appهای مجهز به AI دیگر فقط مسئله‌ی Backend یا Frontend نیست؛ کل زنجیره تعامل باید امن طراحی شود. @CodeVerse_dev