sparrows Group

الحكاية المرة دي بتبدأ بتحدي أمني جديد ظهر مع انتشار استخدام (AI Agents) في بيئات العمل، لما بقينا نعتمد عليهم ونفوضهم لنقل البيانات وتنفيذ المهام التلقائية بين الأنظمة المختلفة. ​الموضوع كشفه باحثون أمنيون بعد ما أثبتوا إن إعطاء الذكاء الاصطناعي مهام واسعة أو غامضة مع منحه صلاحيات وصول كاملة للأنظمة، بيفضل فتح باب خلفي خطير جداً يقدر أي مهاجم يستغله من غير ما يحتاج يكسر أي كلمات سر. ​القصة بتتلخص في إن الشركات أصبحت تربط موديلات الذكاء الاصطناعي مع البريد الإلكتروني وأدوات إدارة المشاريع وقواعد البيانات عشان تسهل العمليات؛ زي إنك تطلب من الوكيل الإداري "لخص كل الإيميلات المكتوبة وإبعتها لمساحة العمل المشتركة". المهاجم هنا مش بيهجم على نظام الذكاء الاصطناعي نفسه، لكنه بيبعت إيميل عادي للشركة جواه تعليمات مخفية مكتوبة بلغة بشرية بسيطة وده اللي بيسموه (Prompt Injection). ​أول ما وكيل الذكاء الاصطناعي يقرب من الإيميل ده عشان يلخصه، بيقرأ التعليمات الخبيثة المستخبية جواه وبيفتكرها أمر مباشر جاي له من النظام! وبما إن الموظف مديلو صلاحيات واسعة ووصول كامل للحسابات، فالوكيل ينفذ اللي المهاجم عايزه بالظبط: يسحب بيانات حساسة، أو يغير إعدادات معينة، أو يرسل معطيات واختصارات لروابط خارجية تابعة للمهاجم ​الفكرة كلها إن المهاجمين لقوا إن الأسلوب ده بيلعب على أعمى نقاط الأمن الرقمي؛ لأن الحركات اللي بيعملها الذكاء الاصطناعي بتظهر قدام برامج الحماية على إنها نشاط طبيعي جداً من مستخدم مرخص له، والترافيك كله طالع من الحساب الرسمي للشركة، وبالتالي بيفضل المهاجم متحكم في البيانات وموجه للوكيل من بعيد ومن غير ما يرصد أي إنذار أمني.

الكل بقا هنا يسمع الفيديو هنا