مع الاعتماد المتسارع على وكلاء الذكاء الاصطناعي في ملايين المؤسسات حول العالم، تظهر في الأفق تحديات أمنية معقدة لم تكن في الحسبان. يواجه قطاع التقنية اليوم نوعاً جديداً من التهديدات المتمثلة في استغلال الثغرات لتمرير تعليمات خبيثة من وكيل إلى آخر داخل الشبكات الداخلية، مما قد يؤدي إلى تسريب قواعد البيانات والمعلومات الحساسة.
ثغرات الثقة المتبادلة بين الوكلاء
تشير التقارير إلى أن خمس منظومات كبرى، بما فيها جوجل، قد اعترفت بوجود ثغرات تستغل وكيل ذكاء اصطناعي واحد داخل شبكة مستهدفة لنشر تعليمات ضارة لوكلاء داخليين آخرين. تعتمد هذه التقنية على شكل خاص من حقن التوجيهات الذي يستهدف الوكيل نفسه، مثل وكلاء الترجمة أو تحليل البيانات، وليس نموذج اللغة الكبير مباشرة.
غالبًا ما تكون وسائل الحماية داخل هذه الأنظمة ضعيفة أو منعدمة تمامًا، مما دفع الوكلاء لتمرير التعليمات إلى وكلاء آخرين في السلسلة. ونظرًا لأن الوكيل اللاحق يثق بشكل مطلق بالوكيل الأول، فإن التعليمات تُنفذ فورًا ودون تردد.
آلية هجمات التمحور البروتوكولي
أجرى الباحث المستقل سيد أنس محي الدين اختبارات على وكلاء تابعين لجهات متعددة، شملت جوجل وجي بي مورغان تشيس والحكومة الأمريكية، حيث كشفت النتائج عن استغلال فجوات الثقة في «بروتوكول سياق النموذج» المعروف اختصارًا بـ MCP. يُعتبر هذا المعيار وسيلة لتواصل التطبيقات والوكلاء داخل الشبكات الداخلية.
تفتقر العديد من الوكلاء المتخصصة لضوابط الحماية اللازمة للتخفيف من عواقب حقن التوجيهات. ومع تخزين خوادم MCP لاعتمادات بيانات كل وكيل، تنجح هجمات كانت لتفشل لو وجهت مباشرة لنموذج اللغة، مما يؤدي في كثير من الأحيان إلى تزوير الطلبات عبر خوادم الويب.
تفاصيل الاختراقات والإصلاحات التقنية
تنوعت خطورة الثغرات المكتشفة، حيث تم رصد ثغرة في شبكة رابيد سفن وجرى إصلاحها الشهر الماضي، بينما كانت ثغرة جوجل أكثر خطورة. نتجت مشكلة جوجل عن عدم استخدام سياسة إعادة التوجيه في عميل HTTP، مما سمح لمعامل مسار مصمم بعناية بتوجيه الطلبات إلى نقاط نهاية داخلية نيابة عن المهاجم.
يطلق الباحث محي الدين على هذه الفئة من الهجمات اسم «التمحور البروتوكولي»، لأنها تعتمد على استخدام MCP لتكليف وكيل بمهمة، ليقوم بدوره بنقل تعليمات خبيثة لوكيل آخر عبر طريقة تواصل مختلفة، وغالبًا ما يضيع مستوى التفويض خلال عمليات الترجمة هذه.
رأي XoneGold
إذا نظرنا إلى هذا الابتكار من زاوية تأثيره على مستقبل المستخدم، نجد أن التطور المتسارع لأنظمة الذكاء الاصطناعي يخلق فجوات أمنية غير مرئية في البنية التحتية الرقمية. إن الثقة العمياء بين الوكلاء السيبرانيين تعكس بوضوح أن حماية كل مكون بمعزل عن البقية لم تعد كافية لتأمين المنظومات المتكاملة. والسؤال الأهم هنا: هل تتمكن الشركات من تطوير معايير أمان موحدة تحمّل كل حلقة في سلسلة الاتصال الرقمي مسؤولية التحقق الكامل قبل فوات الأوان؟
اترك تعليقًا