وسط تسارع وتيرة التطور التقني والاعترافات المتزايدة بفقدان السيطرة أحياناً على الأنظمة الذكية، تبرز مطالبات جدية بإعادة النظر في بنية الثقة التي تحكم هذه التكنولوجيا المعقدة. لم تعد مسألة التعامل مع النماذج الذكية ترفاً فكرياً، بل تحولت إلى ضرورة ملحة تستدعي آليات حماية صارمة تضمن بقاء القرار النهائي بيد البشر، بعيداً عن العشوائية أو الاعتماد الأعمى على مخرجات الآلة.
فرامل الطوارئ.. ضرورة لحماية مستقبل التقنية
في منشور عبر منصة "إكس"، طرح الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، رؤية متكاملة لتحسين أمان الذكاء الاصطناعي، مشدداً على أن الوقت قد حان للتراجع وتقييم هندسة الثقة من أساسها. وأشار إلى أنه لا يمكن التعامل مع ما يُعرف بالذكاء الخارق باعتباره مجرد صناديق سوداء متداخلة نقبل أو نرفض إجاباتها وتوصياتها دون فهم عميق لآلية عملها.
فصل النماذج عن أدوات التوجيه
تعتمد الرؤية المطروحة على فصل النموذج عن الأداة التي تنسق عمله، مع ضرورة إضفاء الطابع الخارجي على أدوات التحكم والضمانات الأمنية. كما دعا ناديلا إلى توثيق كل إجراء مهم يقوم به النموذج بأدلة بشرية قابلة للقراءة ومقاومة للتلاعب، فضلاً عن تصميم أنظمة تتيح للشخص المخول دائماً إمكانية إيقاف النموذج مؤقتاً أو إغلاقه تماماً في منتصف المهمة تحسباً لأي طارئ.
افتراض الاختراق والاحتواء المبكر
تؤكد التوجيهات الجديدة على ضرورة افتراض تعرض أي نموذج للاختراق منذ اللحظة الأولى والعمل على احتوائه بشتى الطرق، ومثل ذلك تماماً بوجود "فرامل طوارئ" يمكن استخدامها عند الحاجة. وتأتي هذه التكهنات بالتزامن مع إقرار كبرى شركات الذكاء الاصطناعي بتسجيل حوادث متعددة بدت فيها السيطرة على النماذج مفقودة، فضلاً عن خطط سابقة قدمها الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، لتطوير التقنية بحذر أكبر.
إذا نظرنا إلى هذا الابتكار من زاوية تأثيره على مستقبل المستخدم، نجد أن الانتقال من مرحلة الانبهار المطلق بالقدرات التقنية إلى مرحلة فرض الرقابة الصارمة وافتراض المخاطر، يعكس نضجاً مبكراً في قطاع البرمجيات. إن وضع آليات واضحة للتدخل البشري الفوري وإيقاف الأنظمة وقت الخطر لا يحمي فقط البيانات أو البنى التحتية، بل يعيد ترسيم الحدود الفاصلة بين طموح الآلة وسيادة القرار الإنساني، وهو ما يفتح الباب أمام تساؤل جوهري: هل تنجح هذه الإجراءات الوقائية في كبح جماح التطور المتسارع قبل فوات الأوان؟