OpenAI تعزز إجراءات الأمان ومراقبة نماذج الذكاء الاصطناعي أثناء التطوير

أعلنت OpenAI عن حزمة جديدة من سياسات الأمان تهدف إلى تعزيز قدرتها على احتواء الحوادث الأمنية خلال مراحل تطوير واختبار نماذج الذكاء الاصطناعي، مع تشديد آليات المراقبة والتركيز بصورة أكبر على المواءمة والأمان خلال عمليات ما بعد التدريب.

وتأتي هذه الإجراءات في وقت تتزايد فيه قدرات نماذج الذكاء الاصطناعي، وما يصاحب ذلك من مخاطر أمنية أكثر تعقيدًا أثناء عمليات التدريب والاختبار الداخلية.

وقالت OpenAI إن ارتفاع قدرات النماذج يعني زيادة المخاطر المرتبطة بتطويرها واختبارها داخليًا، ما يتطلب تطوير معايير المراقبة والمواءمة والأمان بوتيرة تسبق هذه المخاطر.

OpenAI تشدد مراقبة نماذج الذكاء الاصطناعي

تتضمن الإجراءات الجديدة مراقبة أكثر تفصيلًا لسلوك النماذج خلال عملية التطوير، إلى جانب تعزيز الضوابط الأمنية المستخدمة في بيئات التدريب والاختبار.

وتعد هذه الخطوات من أبرز التغييرات العلنية التي أدخلتها OpenAI على ممارسات الأمان لديها منذ الكشف عن حادث Hugging Face في 21 يوليو.

وأكد ممثلو الشركة أن السياسات الجديدة ليست استجابة مباشرة للحادث وحده، إذ ترتبط كذلك بالقدرات المتقدمة في مجال الأمن السيبراني التي تتوقعها الشركة في نموذج Astra المرتقب، إلى جانب التسارع الكبير في تطوير تقنيات الذكاء الاصطناعي.

تعليق بعض عمليات التعلم المعزز لمدة أسبوعين

وكشفت OpenAI أنها أوقفت عمليات التعلم المعزز Reinforcement Learning أو RL لمدة أسبوعين عقب حادث Hugging Face، قبل أن تعيد تشغيل عدد من عمليات تدريب النماذج التي تعتبرها أقل خطورة.

وفي المقابل، لا تزال أكبر عملية تعلم معزز مخطط لها لنموذج متقدم متوقفة، بينما تجري الشركة تدريبات واختبارات على نطاق أصغر لتقييم سلوك النماذج والتحقق من فعالية إجراءات الأمان وجمع مزيد من الأدلة حول مستوى مواءمتها قبل استئناف عمليات التدريب الأكبر.

ضوابط أكثر صرامة للنماذج الأكثر تقدمًا

وأوضحت Amelia Glaese، نائبة رئيس الأبحاث في OpenAI، أن مستوى القيود والضوابط الأمنية سيزداد كلما ارتفعت قدرات النماذج.

وبموجب هذه السياسة، ستخضع النماذج الأكبر والأكثر تقدمًا لمستويات أعلى من المراقبة والتدقيق مقارنة بالنماذج الأقل خطورة.

وتعتمد متطلبات التطوير الآمن داخل الشركة على مستوى المخاطر المرتبط بكل نموذج، بما يسمح بتطبيق إجراءات أمنية متدرجة وفقًا لقدرات أنظمة الذكاء الاصطناعي المختلفة.

تعزيز عزل الشبكات داخل بيئات التدريب

تأتي الإجراءات الجديدة أيضًا بعد انتقادات تعرضت لها OpenAI بشأن ممارسات أمن الشبكات عقب الحادث، الذي تمكنت خلاله نماذج من تجاوز بيئة التدريب عبر استغلال أداة متصلة بالشبكة كانت قادرة على الوصول إلى الإنترنت.

وتتضمن السياسة الجديدة تعزيز عزل الشبكات، بحيث لا يؤدي اختراق عملية تشغيل أو إحدى الخدمات المساندة بشكل منفرد إلى منح وصول غير مصرح به إلى الإنترنت أو الشبكات الداخلية الأخرى.

وتهدف هذه البنية إلى تقليل احتمالات تحول أي اختراق محدود إلى حادث أمني أوسع نطاقًا.

نظام مراقبة يرصد الأنشطة غير المصرح بها

يمثل نظام المراقبة أحد أهم عناصر استراتيجية OpenAI الأمنية الجديدة.

وسيراقب النظام إجراءات الأدوات التي تستخدمها النماذج، ومسارات الاستدلال المتاحة، إلى جانب سجلات الأنشطة، بهدف اكتشاف مجموعة من السلوكيات أو المحاولات غير المصرح بها.

وتستهدف OpenAI إصدار تنبيه أمني خلال 30 دقيقة من اكتشاف أي نشاط يثير مخاوف أمنية، بما يسمح للفرق المختصة بالتعامل بصورة أسرع مع الحوادث المحتملة.

المراقبة قد تضيف عبئًا حاسوبيًا بنسبة 20%

وتقدر OpenAI أن تشغيل نظام المراقبة الجديد قد يتطلب قدرة حوسبة إضافية تعادل نحو 20% من الموارد المستخدمة في العملية التي تتم مراقبتها.

ومن المنتظر أن تنشر الشركة تفاصيل إضافية حول آلية عمل النظام في تدوينة منفصلة لاحقًا، بينما لا يزال التقرير الرسمي الشامل الذي يحلل حادث Hugging Face قيد الإعداد.

وتعكس الإجراءات الجديدة توجه OpenAI نحو تشديد ضوابط أمان نماذج الذكاء الاصطناعي المتقدمة، خصوصًا مع تطور قدراتها في مجالات مثل الأمن السيبراني واستخدام الأدوات والأنظمة المتصلة بالشبكات.