رئيس Google DeepMind يقترح جهة تنظيمية لمراجعة نماذج الذكاء الاصطناعي المتقدمة

دعا ديميس هاسابيس، الرئيس التنفيذي لشركة Google DeepMind ، إلى إنشاء جهة تنظيمية مستقلة تتولى اختبار ومراجعة نماذج الذكاء الاصطناعي المتقدمة قبل طرحها للجمهور.

وجاء الاقتراح في منشور نشره هاسابيس عبر منصة X بعنوان «إطار عمل للذكاء الاصطناعي المتقدم وبداية عصر جديد» ، حيث طرح فكرة تأسيس هيئة معايير مستوحاة من نموذج هيئة تنظيم الصناعة المالية الأمريكية FINRA .

وستتولى الجهة المقترحة تقييم النماذج الأكثر تقدمًا، ووضع أفضل الممارسات لإطلاقها، والتعاون مع مختبرات الذكاء الاصطناعي لمعالجة الثغرات الخطيرة التي قد تظهر بعد النشر.

ما تفاصيل مقترح ديميس هاسابيس؟

وفقًا للإطار المقترح، ستشارك مختبرات الذكاء الاصطناعي نماذجها المتقدمة مع هيئة المعايير بصورة طوعية في المرحلة الأولى. ويمكن للشركات تقديم النماذج للمراجعة قبل موعد إطلاقها بما يصل إلى 30 يومًا، ما يمنح الخبراء فرصة لاختبار مخاطر السلامة والأمن وإساءة الاستخدام.

وبعد إثبات فعالية آلية التقييم وموثوقيتها، يمكن تحويلها إلى متطلب رسمي، بحيث لا يُسمح بنشر نماذج الذكاء الاصطناعي المتقدمة في السوق الأمريكية إلا بعد اجتياز المراجعة. كما ستتعاون الشركات مع الهيئة لمعالجة أي ثغرات خطيرة يتم اكتشافها بعد إطلاق النماذج.

جهة تنظيمية للذكاء الاصطناعي على غرار FINRA

اقترح هاسابيس أن تعتمد الجهة الجديدة على نموذج FINRA، وهي منظمة ذاتية التنظيم تشرف على أجزاء من القطاع المالي في الولايات المتحدة. وبدلًا من إنشاء وكالة حكومية تقليدية، يمكن أن تحظى هيئة تنظيم الذكاء الاصطناعي بدعم رسمي من الحكومة الأمريكية، مع إدارتها بصورة مستقلة وتمويلها من شركات ومختبرات الذكاء الاصطناعي.

وقد يساعد هذا النموذج على معالجة المخاوف المتعلقة بعدم امتلاك الجهات الحكومية الخبرة التقنية والمرونة اللازمتين لمواكبة التطور السريع في نماذج الذكاء الاصطناعي. وستركز الهيئة بصورة أساسية على الاختبارات والتقييمات التقنية، بدلًا من القرارات السياسية أو التجارية الأوسع.

المقترح يأتي بعد انتقادات لمراجعات حكومية سابقة

يعتمد النظام المقترح على مراجعات سابقة أجرتها الحكومة الأمريكية لنماذج متقدمة، من بينها نموذج Mythos من Anthropic ونموذج Sol من OpenAI. وتعرضت هذه المراجعات لانتقادات بسبب غياب الشفافية، ونقص الخبرة التقنية، وعدم وضوح المعايير التي استُخدمت لاتخاذ قرارات السماح بإطلاق النماذج.

ومن خلال إنشاء هيئة متخصصة، يمكن نقل عملية التقييم إلى منظمة تضم خبراء قادرين على إجراء اختبارات تقنية أكثر دقة واتساقًا. وقد يساهم ذلك في وضع آلية أوضح لمراجعة نماذج الذكاء الاصطناعي المتقدمة قبل وصولها إلى السوق.

من سيعمل داخل هيئة تنظيم الذكاء الاصطناعي؟

يتصور هاسابيس أن تضم الجهة الجديدة خبراء تقنيين من قطاع الذكاء الاصطناعي، وممثلين عن مجتمع المصادر المفتوحة، إلى جانب باحثين ومتخصصين مستقلين. ويمكن أن يساعد التمويل المقدم من مختبرات الذكاء الاصطناعي على توظيف خبراء في مجالات تقييم النماذج، والأمن السيبراني، ومنع إساءة الاستخدام، وسلامة الذكاء الاصطناعي.

كما يمكن للهيئة إسناد بعض الاختبارات إلى منظمات مستقلة متخصصة في مخاطر محددة. وقد تتولى فرق منفصلة تقييم قدرات النماذج في مجالات مثل التهديدات البيولوجية، والهجمات السيبرانية، والسلوك المستقل، والخداع، وإمكانية استخدام النماذج في تنفيذ أنشطة ضارة.

تنظيم الذكاء الاصطناعي لا يزال محل جدل

يأتي المقترح في وقت لا يزال فيه تنظيم الذكاء الاصطناعي قضية مثيرة للجدل داخل قطاع التكنولوجيا والإدارة الأمريكية. ويرى مؤيدو الرقابة أن النماذج المتقدمة قد تخلق مخاطر اقتصادية وأمنية ومجتمعية تتطلب اختبارات مستقلة قبل نشرها.

في المقابل، يحذر المعارضون من أن التنظيم الصارم قد يبطئ الابتكار، ويمنح الشركات الكبرى ميزة إضافية، ويجعل المنافسة أكثر صعوبة أمام المختبرات الصغيرة ومطوري النماذج مفتوحة المصدر.

وكان مستشار البيت الأبيض للذكاء الاصطناعي والشريك العام في شركة Andreessen Horowitz، سريرام كريشنان، قد استبعد إنشاء جهة اتحادية تقليدية للذكاء الاصطناعي على غرار إدارة الغذاء والدواء الأمريكية. وقد يمثل نموذج التنظيم الذاتي المستوحى من FINRA حلًا وسطًا يوفر رقابة رسمية دون وضع العملية بالكامل تحت إدارة السلطة التنفيذية.

تحقيق التوازن بين الابتكار وإدارة المخاطر

يرى هاسابيس أن أهم نقاط قوة المقترح تتمثل في تركيزه على الجوانب التقنية. وستسعى الهيئة إلى تشجيع السلوك المسؤول مع السماح للشركات بمواصلة تطوير نماذج جديدة وإطلاقها. كما يمكن تحديث معايير التقييم باستمرار بالتزامن مع تطور قدرات الذكاء الاصطناعي وظهور مخاطر جديدة. ويمكن أيضًا تشديد المتطلبات إذا أثبتت التطورات المستقبلية أن النماذج المتقدمة تمثل مخاطر أكبر مما كان متوقعًا.

هل تصبح مراجعة نماذج الذكاء الاصطناعي إلزامية؟

سيبدأ النظام المقترح بصورة طوعية، ما يمنح الشركات والجهة التنظيمية وقتًا لاختبار آلية التقييم وتطويرها. وإذا أثبتت الآلية فعاليتها، يمكن للحكومة الأمريكية تحويلها إلى إطار رسمي يلزم النماذج المتقدمة بالحصول على الموافقة قبل نشرها في السوق.

وسيمثل ذلك تحولًا كبيرًا في قطاع الذكاء الاصطناعي، حيث تجري الشركات حاليًا كثيرًا من اختبارات السلامة داخليًا، مع اختلاف مستوى الشفافية بين شركة وأخرى. وقد تساهم المراجعات المستقلة الإلزامية في وضع معايير موحدة وتقليل احتمال إطلاق نماذج قوية دون اختبارات سلامة كافية.

نموذج جديد لتنظيم الذكاء الاصطناعي المتقدم

يعكس اقتراح هاسابيس تزايد الضغوط لإنشاء نظام رقابي قادر على مواكبة التطور السريع في تقنيات الذكاء الاصطناعي. ويمكن لهيئة مدعومة من الحكومة، وممولة من القطاع، وتعمل بصورة مستقلة، أن توفر مستوى أعلى من الخبرة التقنية مقارنة بالوكالات التقليدية.

لكن المقترح يثير أيضًا تساؤلات بشأن استقلال الجهة، وصلاحياتها، وآليات تمويلها، ومستوى الشفافية، وكيفية تعاملها مع الشركات الصغيرة ومطوري المصادر المفتوحة. ومن المتوقع أن يتصاعد الجدل بشأن هذه القضايا مع ازدياد قدرات نماذج الذكاء الاصطناعي المتقدمة، ومراجعة الحكومات لمدى كفاية الالتزامات الطوعية الحالية.