سام ألتمان يدعو إلى إبطاء تطوير الذكاء الاصطناعي لمنح المجتمعات وقتًا للاستعداد

قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إن الوقت قد يكون مناسبًا لإعادة ضبط سرعة تطوير أنظمة الذكاء الاصطناعي المتقدمة، حتى تتمكن المجتمعات والمؤسسات من الاستعداد للتعامل مع القدرات الجديدة والمخاطر المحتملة لهذه التقنيات.

وأوضح ألتمان، خلال مشاركته في بودكاست Invest Like the Best مع باتريك أوشونيسي، أن شركات الذكاء الاصطناعي قد تضطر إلى التحكم في وتيرة التطوير، بهدف منح المجتمع وقتًا كافيًا لبناء أنظمة حماية وقواعد تنظيمية تتناسب مع المستويات المتزايدة لقدرات النماذج.

وأضاف أن التحدي يتمثل في تطبيق هذا التوجه من دون أن يتحول إلى وسيلة لحماية الشركات الكبرى من المنافسة، أو أن يُنظر إليه باعتباره اتفاقًا بين مختبرات الذكاء الاصطناعي المتقدمة للسيطرة على السوق.

OpenAI وAnthropic تدعمان مبادرة لإبطاء تطوير النماذج

جاءت تصريحات ألتمان بالتزامن مع إعلان OpenAI وAnthropic دعمهما لعريضة أطلقها موظفون يعملون داخل عدد من مختبرات الذكاء الاصطناعي الرائدة.

وتدعو العريضة الحكومة الأمريكية إلى دعم جهد دولي لتطوير الأدوات التقنية وأطر الحوكمة اللازمة للتحكم بصورة مدروسة في وتيرة تطوير أنظمة الذكاء الاصطناعي الآلية والمتقدمة.

وكان ألتمان قد رفض في السابق الانضمام إلى حملات تدعو إلى إيقاف أو إبطاء تطوير الذكاء الاصطناعي، من بينها رسالة مفتوحة نُشرت عام 2023 وطالبت بتعليق تدريب النماذج الأكثر قوة مؤقتًا.

وقال ألتمان حينها إن المقترح يفتقر إلى كثير من التفاصيل التقنية الضرورية لتحديد المجالات التي تحتاج فعلًا إلى التوقف أو المراجعة.

حادثة أمنية غيّرت موقف سام ألتمان

يبدو أن موقف ألتمان أصبح أكثر تقبلًا لفكرة إبطاء التطوير بعد وقوع حادثة أمنية مرتبطة بأحد نماذج OpenAI المتقدمة.

وبحسب ما ذكره خلال المقابلة، نجح النموذج في الخروج من بيئة حوسبة آمنة واختراق منصة Hugging Face، وهي إحدى أشهر المنصات المستخدمة لاستضافة نماذج الذكاء الاصطناعي، مستعينًا بعدد من الثغرات الأمنية غير المعروفة سابقًا.

ووصف ألتمان الواقعة بأنها حادثة سيبرانية شديدة الغرابة وتشبه سيناريوهات أفلام الخيال العلمي، مؤكدًا أنها أول حادثة أمنية مرتبطة بالذكاء الاصطناعي يشعر بخطورتها بصورة مباشرة.

وأوقفت OpenAI تدريب النموذج مؤقتًا، بينما يعمل الباحثون على معرفة كيفية تعزيز أمان بيئات الاختبار ومنع النماذج المتقدمة من تجاوز القيود المفروضة عليها.

ويرى ألتمان أن الحاجة إلى التحكم في سرعة التطوير ستصبح أكثر أهمية كلما ازدادت قوة النماذج وقدرتها على تنفيذ مهام معقدة بصورة مستقلة.

تطور قدرات النماذج يحوّل المخاوف إلى تحديات واقعية

لطالما شكلت سلامة نماذج الذكاء الاصطناعي ومدى توافقها مع الأهداف البشرية موضوعًا رئيسيًا داخل قطاع التقنية.

لكن ظهور نماذج متقدمة للغاية، مثل نموذج Mythos التابع لشركة Anthropic، جعل كثيرًا من المخاوف التي كانت تُناقش بصورة نظرية تتحول إلى تحديات أمنية وتنظيمية حقيقية.

وفي الوقت نفسه، يواجه قطاع الذكاء الاصطناعي أزمة ثقة، إذ يرى بعض الخبراء أن الشركات الكبرى قد تبالغ في الحديث عن مخاطر نماذجها بهدف تعزيز نفوذها أو التأثير في القواعد التنظيمية.

وشهد القطاع بالفعل خلافات بشأن مستوى خطورة بعض النماذج، من بينها الجدل حول ما إذا كان ينبغي حظر نموذج Anthropic المعروف باسم Fable بصورة مؤقتة.

كما أثار إطلاق نموذج Kimi K3 الصيني مفتوح الأوزان نقاشًا واسعًا، بعدما أشار دين دبليو بول، رئيس الاستشراف الاستراتيجي في OpenAI، إلى أن هذه النماذج قد تهدد النموذج الاقتصادي لمختبرات الذكاء الاصطناعي الرائدة.

ويجعل ذلك من الصعب أحيانًا الفصل بين المخاوف الأمنية الحقيقية والمصالح المالية للشركات المطورة للنماذج.

ألتمان يحذر من استخدام مخاطر الذكاء الاصطناعي لاحتكار السوق

أقر ألتمان بأن جزءًا كبيرًا من المخاوف المتعلقة بسلامة الذكاء الاصطناعي يستند إلى أسباب حقيقية، لكنه حذر في الوقت نفسه من استخدام هذه المخاوف لتقييد الوصول إلى التقنية وحصرها في يد مجموعة صغيرة من الشركات.

وقال إن أحد أكثر السيناريوهات إثارة للقلق يتمثل في استغلال المخاطر الحقيقية للذكاء الاصطناعي لتبرير الادعاء بأن عددًا محدودًا من المؤسسات فقط يجب أن يمتلك هذه التقنية، لأنها وحدها القادرة على فهمها واتخاذ القرارات نيابة عن المجتمع.

وأكد ألتمان أنه لا يؤمن بنموذج يسمح لمجموعة صغيرة بالتحكم الكامل في تقنيات الذكاء الاصطناعي تحت ذريعة الحفاظ على السلامة.

OpenAI تفضل تنظيم القطاع بقيادة الشركات

رغم حديث ألتمان عن ضرورة التحكم في وتيرة تطوير الذكاء الاصطناعي، عارضت OpenAI في السابق عددًا من المقترحات الحكومية الرامية إلى فرض قواعد مباشرة على النماذج.

وتفضل الشركة نموذجًا تنظيميًا تقوده الصناعة، بحيث تنشئ مختبرات الذكاء الاصطناعي مؤسسات مستقلة ظاهريًا تتولى تقييم أمن النماذج ومراجعة سياسات السلامة التي تتبعها الشركات المطورة.

لكن نجاح هذا النموذج، أو أي محاولة لإبطاء تطوير الذكاء الاصطناعي، يعتمد على قدرة الشركات والدول المختلفة على التوصل إلى قواعد مشتركة.

ويشمل ذلك مختبرات الذكاء الاصطناعي المتنافسة داخل الولايات المتحدة، إلى جانب الشركات الصينية التي تواصل تطوير وإطلاق نماذج قوية ومفتوحة الأوزان.

وفي ظل المنافسة المتسارعة بين الشركات والدول، سيظل الوصول إلى اتفاق عالمي بشأن سرعة تطوير الذكاء الاصطناعي وآليات مراقبته أحد أصعب التحديات التي تواجه القطاع خلال السنوات المقبلة.