أنثروبيك تكشف عن وصول نماذج Claude دون تصريح إلى أنظمة حقيقية خلال اختبارات أمنية

كشفت شركة أنثروبيك (Anthropic) عن ثلاث حوادث أمنية تمكنت خلالها نماذج Claude من الوصول دون تصريح إلى أنظمة حقيقية تابعة لمؤسسات خارجية أثناء تنفيذ اختبارات أمنية، في تطور جديد يعكس التحديات المتزايدة المرتبطة بوكلاء الذكاء الاصطناعي وقدرتهم على تجاوز بيئات الاختبار والتفاعل مع أنظمة متصلة بالإنترنت.

وأوضحت الشركة، في منشور نشرته عبر موقعها الرسمي، أنها أجرت مراجعة شاملة لأنظمة الأمن السيبراني الخاصة بها عقب حادثة مشابهة أعلنت عنها OpenAI مؤخرًا، والتي تمكنت خلالها بعض نماذجها من الوصول إلى أجزاء من أنظمة منصة Hugging Face أثناء اختبارات أمنية.

وشملت المراجعة أكثر من 141 ألف اختبار للذكاء الاصطناعي، وأسفرت عن اكتشاف ثلاث حالات وقعت خلال شهر أبريل، استطاعت فيها نماذج Claude الاتصال بالإنترنت والوصول إلى أنظمة فعلية تابعة لثلاث مؤسسات، رغم أن الاختبارات كانت تُجرى داخل ما يفترض أنه بيئة محاكاة معزولة.

خطأ في بيئة الاختبار

وبيّنت أنثروبيك أن تعليمات الاختبار أوضحت للنماذج أنها تعمل داخل بيئة محاكاة لا تتيح الاتصال بالإنترنت، إلا أن سوء تنسيق بين الشركة وشريكتها المتخصصة في تقييم أمن الذكاء الاصطناعي Irregular أدى إلى إتاحة الاتصال بالإنترنت فعليًا أثناء تنفيذ الاختبارات.

وأكدت الشركة أن الحوادث شملت ثلاثة نماذج مختلفة، وهي Claude Opus 4.7 وMythos 5، إلى جانب نموذج بحثي داخلي كان لا يزال قيد التطوير.

وأضافت أنها تواصلت مع المؤسسات الثلاث المتأثرة لمعالجة آثار الحوادث، مشيرة إلى أن اثنتين منها لم تكونا على علم بعمليات الوصول غير المصرح بها قبل إبلاغهما رسميًا. كما امتنعت الشركة عن الكشف عن أسماء الجهات المتضررة أو نشر السجلات الكاملة للحوادث حفاظًا على أمنها.

تصاعد المخاوف الأمنية

تأتي هذه الحوادث في وقت تتزايد فيه قدرات نماذج الذكاء الاصطناعي على اكتشاف الثغرات الأمنية واستغلالها، بالتزامن مع انتشار وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام معقدة بصورة مستقلة.

وفي تعليقه على الواقعة، قال إيلون ماسك، الرئيس التنفيذي لشركة SpaceX، إن مثل هذه الحوادث مرشحة للتكرار مع تطور قدرات أنظمة الذكاء الاصطناعي وازدياد استقلاليتها في تنفيذ المهام.

كما أثار توقيت إعلان أنثروبيك تساؤلات بين مختصي الأمن السيبراني، إذ إن الحوادث وقعت قبل نحو ثلاثة أشهر، بينما جاء الإعلان بعد أيام فقط من كشف OpenAI عن حادثة مشابهة خرجت خلالها نماذجها من بيئة الاختبار وتمكنت من الوصول إلى أنظمة خارجية.

ورأى جيك مور، المتخصص العالمي في الأمن السيبراني لدى شركة ESET، أن أنثروبيك ربما فضلت في البداية عدم الإعلان عن الحوادث خشية إثارة مخاوف بشأن سلامة نماذجها، إلا أن الاهتمام الكبير الذي حظيت به حادثة OpenAI دفعها إلى الإفصاح عن الواقعة وتعزيز الشفافية.

هل أدركت النماذج أنها تتعامل مع أنظمة حقيقية؟

في المقابل، دعا عدد من الخبراء إلى عدم التسرع في استخلاص استنتاجات تتجاوز المعلومات المتاحة، مؤكدين أنه لا توجد أدلة حتى الآن تثبت أن نماذج Claude كانت تدرك أنها تتعامل مع أنظمة تشغيل حقيقية أو أنها تعمدت تجاوز بيئة الاختبار.

وأكدت أنثروبيك أنها بدأت التعاون مع جهة مستقلة متخصصة في تقييم أنظمة الذكاء الاصطناعي لإجراء مراجعة خارجية للحوادث، مع منحها حق الوصول إلى السجلات الكاملة وعينات من النماذج المعنية لضمان تقييم محايد.

ويرى خبراء الأمن السيبراني أن الواقعة تؤكد الحاجة إلى فرض قيود تقنية صارمة على وكلاء الذكاء الاصطناعي، بدلًا من الاعتماد على التعليمات النصية فقط لمنعهم من تنفيذ إجراءات غير مقصودة.

وقال تريفور ديرينج، مدير البنية التحتية الحيوية في شركة Illumio، إن المؤسسات مطالبة بوضع ضوابط تقنية واضحة تحدد بدقة ما يمكن لوكلاء الذكاء الاصطناعي القيام به، مشيرًا إلى أن الاعتماد على التعليمات المكتوبة باللغة الطبيعية وحدها لا يوفر حماية كافية، خاصة إذا كانت بيئة التشغيل تمنح النماذج صلاحيات اتصال فعلية بالإنترنت

أنثروبيك توسّع قدرات وضع الصوت في Claude بدعم طرازي Opus وSonnet و11 لغة