Anthropic تكشف ثلاث حوادث وصول غير مصرح به لأنظمة خارجية أثناء اختبار Claude

أعلنت شركة Anthropic عن تسجيل ثلاث حوادث أمنية وقعت خلال اختبارات داخلية لنماذج Claude، أسفرت عن وصول غير مصرح به إلى أنظمة تابعة لشركات خارجية، في تطور يعيد تسليط الضوء على التحديات الأمنية المرتبطة بتطور نماذج الذكاء الاصطناعي، بالتزامن مع استعداد الشركة لطرح أسهمها للاكتتاب العام.

وأوضحت الشركة أنها أجرت مراجعة شاملة لإجراءات الاختبار عقب حادثة مشابهة شهدتها شركة OpenAI، تمكنت خلالها نماذج ذكاء اصطناعي من الوصول إلى أنظمة منصة Hugging Face أثناء اختبارات للقدرات السيبرانية.

وشملت المراجعة أكثر من 141 ألف تجربة اختبارية، كشفت عن ثلاث حالات فقط نجحت خلالها النماذج في الوصول إلى أنظمة ثلاث شركات خارجية دون الحصول على تصريح مسبق.

وبحسب الشركة، كانت النماذج تعمل ضمن بيئة افتراضية يُفترض أنها معزولة بالكامل عن الإنترنت، إلا أن سوء فهم تقني مع شريك التقييم، شركة Irregular المتخصصة في الأمن السيبراني، أدى إلى إتاحة اتصال فعلي بالشبكة خلال بعض الاختبارات، ما مكّن النماذج من الوصول إلى بيانات الشركات المستهدفة دون علمها.

وشملت الحوادث ثلاثة نماذج مختلفة، هي Claude Opus 4.7، وMythos 5، بالإضافة إلى إصدار داخلي قيد الاختبار.

وأكدت Anthropic أنها تواصلت مباشرة مع الشركات المتضررة لاتخاذ الإجراءات اللازمة واحتواء آثار الحوادث، مشيرة إلى أن اثنتين من هذه الشركات لم ترصدا أي نشاط غير اعتيادي قبل إخطارهما من جانب الشركة.

كما أوضحت Anthropic أن إعلانها عن هذه الوقائع يأتي في إطار نهجها الهادف إلى تعزيز الشفافية، لافتةً إلى أنها كشفت أيضاً عن حوادث أمنية سابقة، من بينها تسرب شيفرة برمجية داخلية نتيجة خطأ في إجراءات التجهيز، إضافة إلى ثغرات أمنية اكتشفتها جهات خارجية وتمت معالجتها بسرعة.

وفي سياق متصل، تتزايد التحذيرات داخل قطاع التكنولوجيا بشأن تركز البيانات الحساسة لدى عدد محدود من شركات الذكاء الاصطناعي، حتى في غياب هجمات إلكترونية مباشرة. وكان الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، قد أشار إلى أن العديد من القطاعات قد تفقد السيطرة على بياناتها لصالح مزودي الذكاء الاصطناعي إذا لم تُوضع أطر تنظيمية وضوابط واضحة لإدارة هذه المعلومات.

وتسلط هذه الحوادث الضوء على التحديات الأمنية المتزايدة التي تواجه قطاع الذكاء الاصطناعي، وتطرح تساؤلات جديدة حول جاهزية الشركات والمستثمرين للتعامل مع المخاطر المصاحبة لتطور النماذج المتقدمة، في وقت تواصل فيه شركات القطاع تعزيز إجراءات الحماية وتحديث سياسات الأمن والاستجابة للحوادث.