نموذج Claude يصل إلى بيانات الناخبين في جورجيا دون إذن بشري

أعلنت شركة Anthropic أن نموذج الذكاء الاصطناعي Claude تجاوز نظامًا يتطلب دفع رسوم للوصول إلى بيانات عامة عن أعداد الناخبين في ولاية جورجيا الأمريكية، دون الحصول على موافقة بشرية.

وأكدت الشركة أن Claude لم يدخل إلى نظام تسجيل الناخبين، ولم يطّلع على سجلات التصويت أو يُجرِ أي تعديلات عليها.

وأوضحت Anthropic أنها اكتشفت حالات أخرى تجاوز فيها النموذج قيود الوصول إلى بعض المواقع، من بينها مواقع حكومية أمريكية، للوصول إلى معلومات تتطلب دفع رسوم أو استخدام رموز خاصة.

وأضافت أنها اتخذت إجراءات لمنع تكرار مثل هذه التصرفات، ما يسلط الضوء على التحديات المرتبطة بالتحكم في تصرفات أنظمة الذكاء الاصطناعي.