Anthropic تكشف كيف ستضيف علامة مائية إلى النصوص التي ينشئها Claude

كشفت شركة Anthropic تفاصيل جديدة حول خطتها لإضافة علامات مائية إلى النصوص التي يولدها روبوت الذكاء الاصطناعي Claude، موضحةً آلية عمل التقنية ومدى إمكانية إزالتها عبر تعديل النصوص، بالإضافة إلى تأثيرها المحتمل على الأكواد البرمجية.

وتأتي الخطوة في إطار التزام Anthropic بمتطلبات قانون الذكاء الاصطناعي الأوروبي EU AI Act ومدونة الممارسات الخاصة بالشفافية، والتي تطالب شركات الذكاء الاصطناعي باستخدام تقنيات تساعد على التعرف على المحتوى الذي تم إنشاؤه بواسطة أنظمة الذكاء الاصطناعي.

كيف ستعمل العلامة المائية في Claude؟

أوضحت Anthropic أن العلامة المائية لن تظهر للمستخدم بشكل مباشر، ولن تتضمن رموزًا أو إشارات مرئية داخل النص.

وبدلاً من ذلك، سيقوم Claude بإنشاء نمط إحصائي معين من خلال الاختيار بين كلمات وتعبيرات مختلفة عندما تكون أمام النموذج عدة خيارات متقاربة في المعنى.

فعلى سبيل المثال، عندما يستطيع Claude الاختيار بين أكثر من كلمة صحيحة لوصف حالة معينة، يمكن لهذه الاختيارات مجتمعة أن تكوّن نمطًا غير ملحوظ بالنسبة للقارئ، لكنه قابل للكشف باستخدام مفتاح وتقنية مخصصة لذلك.

وأكدت Anthropic أن هذه الآلية لن تؤثر على جودة النصوص التي ينتجها Claude، إذ من المفترض ألا يتمكن القارئ من التمييز بين النص الذي يحتوي على العلامة المائية والنص الذي لا يحتوي عليها.

Anthropic تعتمد تقنية SynthID-Text

تعتزم Anthropic استخدام تقنية SynthID-Text التي قدمها فريق Google DeepMind في عام 2024 لتضمين العلامات المائية داخل النصوص التي يولدها Claude.

كما تخطط الشركة لإطلاق واجهة برمجة تطبيقات API مخصصة للكشف عن العلامة المائية، بما يسمح بالتحقق من احتمالية أن يكون محتوى معين قد تم إنشاؤه باستخدام Claude.

وأشارت الشركة إلى أن تقنية العلامات المائية تختلف عن أدوات اكتشاف محتوى الذكاء الاصطناعي التقليدية، التي تحاول التعرف على أنماط أو أساليب لغوية شائعة في النصوص التي تنتجها نماذج الذكاء الاصطناعي.

فالعلامة المائية تعتمد على نمط يتم تضمينه أثناء عملية توليد النص نفسها، بدلاً من تحليل أسلوب الكتابة بعد إنشاء المحتوى.

هل يمكن إزالة العلامة المائية من نصوص Claude؟

بحسب Anthropic، قد يؤدي تعديل النص إلى إضعاف إمكانية اكتشاف العلامة المائية، لكن التعديلات البسيطة لن تكون كافية على الأرجح لإزالتها بالكامل.

أما إعادة كتابة النص بصورة شاملة واستبدال معظم كلماته، فقد تؤدي إلى اختفاء العلامة المائية.

وترى الشركة أنه في حالة إعادة كتابة المحتوى بالكامل، يصبح من الصعب أيضًا اعتباره نصًا مولدًا مباشرة بواسطة الذكاء الاصطناعي بالشكل نفسه.

ماذا عن النصوص التي يراجعها Claude؟

أوضحت Anthropic أن إمكانية ظهور العلامة المائية في النصوص التي يستخدم فيها Claude للتدقيق أو التحرير ستعتمد على مقدار التعديلات التي يجريها النموذج.

فإذا كتب المستخدم النص بنفسه واستخدم Claude فقط لإجراء تعديلات محدودة، فمن المتوقع ألا تكون هناك مساحة كافية لتضمين علامة مائية قوية، لأن معظم الكلمات تظل من كتابة المستخدم.

أما إذا أجرى Claude تعديلات واسعة أو أعاد صياغة أجزاء كبيرة من النص، فقد تصبح العلامة أكثر قابلية للكشف.

هل ستؤثر العلامة المائية على الأكواد البرمجية؟

من المتوقع أن يكون تأثير العلامة المائية على الأكواد التي يولدها Claude محدودًا للغاية.

ويرجع ذلك إلى أن كتابة الكود تفرض قيودًا أكبر على النموذج مقارنة بكتابة النصوص العادية، إذ يجب أن ينتج Claude كودًا صحيحًا وقابلًا للعمل، ما يقلل من قدرته على الاختيار بحرية بين عدة بدائل لغوية.

ومع ذلك، قد تظهر العلامة المائية في الأجزاء التي توجد فيها مرونة أكبر في اختيار الكلمات، مثل التعليقات المكتوبة داخل الكود أو بعض أسماء العناصر والمصطلحات التي تسمح بأكثر من اختيار.

الجدل حول علامات Claude المائية

أثارت خطة Anthropic ردود فعل متباينة بين مستخدمي Claude، خاصة مع المخاوف المتعلقة بإمكانية اكتشاف المحتوى الذي تتم كتابته بمساعدة الذكاء الاصطناعي.

وظهرت مناقشات واسعة على منصات مثل Reddit وX حول تأثير التقنية على المستخدمين، فيما أشارت تقارير إعلامية إلى أن بعض المستخدمين أعلنوا إلغاء اشتراكاتهم في Claude بعد الكشف عن الخطة.

في المقابل، ترى Anthropic أن استخدام العلامات المائية يأتي في إطار زيادة الشفافية حول المحتوى الذي تنتجه نماذج الذكاء الاصطناعي.

شركات ذكاء اصطناعي أخرى تتجه إلى العلامات المائية

أكدت Anthropic أن Claude لن يكون النموذج الوحيد الذي يستخدم علامات مائية للنصوص، مشيرةً إلى أن شركات أخرى مطورة لنماذج ذكاء اصطناعي كبرى وقعت على مدونة الممارسات نفسها، ومن المتوقع أن تطبق تقنيات خاصة بها لتحديد المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.

وتعكس هذه الخطوة اتجاهاً متزايداً داخل قطاع الذكاء الاصطناعي نحو تطوير وسائل أكثر موثوقية للتمييز بين المحتوى البشري والمحتوى الذي تنتجه النماذج التوليدية، بالتزامن مع توسع التشريعات المنظمة لاستخدام الذكاء الاصطناعي.