OpenAI تضيف علامات مائية خفية إلى نصوص ChatGPT وCodex في أوروبا

أعلنت OpenAI اعتماد تقنية جديدة لإضافة علامات مائية غير مرئية إلى النصوص التي تنتجها أدواتها، في خطوة تستهدف تسهيل التعرّف على المحتوى المولّد بالذكاء الاصطناعي. وسيبدأ تطبيق الميزة على المخرجات النصية المؤهلة في ChatGPT وCodex داخل الاتحاد الأوروبي خلال الأسابيع المقبلة، مع إتاحتها اختياريًا لعملاء واجهة برمجة التطبيقات عالميًا.

وقالت الشركة إن الخطوة تأتي استجابة لمتطلبات قانون الذكاء الاصطناعي الأوروبي، ضمن نهج أوسع لتتبّع مصدر المحتوى. لكنها أكدت أن العلامة المائية تظل مؤشرًا محدودًا على استخدام أنظمتها، ولا تثبت هوية الكاتب أو صحة المعلومات أو حجم المساهمة البشرية في النص.

كيف تعمل العلامات المائية في ChatGPT؟

تحمل التقنية اسم «textGrain»، وتعمل عبر إدخال نمط إحصائي خفي في اختيارات النموذج للكلمات، تستطيع أداة متخصصة البحث عنه لتحديد ما إذا كان النص يتضمن علامة مائية من OpenAI.

ولا تظهر العلامة للقارئ في صورة رمز أو عبارة مضافة، بل تكون جزءًا من الطريقة التي تُختار بها الكلمات أثناء توليد النص.

وبحسب تقييمات الشركة، حققت التقنية أداءً يضاهي أو يتجاوز الأساليب الأخرى التي اختبرتها، بما فيها «SynthID» للنصوص. ومع ذلك، شددت OpenAI على أن نجاح الكشف في الاختبارات لا يضمن الدرجة نفسها من الموثوقية في الاستخدام الفعلي.

وتخطط الشركة لإتاحة التقنية بصورة مفتوحة المصدر، ونشر تفاصيل إضافية عنها في تقريرها التقني خلال الأسابيع المقبلة.

التطبيق يبدأ في أوروبا مع خيار عالمي لمطوري التطبيقات

يشمل الطرح المخرجات النصية المؤهلة لمستخدمي ChatGPT وCodex عبر جميع الخطط داخل الاتحاد الأوروبي. ولن تصبح العلامات المائية إعدادًا افتراضيًا عالميًا عند الإطلاق.

وفي المقابل، تتيح OpenAI لعملاء واجهة برمجة التطبيقات «API» حول العالم تفعيل الميزة لنماذج محددة، مع إبقائها معطلة افتراضيًا.

كما تعمل مع شركائها في الخدمات السحابية لإتاحة العلامات المائية لمخرجات نماذجها المستخدمة عبر منصاتهم خلال الأسابيع المقبلة.

طول النص وموضوعه يؤثران في دقة الكشف

أوضحت OpenAI أن أداة الكشف قد تخطئ بطريقتين: الإشارة إلى وجود علامة مائية في نص لا يحتوي عليها، أو عدم رصد علامة موجودة بالفعل.

وعند ضبط معدل النتائج الإيجابية الكاذبة المستهدف على 1%، تمكنت الأداة من اكتشاف العلامات في نحو 80% من المقاطع المكوّنة من 200 وحدة نصية «Token»، مقابل نحو 95% للمقاطع المكوّنة من 400 وحدة، في محتوى مثل الإجابات المتعلقة بعلم النفس.

وكانت النتائج أضعف بكثير في المحتوى الرياضي، حيث تكون خيارات الصياغة أكثر تقييدًا. وتعكس هذه الفروق اعتماد الكشف على وجود نص كافٍ ومرونة تسمح بتضمين النمط الإحصائي في اختيار الكلمات.

إعادة الصياغة قد تضعف العلامة المائية

أظهرت الاختبارات أن التعديلات على النص تؤثر بوضوح في إمكانية اكتشاف العلامة.

وفي تقييم شمل مقاطع من 400 وحدة نصية، انخفض معدل الكشف من نحو 92% إلى 66% بعد استبدال 10% من الكلمات بمرادفات. وعند استبدال 25% من الكلمات، تراجع المعدل إلى 17%.

واستندت هذه النتائج إلى إجابات باللغة الإنجليزية من مجموعة بيانات «ELI5»، ولا تعني بالضرورة أن الأداء سيكون مماثلًا في جميع اللغات أو أنواع المحتوى.

وتوضح النتائج أن تحرير النص أو ترجمته قد يُضعف الإشارة، ولذلك لا يمكن اعتبار غياب علامة مكتشفة دليلًا على أن المحتوى بشري بالكامل.

هل تتغير جودة الإجابات بعد إضافة العلامات؟

قالت OpenAI إنها لم ترصد فروقًا جوهرية في الأداء بين النصوص المزوّدة بالعلامات المائية والنصوص غير المزوّدة بها، عبر الاختبارات المستخدمة لتقييم نموذج «Astra».

وشملت التقييمات مهام البرمجة والاستدلال والتصفح والأتمتة، مع اختلاف النتائج بين اختبار وآخر.

وتشير هذه التقييمات إلى إمكانية تضمين العلامة دون تأثير ملحوظ في الأداء العام للنموذج، وفقًا للشركة، مع بقاء موثوقية الكشف مسألة منفصلة تتأثر بطبيعة النص والتعديلات التي تطرأ عليه.

ماذا تثبت العلامة المائية، وماذا لا تثبت؟

يمكن للعلامة أن تشير إلى أن أحد أنظمة OpenAI ولّد جزءًا من النص أو عالجه، لكنها لا تحدد مقدار ما أضافه الإنسان من أفكار أو تحرير أو إبداع.

كذلك، لا تثبت العلامة ملكية المحتوى أو المسؤولية عنه أو قانونية استخدامه، ولا تربطه بشخص أو مؤسسة أو حساب محدد. ولا تكشف الأوامر التي أدخلها المستخدم أو تفاصيل محادثاته.

أما صحة المعلومات، فلا يمكن الحكم عليها من خلال العلامة؛ إذ قد يتضمن النص المعلَّم معلومات صحيحة أو خاطئة، ويظل تقييمه بحاجة إلى مراجعة مستقلة.

وقد يصعب اكتشاف العلامة أيضًا إذا كان النص قصيرًا أو مترجمًا أو محررًا، أو صدر عن نموذج غير مدعوم، أو أُنشئ قبل تطبيق التقنية.

الوصول إلى أداة الكشف يقتصر مبدئيًا على جهات متخصصة

فتحت OpenAI باب التقدم لاستخدام أداة الكشف أمام الباحثين والجهات المتخصصة، على أن تُمنح الموافقات بصورة فردية لدعم تقييم التقنية وتحسينها.

وقالت إن احتمالات الخطأ وعدم اكتشاف بعض العلامات وراء قرار عدم إتاحة الأداة للعامة عند الإطلاق.

ولا يشمل هذا القيد أدوات التحقق من الصور والصوت، التي ستظل متاحة عبر موقع «openai.com/verify» وواجهة «Content Provenance API».

وتأتي العلامات النصية ضمن منظومة تجمع بين بيانات اعتماد المحتوى ومعيار «C2PA» والعلامات المائية غير المرئية. وتعتزم الشركة مواصلة دراسة أثر التحرير والترجمة، وتوسيع الوصول إلى أداة الكشف عندما تسمح موثوقية النتائج بتفسيرها واستخدامها بمسؤولية.