ذكرت صحيفة ” وول ستريت جورنال ” أن شركة OpenAI تمتلك منذ نحو عام نظامًا لوضع علامات مائية على النصوص التي ينشئها ChatGPT، وأداة للكشف عن هذه العلامات. ومع ذلك، الشركة منقسمة داخليًا حول ما إذا كان يجب إطلاق هذه الأداة أم لا. من ناحية، يبدو هذا الإجراء مسؤولًا، ومن ناحية أخرى، قد يضر بأرباح الشركة.
تعتمد آلية العلامة المائية التي طورتها OpenAI على تعديل كيفية توقع النموذج للكلمات والعبارات الأكثر احتمالًا التي ستتبع الكلمات السابقة، مما يخلق نمطًا يمكن كشفه. ( هذا تبسيط للمفهوم، ويمكنك مراجعة شرح جوجل الأكثر تفصيلًا لعلامات النص المائية في Gemini لمزيد من المعلومات ).
يعتبر توفير أي وسيلة للكشف عن المواد المكتوبة بالذكاء الاصطناعي أمرًا مفيدًا للمعلمين الذين يحاولون منع الطلاب من تقديم واجبات الكتابة التي تم إنشاؤها بواسطة الذكاء الاصطناعي. أفادت الصحيفة أن الشركة وجدت أن العلامات المائية لا تؤثر على جودة النص الذي ينتجه روبوت الدردشة الخاص بها. وفي إستطلاع أجرته الشركة، ” أيد الناس في جميع أنحاء العالم فكرة أداة الكشف عن الذكاء الاصطناعي بنسبة أربعة إلى واحد “، كما ذكرت الصحيفة.
بعد نشر ” وول ستريت جورنال ” لقصة العلامات المائية، أكدت OpenAI في منشور على مدونة الشركة اليوم أنها عملت على وضع علامات مائية على النصوص. وذكرت الشركة في المنشور أن طريقتها دقيقة للغاية ( ” فعالة بنسبة 99.9٪ “، وفقًا للوثائق التي إطلعت عليها الصحيفة ) ومقاومة لـ ” التلاعبات، مثل إعادة الصياغة “. ومع ذلك، أشارت الشركة إلى أن تقنيات مثل إعادة الصياغة بإستخدام نموذج آخر تجعل ” التحايل عليها أمرًا سهلاً بالنسبة للأطراف السيئة “. كما أعربت الشركة عن قلقها بشأن وصم فائدة أدوات الذكاء الاصطناعي للمتحدثين غير الأصليين للغة.
يبدو أن OpenAI تشعر بالقلق أيضًا من أن إستخدام العلامات المائية قد يؤدي إلى نفور مستخدمي ChatGPT، حيث أشار ما يقرب من 30٪ منهم في الاستطلاع إلى أنهم سيستخدمون البرنامج بشكل أقل إذا تم إستخدام العلامات المائية.
على الرغم من ذلك، لا يزال بعض الموظفين يعتقدون أن العلامات المائية فعالة. وفي ضوء مخاوف المستخدمين، تقول الصحيفة إن البعض اقترح تجربة أساليب ” قد تكون أقل إثارة للجدل بين المستخدمين ولكنها غير مثبتة “. وفي منشور الشركة اليوم، ذكرت الشركة أنها ” في المراحل الأولى ” من إستكشاف تضمين البيانات الوصفية. وأشارت إلى أنه ” من السابق لأوانه ” معرفة مدى نجاح هذه الطريقة، ولكن نظرًا لأنها موقعة تشفيريًا، فلن تكون هناك نتائج إيجابية خاطئة.
الملخص
قامت شركة OpenAI بتطوير نظام لوضع علامات مائية على النصوص التي ينتجها ChatGPT وأداة للكشف عن هذه العلامات، لكنها مترددة في إطلاق الأداة بسبب مخاوف تتعلق بالأرباح وتأثيرها على المستخدمين، على الرغم من أن العديد من الموظفين يرون أنها فعالة ويقترحون تجربة أساليب أقل إثارة للجدل. وتستكشف الشركة حاليًا تضمين البيانات الوصفية كطريقة بديلة.