لن يقوم OpenAI بوضع علامة مائية على نص ChatGPT لأنه قد يتم القبض على مستخدميه

تمتلك OpenAI نظامًا لوضع العلامات المائية على النصوص التي أنشأتها ChatGPT وأداة للكشف عن العلامة المائية جاهزة لمدة عام تقريبًا، وفقًا للتقارير. صحيفة وول ستريت جورنال. لكن الشركة منقسمة داخليًا حول ما إذا كان سيتم إطلاقها أم لا. من ناحية، يبدو أن هذا هو الشيء المسؤول الذي يجب القيام به؛ ومن ناحية أخرى، يمكن أن يضر بالنتيجة النهائية.

توصف العلامة المائية لـ OpenAI بأنها ضبط كيفية توقع النموذج للكلمات والعبارات الأكثر احتمالية التي ستتبع الكلمات والعبارات السابقة، مما يؤدي إلى إنشاء نمط يمكن اكتشافه. (هذا تبسيط، ولكن يمكنك الاطلاع على شرح Google الأكثر تعمقًا للعلامة المائية النصية لـ Gemini لمزيد من المعلومات).

يبدو أن الشركة وجدت أن هذا “فعال بنسبة 99.9%” لجعل نص الذكاء الاصطناعي قابلاً للاكتشاف عندما يكون هناك ما يكفي منه – وهي نعمة محتملة للمعلمين الذين يحاولون ردع الطلاب عن تسليم مهام الكتابة إلى الذكاء الاصطناعي – مع عدم التأثير على جودة إخراج النص في برنامج الدردشة الآلي الخاص بها. . وفي استطلاع أجرته الشركة، “أيد الناس في جميع أنحاء العالم فكرة وجود أداة كشف تعمل بالذكاء الاصطناعي بهامش أربعة إلى واحد”، مجلة يكتب.

ولكن يبدو أن OpenAI تشعر بالقلق من أن استخدام العلامة المائية قد يؤدي إلى إيقاف مستخدمي ChatGPT الذين شملهم الاستطلاع، ومن الواضح أن ما يقرب من 30 بالمائة منهم أخبروا الشركة أنهم سيستخدمون البرنامج بشكل أقل إذا تم تنفيذ العلامة المائية.

كان لدى بعض الموظفين مخاوف أخرى، مثل أنه يمكن إحباط العلامة المائية بسهولة باستخدام حيل مثل إرجاع النص ذهابًا وإيابًا بين اللغات باستخدام ترجمة جوجل أو جعل ChatGPT يضيف رموزًا تعبيرية ثم حذفها بعد ذلك، وفقًا لما ذكره موقع engadget. مجلة.

وعلى الرغم من ذلك، لا يزال الموظفون يشعرون بأن هذا النهج فعال. في ضوء مشاعر المستخدم المزعجة، على الرغم من هذه المادة يقول البعض إن البعض اقترح تجربة أساليب “من المحتمل أن تكون أقل إثارة للجدل بين المستخدمين ولكنها غير مثبتة”. شيء أفضل من لا شيء، على ما أعتقد.