در پی گزارشی از روزنامه وال استریت که ادعا می کند OpenAI بر روی ابزاری قرار گرفته است که می تواند مقالات نوشته شده توسط ChatGPT را با درجه بالایی از دقت تشخیص دهد، این شرکت اطلاعات کمی در مورد تحقیقات خود در زمینه علامت گذاری متن به اشتراک گذاشته است – و اینکه چرا روش تشخیص خود را منتشر نکرده است. مطابق با روزنامه وال استریتگزارش 's، بحث در مورد اینکه آیا این ابزار باید منتشر شود یا خیر، علیرغم اینکه “آماده” است، مانع از دیده شدن آن شده است. در به روز رسانی منتشر شده در روز یکشنبه به یک پست وبلاگ ماه مه، مشاهده شده توسط TechCrunchOpenAI گفت: “تیم های ما یک روش واترمارکینگ متن را توسعه داده اند که ما همچنان در حال بررسی گزینه های جایگزین هستیم.”
این شرکت گفت که واترمارکینگ یکی از راهحلهای متعدد، از جمله طبقهبندیکنندهها و ابردادهها است که به عنوان بخشی از «تحقیقات گسترده در زمینه منشأ متن» مورد بررسی قرار گرفته است. طبق گفته OpenAI، در برخی موقعیتها «بسیار دقیق بوده است»، اما در صورت مواجهه با اشکال خاصی از دستکاری، «مانند استفاده از سیستمهای ترجمه، بازنویسی با مدل مولد دیگر، یا درخواست از مدل برای درج یک الگوی خاص» به خوبی عمل نمیکند. شخصیت بین هر کلمه و سپس حذف آن کاراکتر.” OpenAI نوشت و واترمارک متن میتواند «به طور نامتناسبی بر برخی گروهها تأثیر بگذارد». به عنوان مثال، میتواند استفاده از هوش مصنوعی را به عنوان یک ابزار نوشتاری مفید برای انگلیسیزبانهای غیر بومی مورد انگ قرار دهد.»
طبق پست وبلاگ، OpenAI این خطرات را سنجیده است. این شرکت همچنین نوشت که انتشار ابزارهای احراز هویت برای محتوای سمعی و بصری را در اولویت قرار داده است. در بیانیه ای به TechCrunchسخنگوی OpenAI گفت که این شرکت به دلیل پیچیدگیهای موجود و تأثیر احتمالی آن بر اکوسیستم گستردهتر فراتر از OpenAI، «رویکردی عمدی» را برای منشأ متن اتخاذ میکند.
