متا قصد دارد برچسب گذاری تصاویر تولید شده با هوش مصنوعی را در فیس بوک، اینستاگرام و Threads افزایش دهد تا به وضوح مصنوعی بودن تصاویر کمک کند. این بخشی از یک فشار گسترده تر برای از بین بردن اطلاعات نادرست و اطلاعات نادرست است، که به ویژه در بحث ما با پیامدهای هوش مصنوعی (GAI) در یک سال انتخاباتی بزرگ در ایالات متحده و سایر کشورها بسیار مهم است.
به گفته نیک کلگ، رئیس امور جهانی متا، این شرکت با شرکای سراسر صنعت برای توسعه استانداردهایی کار می کند که شامل نشانگرهایی است که تصویر، ویدیو یا کلیپ صوتی با استفاده از هوش مصنوعی تولید شده است. کلگ در یکی از پست‌های Meta Newsroom نوشت: «توانایی تشخیص این سیگنال‌ها این امکان را برای ما فراهم می‌کند که تصاویر تولید شده با هوش مصنوعی را که کاربران در فیسبوک، اینستاگرام و Threads ارسال می‌کنند، برچسب‌گذاری کنیم. ما اکنون در حال ایجاد این قابلیت هستیم و در ماه‌های آینده شروع به اعمال برچسب‌ها به تمام زبان‌های پشتیبانی‌شده توسط هر برنامه خواهیم کرد.» کلگ اضافه کرد که با گسترش این قابلیت‌ها در سال آینده، متا انتظار دارد در مورد «چگونگی ایجاد و اشتراک‌گذاری محتوای هوش مصنوعی توسط افراد، چه نوع شفافیتی برای مردم و چگونگی تکامل این فناوری‌ها» اطلاعات بیشتری کسب کند. او نوشت که اینها به اطلاع رسانی بهترین شیوه های صنعت و سیاست های متا کمک می کند.
متا می‌گوید ابزارهایی که روی آن کار می‌کند قادر خواهند بود سیگنال‌های نامرئی را شناسایی کنند – یعنی اطلاعات تولید شده توسط هوش مصنوعی که با استانداردهای فنی C2PA و IPTC مطابقت دارد – در مقیاس. به این ترتیب، انتظار می‌رود که بتواند تصاویر گوگل، OpenAI، مایکروسافت، ادوبی، Midjourney و Shutterstock را مشخص و برچسب‌گذاری کند، که همگی متادیتا GAI را در تصاویری که محصولاتشان تولید می‌کنند ترکیب می‌کنند.
در مورد ویدیو و صدای GAI، کلگ اشاره می‌کند که شرکت‌های موجود در فضا شروع به ترکیب سیگنال‌های نامرئی در سیگنال‌هایی در همان مقیاسی که تصاویر دارند، نکرده‌اند. به این ترتیب، متا هنوز قادر به تشخیص ویدیو و صدای تولید شده توسط ابزارهای هوش مصنوعی شخص ثالث نیست. در این بین، متا از کاربران انتظار دارد که خودشان چنین محتوایی را برچسب گذاری کنند.
کلگ نوشت: «در حالی که صنعت به سمت این قابلیت کار می‌کند، ما ویژگی‌ای را اضافه می‌کنیم تا مردم هنگام اشتراک‌گذاری ویدیو یا صدای تولید شده توسط هوش مصنوعی افشا کنند تا بتوانیم یک برچسب به آن اضافه کنیم.» ما از افراد می‌خواهیم از این ابزار افشا و برچسب‌گذاری زمانی که محتوای ارگانیک را با ویدیوی واقعی عکس یا صدایی با صدای واقعی که به‌صورت دیجیتالی ایجاد شده یا تغییر داده است پست می‌کنند، استفاده کنند و در صورت عدم انجام این کار، ممکن است جریمه‌هایی اعمال کنیم. تصویر، ویدیو یا محتوای صوتی که به صورت دیجیتالی ایجاد شده یا تغییر یافته است، خطر بالایی برای فریب عمومی مردم در مورد یک موضوع مهم ایجاد می‌کند، در صورت لزوم ممکن است برچسب برجسته‌تری اضافه کنیم تا افراد اطلاعات و زمینه بیشتری داشته باشند.”
با این اوصاف، قرار دادن مسئولیت بر دوش کاربران برای افزودن اطلاعات افشایی و برچسب‌ها به ویدیو و صدای تولید شده توسط هوش مصنوعی، کاری غیرمعمول به نظر می‌رسد. بسیاری از این افراد سعی می کنند عمداً دیگران را فریب دهند. علاوه بر این، دیگران احتمالاً نگران سیاست‌های GAI نیستند یا از آن آگاه نیستند.
علاوه بر این، متا به دنبال این است که تغییر یا حذف نشانگرهای نامرئی از محتوای GAI را برای افراد دشوارتر کند. Clegg نوشت: آزمایشگاه تحقیقاتی FAIR AI این شرکت فناوری توسعه داده است که “مکانیسم واترمارکینگ را مستقیماً در فرآیند تولید تصویر برای برخی از انواع تولیدکننده‌های تصویر ادغام می‌کند، که می‌تواند برای مدل‌های منبع باز ارزشمند باشد، بنابراین واترمارکینگ را نمی‌توان غیرفعال کرد.” متا همچنین در حال کار بر روی روش هایی برای شناسایی خودکار مواد تولید شده توسط هوش مصنوعی است که نشانگرهای نامرئی ندارند.
متا قصد دارد به همکاری با شرکای صنعتی ادامه دهد و با رواج بیشتر GAI “در گفتگو با دولت ها و جامعه مدنی باقی بماند”. او معتقد است که این رویکرد درستی برای مدیریت محتوایی است که در فیسبوک، اینستاگرام و موضوعات به اشتراک گذاشته شده است، اگرچه در صورت لزوم موارد را تنظیم می کند.
یکی از مسائل کلیدی در رویکرد متا – حداقل در حالی که روی روش‌هایی برای شناسایی خودکار محتوای GAI که از نشانگرهای نامرئی استاندارد صنعت استفاده نمی‌کند کار می‌کند – این است که نیاز به خرید از طرف شرکا دارد. به عنوان مثال، C2PA یک روش احراز هویت به سبک دفتر کل دارد. برای این کار، هم ابزارهایی که برای ایجاد تصاویر استفاده می‌شوند و هم پلتفرم‌هایی که روی آن‌ها میزبانی می‌شوند، باید در C2PA خریداری شوند.
متا تنها چند روز پس از آن که مارک زاکربرگ، مدیر عامل شرکت، برنامه‌های شرکتش برای ساخت هوش مصنوعی عمومی را روشن کرد، به‌روزرسانی رویکرد خود برای برچسب‌گذاری محتوای تولید شده با هوش مصنوعی را به اشتراک گذاشت. او خاطرنشان کرد که داده های آموزشی یکی از مزیت های مهم متا است. این شرکت تخمین می زند که عکس ها و ویدیوهای به اشتراک گذاشته شده در فیس بوک و اینستاگرام به مجموعه داده ای بزرگتر از Common Crawl است. این مجموعه داده ای از حدود 250 میلیارد صفحه وب است که برای آموزش سایر مدل های هوش مصنوعی استفاده شده است. متا می‌تواند از هر دو استفاده کند و نیازی نیست داده‌هایی را که از طریق فیسبوک و اینستاگرام جمع‌آوری کرده است با دیگران به اشتراک بگذارد.
تعهد به برچسب گذاری گسترده تر به محتوای تولید شده توسط هوش مصنوعی نیز تنها یک روز پس از آن صورت می گیرد که هیئت نظارت متا تشخیص داد که ویدیویی که به طور گمراه کننده ای ویرایش شده بود تا نشان دهد رئیس جمهور جو بایدن به طور مکرر سینه نوه اش را لمس کرده است، می تواند روی سکوهای شرکت باقی بماند. در واقع، پس از اینکه بایدن برای اولین بار شخصاً رای داد، به سادگی برچسب “من رای دادم” را روی پیراهنش گذاشت. هیئت مدیره تشخیص داد که این ویدیو بر اساس قوانین متا در مورد رسانه های دستکاری شده مجاز است، اما از شرکت خواست تا این دستورالعمل های جامعه را به روز کند.
