در حالی که گوگل شروع به در دسترس قرار دادن جدیدترین ابزارهای تولید ویدئوی خود می کند، این شرکت می گوید که برنامه ای برای اطمینان از شفافیت در مورد منشاء کلیپ های واقع گرایانه تولید شده توسط هوش مصنوعی خود دارد. تمام ویدیوهای ساخته شده توسط مدل جدید Veo این شرکت در برنامه VideoFX به لطف سیستم SynthID گوگل دارای واترمارک دیجیتال خواهند بود. علاوه بر این، SynthID می‌تواند متن تولید شده توسط هوش مصنوعی را که از Gemini می‌آید، واترمارک کند.
SynthID سیستم واترمارکینگ دیجیتال گوگل است که از سال گذشته شروع به انتشار روی تصاویر تولید شده توسط هوش مصنوعی کرد. این فناوری واترمارک های نامحسوس را در محتوای ساخته شده با هوش مصنوعی تعبیه می کند تا ابزارهای تشخیص هوش مصنوعی بتوانند تشخیص دهند که محتوا توسط هوش مصنوعی تولید شده است. با توجه به اینکه Veo، آخرین مدل تولید ویدیوی این شرکت که روی صحنه در I/O پیش‌نمایش شده است، می‌تواند کلیپ‌های طولانی‌تر و با وضوح بالاتری نسبت به آنچه قبلا امکان‌پذیر بود ایجاد کند، ردیابی منبع چنین محتوایی بسیار مهم خواهد بود.
با پیشرفت مدل‌های هوش مصنوعی، شرکت‌های بیشتری به دلیل ترس از اینکه هوش مصنوعی می‌تواند موج جدیدی از اطلاعات نادرست را تحریک کند، به واترمارک روی آورده‌اند. سیستم های واترمارک به پلتفرم هایی مانند گوگل چارچوبی برای تشخیص محتوای تولید شده توسط هوش مصنوعی می دهد که در غیر این صورت تشخیص آن غیرممکن است. TikTok و Meta همچنین اخیراً برنامه‌هایی برای پشتیبانی از ابزارهای شناسایی مشابه در پلتفرم‌های خود و برچسب‌گذاری محتوای بیشتر هوش مصنوعی در برنامه‌های خود اعلام کرده‌اند.
البته هنوز سؤالات مهمی در مورد اینکه آیا واترمارک های دیجیتال به تنهایی محافظت کافی در برابر محتوای فریبنده هوش مصنوعی ارائه می دهند وجود دارد. محققان نشان داده اند که می توان به راحتی از واترمارک ها فرار کرد. اما ساختن محتوای ساخته شده با هوش مصنوعی به نحوی قابل شناسایی اولین گام مهم به سمت شفافیت است.
همه اخبار مربوط به Google I/O 2024 را به درستی دنبال کنید اینجا!
