با ظهور ابزارهای هوش مصنوعی که می توانند به سرعت تصاویر و ویدیوهای اصلاح شده ایجاد کنند، ساخت تصاویر جعلی برای انتشار اطلاعات غلط سیاسی که منجر به انتخابات ریاست جمهوری آینده آمریکا می شود، آسان تر از همیشه شده است. راه حل Midjourney برای آن ممکن است ممنوعیت کلی تصاویر سیاسی باشد بلومبرگ. دیوید هولز، مدیر عامل Midjourney، بنا به گزارش ها، در طول یک جلسه چت در Discord به کاربران گفت که این شرکت به ممنوعیت تصاویری مانند تصاویر بایدن و ترامپ در 12 ماه آینده نزدیک است.
او به کاربرانی که در جلسه حضور داشتند گفت: «می‌دانم ساختن عکس‌های ترامپ سرگرم‌کننده است – من عکس‌های ترامپ را می‌سازم». ترامپ از نظر زیبایی شناختی واقعاً جالب است. با این حال، احتمالاً بهتر است که نه – بهتر است در طول این انتخابات کمی خود را کنار بکشیم. خواهیم دید. مانند بلومبرگ اشاره می‌کند، مردم قبلاً از هوش مصنوعی این شرکت برای تولید دیپ‌فیک‌هایی از دستگیری ترامپ استفاده کرده بودند. این شرکت پس از آن که این تصاویر – همراه با دیپ فیک های بدنام پاپ که کت الهام گرفته از Balenciaga پوشیده بود – به آزمایش های رایگان برای تولید کننده تصویر هوش مصنوعی خود پایان داد.
در حال حاضر، این شرکت قوانینی دارد که ایجاد “شخصیت های عمومی گمراه کننده” و “تصویر رویدادها” را با “پتانسیل گمراه کردن” ممنوع می کند. بلومبرگ با این حال، هنوز می‌توانست با استفاده از نسخه قدیمی‌تر سیستم Midjourney، تصاویر تغییر یافته‌ای از ترامپ که با اسپاگتی پوشانده شده بود ایجاد کند، در حالی که نسخه جدیدتر از ایجاد تصاویر تغییر یافته از رئیس‌جمهور سابق خودداری کرد. البته، حتی اگر Midjourney تصاویر سیاستمداران برجسته را ممنوع کند، تنها از پلتفرم خود در برابر جلب خشم منتقدان و تبدیل شدن به مرکز توجه در این فصل انتخابات محافظت می کند. این مانع از استفاده از ابزارهای هوش مصنوعی در کمپین های اطلاعات نادرست سیاسی یا انتشار اطلاعات جعلی به منظور دستکاری در انتخابات به عنوان یک کل نخواهد شد.
سایر شرکت‌های فناوری نیز اقداماتی را برای کمک به جلوگیری از اطلاعات نادرست سیاسی یا حداقل کمک به شناسایی آسان‌تر آن انجام داده‌اند. ChatGPT به زودی برچسب گذاری تصاویر ایجاد شده با استفاده از DALL-E 3 را آغاز می کند، در حالی که متا در حال توسعه فناوری است که می تواند تشخیص دهد و نشان دهد که آیا یک تصویر، ویدئو یا کلیپ صوتی با استفاده از هوش مصنوعی تولید شده است یا خیر.
