Midjourney، یک تولید کننده تصویر محبوب مبتنی بر هوش مصنوعی، علیرغم اینکه گفته بود کاربران را از انجام این کار در اوایل سال جاری و پیش از انتخابات ریاست جمهوری آتی ایالات متحده جلوگیری می کند، در حال ایجاد تصاویری از دونالد ترامپ و جو بایدن است.
زمانی که Engadget از سرویس خواست تا تصویری از “رئیس جمهور ایالات متحده” ایجاد کند، Midjourney چهار تصویر به سبک های مختلف از دونالد ترامپ رئیس جمهور سابق آمریکا تولید کرد.
وقتی از این ابزار خواسته شد تا تصویری از “رئیس جمهور بعدی ایالات متحده” ایجاد کند، این ابزار چهار تصویر از ترامپ نیز ایجاد کرد.
هنگامی که Engadget از Midjourney خواست تا تصویری از “رئیس جمهور فعلی ایالات متحده” بسازد، این سرویس سه تصویر از ترامپ و یک تصویر از باراک اوباما، رئیس جمهور سابق ایجاد کرد.
تنها زمانی که Midjourney از ایجاد تصویری از ترامپ یا بایدن امتناع کرد، زمانی بود که به صراحت از او خواسته شد تا این کار را انجام دهد. این سرویس در آن نمونه گفت: «جامعه Midjourney به جلوگیری از استفاده از «دونالد ترامپ» و «جو بایدن» در طول فصل انتخابات رأی داد. سایر کاربران X توانستند Midjourney را برای تولید تصاویر ترامپ نیز جذب کنند.
آزمایش‌ها نشان می‌دهد که نرده‌های محافظ Midjourney برای جلوگیری از تولید تصاویر ترامپ و بایدن در آستانه انتخابات ریاست‌جمهوری آتی آمریکا کافی نیست – در واقع، دور زدن آنها برای مردم بسیار آسان است. چت‌ربات‌های دیگر مانند ChatGPT OpenAI، مایکروسافت Copilot، Google's Gemini و Meta AI علیرغم درخواست‌های متعدد، تصاویری از ترامپ یا بایدن ایجاد نکردند.
Midjourney به درخواست برای اظهار نظر از طرف Engadget پاسخ نداد.
Midjourney یکی از اولین تولیدکنندگان تصویر مبتنی بر هوش مصنوعی بود که به صراحت کاربران را از تولید تصاویر ترامپ و بایدن منع کرد. دیوید هولز، مدیرعامل این شرکت در اوایل سال جاری در یک جلسه چت در Discord به کاربران گفت: «می‌دانم ساختن تصاویر ترامپ سرگرم‌کننده است – من تصاویر ترامپ را می‌سازم». با این حال، احتمالاً بهتر است که نه – بهتر است در طول این انتخابات کمی کنار بکشیم. خواهیم دید.” یک ماه بعد، طبق گزارش ها، هولز به کاربران گفت که زمان آن رسیده است که «کمی روی چیزهای مربوط به انتخابات دست بگذارند» و اعتراف کرد که «این موارد اعتدال به نوعی سخت است». قوانین محتوای موجود این شرکت، ایجاد «شخصیت‌های عمومی گمراه‌کننده» و «تصویر رویدادها» را با «پتانسیل گمراه‌کردن» ممنوع می‌کند.
سال گذشته، از Midjourney برای ایجاد تصویری جعلی از پاپ بندیکت استفاده شد که یک کت سفید پف دار Balenciaga پوشیده بود که در فضای مجازی منتشر شد. همچنین برای ایجاد تصاویر جعلی از ترامپ که قبل از محاکمه در دادگاه کیفری منهتن در سال گذشته به دلیل دست داشتن در پرداخت پولی که به ستاره فیلم های بزرگسالان استورمی دانیلز پرداخت شده بود، استفاده شد. مدت کوتاهی پس از آن، شرکت آزمایش‌های رایگان این سرویس را متوقف کرد و در عوض، افراد را ملزم به پرداخت حداقل 10 دلار در ماه برای استفاده از آن کرد.
ماه گذشته، مرکز مقابله با نفرت دیجیتال، یک سازمان غیرانتفاعی که هدف آن جلوگیری از انتشار اطلاعات نادرست و سخنان نفرت‌انگیز آنلاین است، دریافت که حفاظ‌های Midjourney در برابر تولید تصاویر گمراه‌کننده از سیاستمداران محبوب از جمله ترامپ و بایدن در 40 درصد آزمایش‌های خود شکست خورده است. CCDH توانست از Midjourney برای ایجاد تصویری از رئیس جمهور بایدن در حال دستگیری و ظاهر شدن ترامپ در کنار یک جسد استفاده کند. CCDH همچنین توانست با استفاده از توصیف ظاهر فیزیکی هر نامزد به جای نام آنها برای تولید تصاویر گمراه کننده، حفاظ های Midjourney را دور بزند.
عمران احمد، مدیرعامل CCDH در آن زمان در بیانیه‌ای نوشت: «میان‌سفر در عمل بسیار آسان‌تر از آن است که بتوان آن را دستکاری کرد – در برخی موارد تنها با افزودن علائم نگارشی برای عبور از شبکه، کاملاً از آن اجتناب می‌شود. «بازیگران بدی که می خواهند انتخابات را زیر پا بگذارند و تفرقه، سردرگمی و هرج و مرج بکارند، روز میدانی خواهند داشت که به ضرر همه کسانی است که به دموکراسی های سالم و کارآمد متکی هستند.
در اوایل سال جاری، ائتلافی از 20 شرکت فناوری از جمله OpenAI، گوگل، متا، آمازون، ادوبی و ایکس توافقنامه‌ای امضا کردند تا از طریق جلوگیری از تولید تصاویر و رسانه‌های دیگر که می‌توانند از طریق سرویس‌هایشان از ایجاد تصاویر و سایر رسانه‌هایی که می‌توانند در انتخابات سال 2024 برگزار می‌شوند، جلوگیری کنند. رای دهندگان را تحت تاثیر قرار دهد. Midjourney در آن لیست غایب بود.
