گوگل روز پنجشنبه اعلام کرد که توانایی چت ربات Gemini خود برای تولید افراد را متوقف می کند. این اقدام پس از آن صورت گرفت که پست‌های اجتماعی ویروسی نشان داد که ابزار هوش مصنوعی برای تنوع بیش از حد تصحیح می‌کند و تصاویری «تاریخی» از نازی‌ها، بنیانگذاران آمریکا و پاپ به عنوان رنگین پوستان تولید می‌کند.
“ما در حال حاضر در حال کار برای رفع مشکلات اخیر با ویژگی تولید تصویر Gemini هستیم.” ارسال شده در X (از طریق مجله نیویورک تایمز). در حالی که این کار را انجام می دهیم، تولید تصویر افراد را متوقف می کنیم و به زودی نسخه بهبود یافته را دوباره منتشر خواهیم کرد.
کاربر X @JohnLu0x ارسال شده اسکرین شات از نتایج Gemini برای اعلان “تصویری از سرباز آلمانی 1943 ایجاد کنید.” (املای اشتباه آنها از “سرباز” عمدی بود تا هوش مصنوعی را فریب دهد تا فیلترهای محتوای خود را دور بزند تا تصاویر نازی های مسدود شده را ایجاد کند.) به نظر می رسد نتایج تولید شده سربازان سیاه پوست، آسیایی و بومی را نشان می دهد که یونیفورم نازی پوشیده اند.
سایر کاربران اجتماعی از Gemini به دلیل تولید تصاویر برای این درخواست انتقاد کردند: “یک عکس جذاب از یک زوج (قومیت) ایجاد کنید.” هنگام استفاده از اعلان‌های «چینی»، «یهودی» یا «آفریقای جنوبی» با موفقیت تصاویر را بیرون می‌آورد اما از ارائه نتایج برای «سفید» خودداری می‌کرد. جمینی به درخواست اخیر پاسخ داد: «به دلیل احتمال تداوم کلیشه‌های مضر و تعصبات مرتبط با قومیت‌ها یا رنگ پوست خاص، نمی‌توانم درخواست شما را برآورده کنم.
«جان ال.» که به شروع واکنش کمک کرد، نظریه پردازی می کند که گوگل یک راه‌حل خوش‌منظور اما با تنبلی برای یک مشکل واقعی اعمال کرد. کاربر پست کرد: «سیستم آنها برای افزودن تنوع به تصویر افراد خیلی هوشمندانه نیست (در نقش‌های تاریخی مردانه مانند پاپ، جنسیت را در نظر نمی‌گیرد، در تصویرهای تاریخی یا ملی، نژاد را در نظر نمی‌گیرد). پس از اینکه تیپ ضد «بیدار» اینترنت روی پست‌های آنها چسبید، کاربر توضیح داد که از نمایش‌های متنوع پشتیبانی می‌کنند، اما معتقدند «حرکت احمقانه» گوگل این بود که نتوانست این کار را «به روشی ظریف» انجام دهد.
قبل از توقف توانایی Gemini برای تولید افراد، گوگل نوشت: «ما در حال کار برای بهبود فوری این نوع تصاویر هستیم. تولید تصویر Al Gemini طیف وسیعی از افراد را ایجاد می کند. و این به طور کلی چیز خوبی است زیرا مردم در سراسر جهان از آن استفاده می کنند. اما اینجا علامتش را از دست داده است.»
این اپیزود را می‌توان به‌عنوان یک تماس (بسیار کمتر ظریف) به راه‌اندازی Bard در سال 2023 در نظر گرفت. چت ربات هوش مصنوعی اولیه گوگل زمانی که یک تبلیغ برای ربات چت در توییتر (اکنون X) حاوی یک “واقعیت” نادرست در مورد آن بود، شروعی دشوار داشت. تلسکوپ فضایی جیمز وب
همانطور که گوگل اغلب انجام می دهد، بارد را تغییر نام داد به این امید که شروعی تازه به آن بدهد. همزمان با به‌روزرسانی بزرگ عملکرد و ویژگی‌ها، این شرکت در اوایل ماه جاری نام چت بات Gemini را تغییر داد، زیرا شرکت در رقابت با ChatGPT و Microsoft Copilot OpenAI است – که هر دو یک تهدید وجودی برای موتور جستجوی آن (و بنابراین، تبلیغات هستند) درآمد).
