بر اساس گزارشی که از سوی دولت نیویورک منتشر شده است، یک ربات چت هوش مصنوعی که توسط دولت شهر نیویورک برای کمک به صاحبان مشاغل برای دسترسی به اطلاعات مربوطه منتشر شده است، دروغ‌های نادرست را منتشر می‌کند، حتی گاهی اوقات اطلاعات نادرست کاربران را در مورد اقدامات خلاف قانون ارائه می‌کند. . این گزارش که به صورت مشترک با اتاق های خبری غیرانتفاعی محلی منتشر شده است ثبت شده و شهر، شامل نمونه های متعددی از عدم دقت در پاسخ های چت بات به سؤالات مربوط به سیاست های مسکن، حقوق کارگران و موضوعات دیگر است.
مدیریت شهردار آدامز در ماه اکتبر به‌عنوان افزونه‌ای به پورتال MyCity، که به‌عنوان یک فروشگاه یک‌جا برای خدمات و مزایای شهری است. ربات چت که توسط هوش مصنوعی Azure مایکروسافت پشتیبانی می‌شود، برای صاحبان کسب‌وکار فعلی و مشتاق طراحی شده است و به عنوان منبعی از “اطلاعات قابل اعتماد و قابل اعتماد” که مستقیماً از سایت‌های دولت شهر می‌آیند، نام‌گذاری شده است. اما این یک برنامه آزمایشی است و یک سلب مسئولیت در وب سایت اشاره می کند که “ممکن است گاهی اوقات محتوای نادرست، مضر یا مغرضانه تولید کند.”
که در نشانه گذاریدر آزمایشات، چت بات بارها اطلاعات نادرستی ارائه کرد. در پاسخ به این سؤال که «آیا می‌توانم فروشگاه خود را بدون پول نقد کنم؟»، به عنوان مثال، پاسخ داد: «بله، شما می‌توانید فروشگاه خود را بدون نقد در نیویورک سیتی انجام دهید» – علیرغم اینکه شهر نیویورک فروشگاه‌های بدون نقد را در سال 2020 ممنوع کرده است. این گزارش نشان می‌دهد که ربات چت همچنین در مورد اینکه آیا کارفرمایان می‌توانند راهنمایی‌های کارگران خود را بپذیرند، آیا صاحبخانه‌ها باید کوپن‌های بخش 8 یا مستاجران را برای کمک‌های اجاره بپذیرند، و اینکه آیا کسب‌وکارها باید کارکنان را از تغییرات برنامه‌ریزی مطلع کنند، پاسخ نادرستی داده است. یک کارشناس سیاست مسکن که با نشانه گذاری ربات چت را در بدترین حالت خود “به طرز خطرناکی نادرست” خواند.
شهر نشان داده است که چت بات هنوز در حال پیشرفت است. در بیانیه ای به نشانه گذاریلزلی براون، سخنگوی دفتر فناوری و نوآوری نیویورک، گفت ربات چت «در حال حاضر به هزاران نفر پاسخ های به موقع و دقیق ارائه کرده است»، اما افزود: «ما به تمرکز بر ارتقای این ابزار ادامه خواهیم داد تا بتوانیم بهتر شویم. از مشاغل کوچک در سراسر شهر حمایت کنید.»
