جدا از به‌روزرسانی قوانین، Discord اخیراً یک ابزار Family Center را راه‌اندازی کرده است که والدین می‌توانند از آن برای نظارت بر فعالیت فرزندان خود در سرویس چت استفاده کنند. در حالی که والدین نمی توانند محتوای واقعی پیام فرزندان خود را ببینند، ابزار انتخاب کردن به آنها اجازه می دهد تا ببینند فرزندانشان با چه کسانی دوست هستند و با چه کسانی در پلت فرم صحبت می کنند. Discord امیدوار است که این اقدامات و ابزارهای جدید بتواند در کنار اقدامات قدیمی خود، که شامل اسکن فعالانه تصاویر آپلود شده در پلتفرم خود با استفاده از PhotoDNA است، کاربران زیر سن را ایمن نگه دارد.
پس از انتشار گزارش‌هایی مبنی بر اینکه شکارچیان از این برنامه برای ایجاد و گسترش مواد سوء استفاده جنسی از کودکان (CSAM) و همچنین برای پرورش نوجوانان جوان استفاده می‌کنند، Discord خط‌مشی خود را برای محافظت از کودکان و نوجوانان در پلتفرم خود به‌روزرسانی کرده است. این پلتفرم اکنون صراحتاً CSAM فوتورئالیستی تولید شده توسط هوش مصنوعی را ممنوع می کند. مانند واشنگتن پست اخیرا گزارش شده است، افزایش هوش مصنوعی مولد همچنین منجر به انفجار تصاویر واقعی با تصاویر جنسی کودکان شده است. این نشریه مکالماتی را در مورد استفاده از Midjourney – یک هوش مصنوعی تولیدکننده متن به تصویر در Discord – برای ایجاد تصاویر نامناسب از کودکان دیده بود.
علاوه بر ممنوعیت CSAM تولید شده توسط هوش مصنوعی، Discord اکنون صراحتاً هر نوع محتوای متنی یا رسانه ای دیگری را که کودکان را مورد جنسیت قرار می دهد، ممنوع می کند. این پلتفرم سرورهای دوستیابی نوجوانان را نیز ممنوع کرده است و متعهد شده است که علیه کاربرانی که این رفتار را انجام می دهند، اقدام کند. قبلی NBC News تحقیقات نشان داد که سرورهای Discord به عنوان سرورهای دوستیابی نوجوانان با شرکت کنندگانی که تصاویر برهنه را از خردسالان درخواست می کردند تبلیغ می شد.
مرکز خانواده Discord یک ابزار انتخاب جدید است که به نوجوانان کمک می کند تا والدین و سرپرستان خود را از فعالیت Discord خود آگاه کنند و در عین حال به استقلال خود احترام بگذارند. pic.twitter.com/UFY0ybo0LR
– اختلاف (@discord) 11 جولای 2023
کاربران بزرگسال قبلاً به دلیل نظافت کودکان در Discord تحت پیگرد قانونی قرار گرفته بودند، و حتی باندهای جنایی وجود دارد که از کاربران زیر سن قانونی اخاذی می کنند تا تصاویر جنسی خود را ارسال کنند. ممنوع کردن کامل سرورهای دوستیابی نوجوانان می تواند به کاهش این مشکل کمک کند. Discord همچنین خطی را در خط‌مشی خود گنجانده است که بیان می‌کند نوجوانان مسن‌تر که در حال نظافت نوجوانان جوان‌تر هستند، «بررسی و تحت عمل قرار خواهند گرفت. [its] رفتار جنسی نامناسب با کودکان و سیاست نظافت.»
