روبلاکس با هوش مصنوعی فحش را به جای سانسور، بازنویسی می‌کند

روبلاکس، پلتفرم محبوب بازی آنلاین، قابلیت جدیدی مبتنی بر هوش مصنوعی معرفی کرده که به جای جایگزینی پیام‌های حاوی فحش با کاراکترهای «####»، محتوای آن‌ها را به شکلی مودبانه بازنویسی می‌کند. این سیستم که «بازنویسی چت در زمان واقعی» نام دارد، با همکاری شورای نوجوانان پلتفرم توسعه یافته و هدف آن حفظ جریان طبیعی گفت‌وگو در حین بازی، همراه با رعایت استانداردهای جامعه روبلاکس است.

نکات کلیدی

– روبلاکس پیام‌های حاوی فحش را با هوش مصنوعی بازنویسی می‌کند، نه اینکه آن‌ها را به صورت «####» سانسور کند.
– هدف اصلی حفظ خوانایی مکالمات در حین بازی و هدایت زبان به سمت محتوای مناسب است.
– این قابلیت فقط در چت بین کاربران تأیید‌سن‌شده در گروه‌های سنی مشابه فعال است.
– سیستم فیلتر متن پلتفرم نیز برای شناسایی بهتر تلاش‌های دور زدن قوانین، مانند leetspeak، ارتقا یافته است.
– روبلاکس تأکید دارد که بازنویسی یک پیام، به معنای تخطی نکردن آن از قوانین نیست و کاربر متخلف با عواقب مشابه روبرو می‌شود.
– این حرکت بخشی از روند گسترده‌تر استفاده از هوش مصنوعی برای نظارت بر رفتار بازیکنان در صنعت بازی است.
– قابلیت بازنویسی از تمام زبان‌های پشتیبانی‌شده توسط ابزار ترجمه خودکار روبلاکس پشتیبانی می‌کند.

پایان عصر سانسور با کاراکترهای نامفهوم

روبلاکس به‌عنوان یکی از پلتفرم‌های پیشرو در حوزه بازی‌های آنلاین و اجتماعی، همیشه بر ایجاد محیطی امن و مناسب برای کاربران جوان خود تأکید داشته است. سیستم فیلتر چت این پلتفرم، سال‌هاست که پیام‌های حاوی فحش یا محتوای نامناسب را شناسایی و با رشته‌ای از کاراکترهای «####» جایگزین می‌کرد. اگرچه این روش در مهار محتوای مضر مؤثر بود، اما یک مشکل بزرگ داشت: مکالمات در حین بازی را گاهی غیرقابل دنبال کردن می‌کرد.

اکنون روبلاکس با معرفی قابلیت «بازنویسی چت در زمان واقعی» این مشکل را هدف گرفته است. بر اساس اعلام رسمی شرکت، این سیستم مبتنی بر هوش مصنوعی، به جای پنهان کردن کامل پیام، بخش‌های متخلف آن را شناسایی و بازنویسی می‌کند. برای مثال، پیامی مانند «Hurry TF up!» که قبلاً به صورت «####» نمایش داده می‌شد، اکنون به «Hurry up!» تغییر می‌یابد.

هدف: حفظ جریان گفت‌وگو و هدایت به سمت ادب

راجیو بهاتیا، معاون بخش محصول کاربر و اکتشاف روبلاکس، در بیانیه‌ای توضیح داد که چت هسته مرکزی ارتباط، هماهنگی و بازی در این پلتفرم است. رویکرد جدید با جایگزینی «علائم توقف» با کلمات واقعی، نه‌تنها بازی و مکالمات را در مسیر خود نگه می‌دارد، بلکه زبان کاربران را به سمت محتوای مناسب هدایت می‌کند.

این حرکت، ادامه‌دهنده سیاست‌های قبلی روبلاکس برای مدیریت بهتر فضای گفت‌وگو است. در می ۲۰۲۵، این پلتفرم قابلیت اخطار در زمان واقعی را معرفی کرده بود که هنگام احتمال تخلف یک پیام از قوانین، به کاربر هشدار می‌داد و او را به بازنگری در عبارت تشویق می‌کرد. آزمایش‌های سال گذشته نشان داد که این اخطارها و وقفه‌های کوتاه در چت متنی، منجر به کاهش ۵ درصدی پیام‌های فیلترشده و کاهش ۶ درصدی عواقب ناشی از گزارش‌های سوءاستفاده شده است.

قوانین سختگیرانه تغییری نکرده‌اند

روبلاکس به‌وضوح تأکید کرده که معرفی این قابلیت به معنای سهل‌گیری در اجرای قوانین نیست. بهاتیا در یک بیانیه جداگانه تصریح کرد که وقتی پیامی بازنویسی می‌شود، همچنان یک تخلف محسوب می‌شود و قوانین یکسان اعمال خواهد شد. کاربری که به تلاش برای استفاده از فحش در چت ادامه دهد، با همان عواقب تکرار تخلف مواجه می‌شود.

این سیستم بازنویسی، فعلاً تنها در چت‌های بین کاربران تأیید‌سن‌شده در گروه‌های سنی مشابه در دسترس است. برای اطمینان از تطابق سیستم با زبان و ادبیات واقعی نوجوانان، روبلاکس این قابلیت را با همکاری اعضای «شورای نوجوانان» خود توسعه داده است. همچنین، سیستم از تمام زبان‌هایی که توسط ابزار ترجمه خودکار روبلاکس پشتیبانی می‌شوند، پشتیبانی می‌کند.

ارتقای سیستم فیلتر و روندی صنعتی

همزمان با معرفی این قابلیت، روبلاکس در حال ارتقای سیستم فیلتر متن خود برای شناسایی بهتر تلاش‌های کاربران برای دور زدن قوانین است. این شامل شناسایی تغییرات زبان مانند جایگزینی اعداد یا نمادها با حروف، که به آن leetspeak می‌گویند، نیز می‌شود.

حرکت روبلاکس بخشی از یک روند گسترده‌تر در صنعت بازی است. شرکت‌های بازی‌سازی به‌طور فزاینده‌ای از هوش مصنوعی برای نظارت بر رفتار بازیکنان در بازی‌های چندنفره استفاده می‌کنند. به عنوان نمونه، Activision در سال ۲۰۲۴ اعلام کرد که پس از استقرار سیستم نظارت مبتنی بر هوش مصنوعی خود به نام ToxMod در چندین عنوان Call of Duty، بیش از ۲ میلیون حساب کاربری به دلیل چت‌های مختل‌کننده علامت‌گذاری شدند. این ابزار به کاهش مجرمان مکرر و موارد شدید چت صوتی نامناسب کمک کرد.

آینده‌ای از ارتباطات فراگیر و مودبانه

روبلاکس در ماه‌های اخیر استفاده از هوش مصنوعی را در پلتفرم خود گسترش داده است. در فوریه ۲۰۲۴، این شرکت قابلیت ترجمه چت در زمان واقعی با هوش مصنوعی را معرفی کرد که به بازیکنان امکان می‌دهد در چت روبلاکس به بیش از ۱۶ زبان مختلف با یکدیگر ارتباط برقرار کنند.

بهاتیا درباره قابلیت بازنویسی جدید اعتراف کرد که این یک رویکرد جسورانه جدید است و آن‌ها همیشه همه چیز را به‌طور کامل بازنویسی نخواهند کرد. هدف نهایی، توانمندسازی کاربران برای همکاری و ارتباط در قالبی هم‌زمان سرگرم‌کننده و محترمانه است. روبلاکس قصد دارد به‌طور مستمر از این ویژگی یاد بگیرد و آن را آزمایش کند تا تجربه بهتری برای جامعه عظیم کاربران خود فراهم آورد.