Компанія Roblox оголосила, що запускає функцію перефразування чату в режимі реального часу на базі штучного інтелекту, яка автоматично замінює заборонені слова більш шанобливим висловлюванням.

Нова функція виходить за рамки поточного текстового фільтра Roblox, який просто замінює заборонені слова та фрази символом «#». Але Roblox стверджує, що коли користувачі стикаються з рядками «####», розмови можуть бути перервані та їх важко відстежувати.

Тепер, замість простого відображення хеш-позначок, відфільтрований текст буде перефразовано більш шанобливим мовою, яка буде ближчою до початкового наміру користувача.

Наприклад, повідомлення «Швидше, TF up!» раніше відображалося як «####», але тепер буде перефразовано на «Швидше!». Усі учасники чату отримують сповіщення про те, що повідомлення було перефразовано, щоб розмова залишалася цивілізованою, каже Roblox.

«Чат є центральним елементом того, як люди спілкуються, координують дії та грають у Roblox», — сказав у прес-релізі Раджив Бхатія, віцепрезидент із продуктів для користувачів та пошуку в Roblox . «Перефразування в режимі реального часу допомагає підтримувати ігровий процес та розмови в руслі, одночасно спрямовуючи мову до того, що є доречним. Такий підхід зменшує тертя в чаті, зберігаючи при цьому стандарти, які допомагають підтримувати цивілізованість нашої спільноти».

Roblox зазначає, що хоча перефразування зменшує деякі перешкоди в чаті, його система безпеки залишається чинною для більш серйозної поведінки. 

Нова функція підтримується всіма мовами, доступними наразі через інструменти автоматичного перекладу Roblox.

Компанія також модернізує систему фільтрації тексту, щоб виявляти більше варіантів забороненої мови. Roblox стверджує, що ранні результати показують, що система стає кращою у виявленні літспіку та робить більш складні спроби обійти фільтри. Це дозволило компанії зменшити поширеність хибнонегативних результатів під час обміну або запиту особистої інформації у 20 разів.

Оголошення у четвер з’явилося невдовзі після того, як Roblox  запровадила обов’язкову верифікацію обличчя  для доступу до чатів на своїй платформі після хвилі позовів щодо безпеки дітей від генеральних прокурорів Техасу , Кентуккі та  Луїзіани , серед інших. Позови були подані  у відповідь на повідомлення про те  , що  Roblox наражав молодих користувачів  на небезпечні ризики, такі як ґрумінг та відвертий контент.