В Roblox начали тестировать систему, автоматически редактирующую текст сообщений игроков в реальном времени

Игра Roblox после запретов во многих странах тестирует новую систему модерации на базе ИИ, которая меняет текст сообщений игроков до того, как их увидит другой пользователь.

Алгоритм анализирует сообщения в реальном времени и автоматически редактирует их. Он может исправлять опечатки, удалять обходы фильтров, заменять отдельные слова и фразы на более нейтральные или вежливые. В итоге получатель может увидеть уже измененную версию сообщения, а не оригинальный текст.

Разработчики объясняют, что система должна бороться с токсичным поведением и деструктивным контентом.

Критики отмечают, что такая технология фактически меняет смысл общения между игроками: платформа начинает решать, что пользователь "имел в виду", а не просто удаляет запрещенные слова, как происходит сейчас. По их мнению, это может привести к искажению сообщений и к ситуации, когда люди общаются уже не напрямую, а через алгоритм.

Читайте ещё:Роскомнадзор нашeл «стопроцентный» способ блокировки Telegram