Популярная игра Spray Paint на платформе Roblox используется для распространения языка ненависти и оскорбительных символов. Зафиксировано десятки случаев обхода модерации, несмотря на усилия компании усилить безопасность. Об этом сообщает Latvia Today.
Разжигание ненависти в игре на платформе Roblox
Как сообщается, игра Spray Paint на платформе Roblox, в которой пользователи катаются на скейтбордах и создают граффити в виртуальном скейт-парке, набрала более 1 миллиарда посещений. Однако некоторые лица могут обойти модерацию, рисуя оскорбительные послания распылителем на стенах, рампах и других виртуальных игровых объектах, как показало расследование журналистов.
В ходе расследования были задокументированы десятки изображений свастики и как минимум десяток случаев разжигания ненависти против национальных меньшинств на серверах Spray Paint, где проводятся многопользовательские игры.
Адвокат Мэтью Долман сообщил, что в настоящее время рассматривается не менее 18 исков против Roblox из-за нежелательного контента, обнаруженного в играх компании.
В заявлении Roblox указано, что круглосуточная система модерации внимательно следит за платформой. Компания утверждает, что принимает оперативные меры в отношении любого контента или пользователей, которые нарушают правила.
С чем сталкиваются дети на онлайн-платформе
По мнению экспертов, злоумышленники могут мониторить Roblox и другие подобные игровые платформы, чтобы вербовать молодых игроков в экстремистские группы или заниматься сексуальной эксплуатацией.
Согласно данным Комиссии по ценным бумагам и биржам США за 2024 год, более половины игроков Roblox — дети и подростки, а около 40% из них — младше 13 лет. В среднем Roblox ежедневно привлекает 97,8 миллиона активных пользователей.
Функция чата Roblox, доступная в некоторых играх, имеет систему фильтрации, которая предотвращает отображение нежелательного контента, к примеру, дискриминационных высказываний. Однако в Spray Paint игроки могут обойти механизмы фильтрации, создав текст с помощью игровой функции рисования, в отличие от чата, где контент фильтруется.
При регистрации в Roblox пользователи должны указать дату своего рождения, но платформа не требует аутентификации, поэтому взрослые могут выдавать себя за детей, а дети — за людей старше своего возраста.
Дети могут общаться с другими игроками через голосовой чат, минимальный возраст для которого составляет 13 лет, но подтверждение возраста также не требуется.
Как реагирует платформа Roblox на разжигание ненависти
Компания Roblox утверждает, что внедрила программу доверенных сигнализаторов, позволяющую партнерам сообщать о террористическом контенте с целью прекратить распространение языка ненависти.
На сайте Roblox сообщается, что контент, загружаемый для использования в играх, проходит многоступенчатую проверку на наличие материалов, содержащих сцены сексуального насилия над детьми или другого неприемлемого контента.
Если контент обнаруживается как потенциально связанный с сексуальным насилием над детьми, Roblox направляет информацию в Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC).
Компания утверждает, что разработала систему искусственного интеллекта, которая позволила подать в NCMEC около 1,2 тысячи сообщений о потенциальных попытках эксплуатации детей. В прошлом году Roblox подала в NCMEC всего 24 522 сообщения.
Roblox заявляет о наличии команды специалистов, которая постоянно оценивает отмеченные игры, и призывает пользователей сообщать о подобной активности. Кроме того, пользователи Spray Paint могут играть в безопасном режиме, который позволяет просматривать только работы, созданные игроками из списка друзей в приложении.
Представитель Roblox отметил, что ни одна система не является идеальной, но компания внедрила меры безопасности, включая ограничения на обмен личной информацией, ссылками и изображениями между пользователями, а также родительский контроль и маркировку контента, соответствующего возрасту.
Несмотря на усилия по борьбе с экстремизмом и защиту молодых игроков, иностранные эксперты и журналисты обнаружили, что меры защиты в игре, как и прежде, легко обойти.
