A plataforma de jogos FOCUS-Kids Roblox enfrenta obstáculos antes da listagem pública: palavras ásperas

Impulsionado por jogos criados por usuários, Roblox entrou com um pedido na noite de quinta-feira para uma estreia multibilionária no mercado de ações, aproveitando o boom de entretenimento de bloqueio com seu apelo como um lugar para diversão segura e interações para os jogadores mais jovens. Mas grupos de pais e investidores disseram estar preocupados se os sistemas automatizados da empresa para moderar o conteúdo podem excluir efetivamente linguagem e imagens potencialmente ofensivas que surgem na plataforma.



Palavrões e outros conteúdos ofensivos que as ferramentas básicas de filtragem de palavras foram projetadas para capturar podem ser encontrados em alguns títulos de jogos e perfis de usuário na plataforma de jogos infantis Roblox, pesquisas no site mostram, apesar da política de 'não tolerância' da empresa e garantias de que possui salvaguardas para aplicá-lo. Impulsionado por jogos criados por usuários, Roblox entrou com um pedido na noite de quinta-feira para uma estreia multibilionária no mercado de ações, aproveitando o boom de entretenimento de bloqueio com seu apelo como um lugar para diversão segura e interações para os jogadores mais jovens.

Mas grupos de pais e investidores disseram estar preocupados se os sistemas automatizados da empresa para moderar o conteúdo podem excluir efetivamente linguagem e imagens potencialmente ofensivas que surgem na plataforma. As buscas simples de palavras-chave no site do Google - conduzidas duas vezes pela Reuters desde que a empresa anunciou seus planos para o mercado de ações em outubro - revelaram mais de 100 exemplos de linguagem ou imagens abusivas. Um perfil, por exemplo, incluiu 'cale a boca e estupre-me papai' na linha de descrição do perfil, enquanto outro tinha 'MOLESTINGKIDSISFUNTOME'.

Em resposta a perguntas escritas, a porta-voz da empresa Teresa Brewer disse em um comunicado que Roblox 'não tolera conteúdo impróprio, razão pela qual temos um sistema de segurança rigoroso, incluindo tecnologia de filtragem de texto proprietária, soluções de aprendizado de máquina de terceiros e regras personalizadas sobre o que bloquear, que atualizamos diariamente. ' No mês passado, Roblox removeu os exemplos poucas horas depois de a Reuters compartilhá-los com a empresa. Roblox disse que tem 1.600 pessoas trabalhando em tempo integral para eliminar conteúdo impróprio na plataforma.



No registro de ações arquivado após a publicação desta história, a empresa reconheceu que 'de vez em quando, conteúdo impróprio é carregado com sucesso em nossa plataforma e pode ser visto por outras pessoas antes de ser identificado e removido por nós' e era um 'fator de risco. ' “Este conteúdo pode causar danos ao nosso público e à nossa reputação de fornecer um ambiente seguro”, escreveu a empresa sobre a preocupação anterior.

'Se não formos capazes de evitar, ou formos percebidos como não sendo capazes de prevenir suficientemente, todo ou substancialmente todo o conteúdo impróprio de aparecer em nossa plataforma ... provavelmente resultaria em uma redução significativa da receita, das reservas, da lucratividade e, em última análise, da nossa capacidade para continuar a operar nossa plataforma com sucesso. ' A Roblox oferece controles de conta para os pais restringirem como seus filhos podem interagir com outras pessoas no site. Também permite que os pais limitem a criança a uma lista de jogos selecionados para crianças menores de 13 anos. A Reuters não encontrou nenhum conteúdo impróprio nesses jogos.

Todos os sites que dependem dos usuários para criar material devem lidar com quanto esforço despender no policiamento desse conteúdo e, mesmo que seja enorme, ainda pode haver postagens inadequadas. Ao contrário do Twitter e do Facebook Inc, que publicam relatórios de transparência trimestrais sobre os tipos e volumes de conteúdo eliminado, a Roblox não fornece esses dados. Isso torna difícil dizer o quão comum é. Roblox é uma plataforma gratuita que oferece milhões de jogos, muitos deles criados por seus próprios jovens usuários através de uma ferramenta de programação simples que a empresa fornece. Foi creditado com o desenvolvimento da lógica e da criatividade das crianças. Como o Minecraft da Microsoft Corp, o Roblox permite aos usuários criar e compartilhar conteúdo de jogos 3D por meio de ferramentas simples e enviar mensagens para outras pessoas.

piratas da ordem caribenha

A simplicidade de muitos jogos Roblox contrasta com sucessos populares de videogame, como o Fortnite ou Apex Legends, que retratam competições de matança e têm como alvo adolescentes. O conselheiro da Roblox, Larry Magid, disse que três quartos das crianças dos EUA entre nove e 12 anos usaram a plataforma. A Reuters escolheu cerca de 20 palavras comumente consideradas ofensivas e as procurou usando a ferramenta de busca do próprio site e também por meio do sistema do Google para buscas em um site específico. A ferramenta Roblox não revelou resultados, porque os filtros impediam os usuários de procurar ativamente por conteúdo problemático enquanto jogavam jogos Roblox. No entanto, a pesquisa do Google mostrou que as crianças podiam ver os perfis e descrições problemáticos de várias maneiras, inclusive por meio de convites de amigos e atividades em grupo.

vida sem internet

A maioria dos exemplos que a Reuters encontrou no Roblox incluía erros ortográficos deliberados de obscenidades, ou a palavra n, que os veteranos da indústria dizem que não deve passar do software de filtragem padrão. A NBC relatou no ano passado que encontrou perfis neonazistas e racistas no site, que Roblox mais tarde removeu.

No entanto, no início deste ano, um especialista da indústria que pediu para não ser identificado enviou ao chefe de segurança da Roblox, Remy Malan, uma dúzia de exemplos de jogos com calúnias raciais ou a palavra 'judeu' no título, incluindo alguns com uniformes de campos de concentração ou outras imagens, de acordo com capturas de tela do e-mail vistas pela Reuters. Os exemplos foram confirmados pela Reuters e datados de 2009. Alguns deles foram excluídos depois que a Reuters os descreveu para Roblox em outubro. Malan não respondeu ao especialista ou a um pedido de comentário da Reuters.

A agência de tecnologia e entretenimento Common Sense Media elevou sua idade sugerida para jogadores Roblox para 13 anos nos últimos anos, depois que linguagem abusiva em perfis e conteúdo sexual em jogos continuou aparecendo no Roblox depois que a empresa disse que iria removê-lo, de acordo com Jeff Haynes, que supervisiona a cobertura de videogames para a organização sem fins lucrativos. Cinco especialistas em segurança online que analisaram os exemplos encontrados pela Reuters disseram que ficaram surpresos com os perfis e as palavras que escaparam quando sistemas rudimentares de filtragem podem capturar e remover esse conteúdo.

Magid, consultor da Roblox e CEO da organização sem fins lucrativos ConnectSafely.org - que recebe financiamento da Roblox e de outras empresas para promover diretrizes de segurança para os pais - disse que os exemplos que a Reuters encontrou mostram que as proteções não funcionam totalmente. “Acho que a escala faz parte disso. O que não entendo é por que o software não o pegou ', disse ele à Reuters.

Conforme sua listagem de ações se aproxima, a empresa pode ficar sob o escrutínio público de Wall Street, disse John Streur, presidente-executivo da Calvert Research and Management, que se concentra em investimentos socialmente responsáveis. 'Da perspectiva do investidor, será um grande problema se as manchetes dos meses revelarem que a empresa é incapaz de administrar o risco de sua plataforma', disse Streur à Reuters. Roblox se recusou a responder a comentar sobre essa visão.

(Esta história não foi editada pela equipe do Top News e é gerada automaticamente a partir de um feed distribuído.)