Google lança tecnologia capaz de identificar comentários abusivos

Comentários abusivos estão com os dias contados. O Google criou uma tecnologia capaz de identificar palavrões, ataques pessoais e assédio; saiba mais!

Imagem de um iPad preto com a tela na página inicial do Google
Foto: reproduçao iStock

O Google, em conjunto com a empresa Jigsaw, ambas subsidiárias da Alphabeth, estão testando uma nova tecnologia, chamada de Perspectiva, para ajudar na identificação de comentários abusivos, inapropriados, palavrões e assédios. A ferramenta também poderá ser expandida para tentar identificar ataques pessoais e o objetivo principal é impulsionar discussões saudáveis, inibindo ofensas gratuitas.

O Perspectiva trabalha revisando comentários e categorizando-os a partir da semelhança com observações que as pessoas consideram “tóxicas” ou que pudessem levá-las a deixar uma conversa.

O serviço está sendo disponibilizado para veículos de imprensa e já foi testado pelo jornal New York Times. Os próximos na fila são o britânico The Guardiana revista The Economist e sites de notícia.

Imagem da mão de uma mulher mexendo na tela de um mini iPad na página do Google

Ferramenta ajuda empresas e plataformas on-line a identificar comentários abusivos em seus sites / Foto: reprodução iStock

Ferramenta é importante para estimular discussão saudável

Segundo Jared Cohen, presidente da Jigsaw, “os veículos de comunicação querem encorajar o engajamento e a discussão em torno de seu conteúdo, mas identificar em meio a milhares de comentários aqueles que são ofensivos ou abusivos requer muito dinheiro, trabalho e tempo”, por isso se tornaram os primeiros no teste.

Cohen ainda acrescentou que a empresa está aberta para oferecer o produto para todas as plataformas, mas não especificou se isso englobaria as grandes redes sociais, como Facebook e Twitter.

A iniciativa para o projeto surgiu após Google e Facebook terem se esforçado para controlar a transmissão de notícias falsas sobre França, Alemanha, Estados Unidos, depois que foram atacados durante a campanha presidencial dos EUA, quando ficou claro que eles mesmos haviam publicado essas notícias de forma imprudente.

De acordo com Cohen, a tecnologia só opera em inglês e ainda está “longe de ser perfeita”, contudo os editores de cada plataforma serão capazes de sinalizar para seus moderadores ou desenvolver ferramentas para ajudar usuários a entender o impacto do que escrevem.

LEIA TAMBÉM: