RedaçãoCEO do YouTube promete aumentar equipes, com o objetivo de elevar para mais de 10 mil o número de pessoas trabalhando para encontrar conteúdos que possam violar as políticas do site
Em texto publicado no blog do Google nesta terça-feira, 5, a CEO do YouTube, Susan Wojcicki, falou sobre as medidas tomadas pelo site para proteger a comunidade contra conteúdos violentos ou extremistas. A executiva também falou sobre quais conteúdos podem aparecer na plataforma, ou gerar renda para creators.
Susan abre o texto afirmando que a plataforma aberta do YouTube é uma força para a criatividade, aprendizado e acesso à informação. Porém, a CEO também destaca os pontos ruins: “Eu vi como indivíduos ruins estão explorando nossa abertura para enganar, manipular, assediar ou mesmo ferir”, diz.
Assim, a profissional conta como o YouTube está trabalhando contra os usuários que cometem abusos e vão contra a política da plataforma. A primeira ação é a de colocar mais revisores humanos para examinar os conteúdos publicados no site. Desta forma, é facilitada a remoção de conteúdo indevido e também é aprimorado o treinamento de sistemas de machine learning. Ela conta que as equipes de confiança e segurança da plataforma têm revisado, manualmente, aproximadamente dois milhões de vídeos com conteúdo de violência extrema.
Comentários
Outra medida do site de vídeos do Google é em relação aos comentários feitos por usuários na plataforma, foram lançadas novas ferramentas de moderação de comentários e, em alguns casos, até excluindo.
“Nas últimas semanas, nós usamos o machine learning para ajudar os revisores humanos a encontrar e tirar do ar centenas de contas e excluir centenas de milhares de comentários. Nossa equipe também trabalha muito próxima ao NCMEC, IWF, e outras organizações de segurança à criança ao redor do mundo, para relatar o comportamento e contas predatórias aos órgãos judiciários competentes”, diz Susan.
A CEO do YouTube promete, ainda, que manterá o aumento de suas equipes no próximo ano, com o objetivo de elevar para mais de 10 mil o número de pessoas em todo o Google trabalhando para encontrar conteúdos que possam violar as políticas do site em 2018. Além disso, a plataforma está expandindo parcerias com universidades, grupos de empresas e especialistas que ajudem a entender melhor estes novos problemas.
Machine learning
Para resolver problemas em larga escala, a plataforma de vídeos está utilizando o machine learning. Esta ferramenta está sendo utilizada para identificar conteúdos violentos, ajudando os revisores humanos a removerem quase cinco vezes mais vídeos do que era feito antes. Atualmente, 98% dos filmes sobre extremismo violento excluídos são identificados por algoritmos.
“Desde que começamos a usar o machine learning para encontrar conteúdos de extremismo violento, em junho, a tecnologia revisou e encontrou conteúdo em um volume equivalente aos esforços de 180.000 pessoas trabalhando 40 horas por semana. Por conta desses resultados positivos, nós iniciamos o treinamento da tecnologia de machine learning em áreas desafiadoras de conteúdo, incluindo segurança infantil e discurso de ódio”, conta a CEO do YouTube.
Susan afirma também que entende que as pessoas querem ter visão mais clara sobre as diretrizes de conteúdo da plataforma, por isso em 2018 será criado um relatório permanente no qual serão fornecidos dados mais completos sobre as indicações que recebidas pelo site e as ações que foram tomadas para remover vídeos e comentários.
