Youtube em guerra total contra o terrorismo e conteúdo extremista online com reforço em equipas humanas e… algoritmos pensados para o efeito
Estamos habituados a “ir ao” Youtube por tudo ou nada, e estamos constantemente a ver conteúdos que são publicados segundo a segundo. É o maior “videoclube” do mundo, dá dinheiro a ganhar e prepara-se para ser um dos mais fortes (ainda mais) players globais com uma plataforma de entertenimento que a todos e tudo serve.
E é exactamente neste “todos e tudo” que reside um problema: qualquer lunático pode usar o Youtube para mostrar ao mundo os seus mais negros desvios, um terrorista pode publicar, como já aconteceu, a decapitação de um refém, um grupo de jovens ébrios pode chocar-nos com crimes que roçam a violação dos direitos de alguns dos seus companheiros, enfim, o mundo não é todo bonito e anda mal frequentado.
Ora ninguém quer abrir o Youtube e dar de caras com um vídeo atentório e a plataforma tem actualizado o compromisso em lutar contra o terrorismo e conteúdo extremista online para tentar evitar alguns problemas como a recente bronca da publicação de anúncios de marcas de topo ao lado de vídeos com crimes violentos.
Há um mês atrás, referiram as quatro novas formas implementadas para combater o conteúdo terrorista no YouTube: uma melhor identificação e remoção mais rápida conduzida pelo machine learning, um maior número de especialistas para alertar sobre o conteúdo que necessita de ser revisto, regras mais duras para vídeos que são controversos mas que não violam as políticas oficiais e mais trabalho no que diz respeito ao combate ao terrorismo.
Hoje, o Youtube faz uma revisão da matéria dadae um ponto de situação que passo a expôr na íntegra:
- Melhor identificação e remoção mais rápida conduzida pelo machine learning: Sempre utilizámos uma mistura de tecnologia e revisão humana para enfrentar os desafios em constante mudança em torno do conteúdo controverso no YouTube. Recentemente, começámos a desenvolver e a implementar tecnologia avançada de machine learning desenvolvida para nos ajudar a identificar e a remover conteúdo extremista e terrorista. Começámos a implementar estas ferramentas e já estamos a assistir a alguns progressos positivos:
- Rapidez e eficência: Os nossos sistemas de machine learning estão mais rápidos e eficientes que nunca. Mais de 75% dos vídeos que removemos, no mês passado, por extremismo violento foram removidos antes mesmo de termos recebido denúncias de utilizadores.
- Precisão: A precisão dos nossos sistemas melhorou dramaticamente devido à nossa tecnologia de machine learning. Embora estas ferramentas não sejam perfeitas, em muitos dos casos, os nossos sistemas têm demonstrado uma maior precisão que os humanos no que diz respeito à denúncia dos vídeos que precisam de ser removidos.
- Escala: Com mais de 400 horas de conteúdo carregado no YouTube a cada minuto, encontrar e agir sobre o conteúdo violento extremista representa um desafio significativo. Mas a nossa utilização inicial de machine learning mais do que duplicou o número de vídeos que removemos por extremismo violento no último mês.
Somos encorajados por estas melhorias e vamos continuar a desenvolver a nossa tecnologia para progredir ainda mais. Também estamos a recrutar mais pessoas para ajudarem na revisão e reforço das nossas políticas e, vamos continuar a investir em recursos técnicos para acompanhar estes problemas e a abordá-los de forma responsável.
Maior número de especialistas: Claro que os nossos sistemas são tão bons quanto os dados em que se baseiam. Ao longo das últimas semanas, começamos a trabalhar com mais de 15 ONGs e instituições de especialistas através do nosso programa Trusted Flagger, incluindo a Liga Antidifamação, o Movimento Contra o Discurso de Ódio, e o Institute for Strategic Dialogue. Estas organizações trazem conhecimento especializado em questões complexas como discurso de ódio e radicalização e terrorismo que nos ajudam a identificar melhor o conteúdo que está a ser utilizado para radicalizar e recrutar extremistas. Também consultamos regularmente estes especialistas à medida que actualizamos as nossas políticas para darem conta das novas tendências. E, ao longo do tempo, vamos continuar a acrescentar mais organizações à nossa rede de conselheiros.
Normas mais rígidas: Em breve, vamos aplicar um tratamento mais rígido para os vídeos que não são ilegais, mas que os utilizadores denunciaram como potenciais violações das nossas políticas de discurso de ódio e extremismo violento. Se acharmos que estes vídeos não violam as nossas políticas, mas que contêm conteúdo controverso religioso ou supremacista, estes serão colocados num estado limitado. Os vídeos vão permanecer no YouTube por detrás de um aviso intersticial, não serão recomendados, não serão monetizados, e não terão recursos essenciais, incluindo comentários, vídeos sugeridos e gostos. Vamos começar a trabalhar com esta nova funcionalidade nos vídeos nas versões desktop do YouTube nas próximas semanas, e será utilizada, muito em breve, nas versões mobile. Estas novas abordagens implicam novas ferramentas e processos internos significativos, e levará o seu tempo para serem completamente implementadas.
Célere Intervenção e expansão dos nossos esforços contra a radicalização e ao recrutamento:
Começámos a implementar as funcionalidades de Jigsaw’s Redirect Method para o YouTube. Quando as pessoas pesquisam palavras-chave sensíveis no YouTube, serão redireccionadas para uma lista de reprodução de vídeos de curadoria do YouTube que directamente confronta e desconsidera mensagens com conteúdo extremista e violento. Também vamos continuar a ampliar as vozes do YouTube que falam contra o ódio e a radicalização através do nosso programa YouTube Creators for Change. Durante a semana passada, o capítulo britânico dos Creators for Change – Internet Citizens, organizou um workshop de dois dias para crianças entre os 13 e 18 anos para os ajudar a encontrar um sentimento de pertença online e para conhecerem os requisitos essenciais de como navegar de forma segura e responsável na Internet. Também
assumimos o compromisso de expandir o alcance do nosso programa para mais de 20.000 adolescentes em todo o Reino Unido.
Durante o fim de semana, organizámos o ultimo workshop Creators for Chage em Bandung, Indonésia onde os criadores em conjunto com o MAARIF Institute for Culture and Humanity formaram jovens acerca da importância da diversidade, pluralismo e tolerância.
Todos juntos, tomámos medidas significativas ao longo do último mês na nossa luta contra o terrorismo. Mas não acaba aqui. Sabemos que há sempre mais trabalho a ser feito. Com a ajuda da nova tecnologia de machine learning, parcerias profundas,
colaborações contínuas com outras empresas através do Global Internet Forum e a nossa comunidade vigilante, estamos confiantes de que podemos continuar a fazer progressos contra esta ameaça em constante mudança.
