Discord reconhece falha na proteção após live com morte de adolescente de 13 anos
Plataforma informou ao Ministério da Justiça que transmissão ficou disponível por quase duas horas; caso levou autoridades brasileiras a suspenderem as lives do aplicativo
O Discord reconheceu que falhas em seus mecanismos de segurança contribuíram para que uma transmissão envolvendo a morte de uma adolescente de 13 anos permanecesse disponível por quase duas horas. O caso aconteceu no Mato Grosso do Sul e provocou novas cobranças das autoridades brasileiras para ampliar a proteção de crianças e adolescentes nas plataformas digitais.
A live teve início às 2h20 do dia 22 de julho. O primeiro alerta indicando possibilidade de morte ou ferimentos graves foi registrado às 3h50. Mesmo assim, o servidor só foi retirado do ar às 4h15.
Em documento encaminhado ao Ministério da Justiça, o Discord explicou que a ferramenta de monitoramento automático não identificou inicialmente elementos suficientes para classificar a transmissão como uma situação de alto risco. Segundo a empresa, isso contribuiu para a demora na intervenção.
Sistema não identificou o risco
De acordo com a plataforma, o mecanismo automático utilizado para analisar transmissões aciona uma intervenção quando o conteúdo alcança 0,95 ponto em uma escala de risco. No episódio investigado, a live teria atingido apenas 0,12.
A empresa argumentou que determinadas palavras, nomes e mensagens utilizadas no servidor podem ter dificultado a identificação da real intenção dos envolvidos. O Discord também afirmou que diminuir o limite de detecção poderia provocar um aumento significativo de falsos positivos.
Apesar da justificativa, a plataforma informou que está reavaliando o funcionamento do sistema e estudando alterações nos critérios utilizados para reconhecer situações potencialmente perigosas.
ANPD determina suspensão das lives
Após o episódio, a Agência Nacional de Proteção de Dados (ANPD) determinou, na quarta-feira (12), a suspensão das transmissões ao vivo do Discord no território brasileiro.
A decisão é preventiva e não determina o bloqueio completo do aplicativo. A restrição se limita ao recurso de lives e permanecerá em vigor até que a empresa apresente medidas consideradas eficazes para reduzir os riscos à segurança de crianças e adolescentes.
O Discord é bastante utilizado por comunidades de jogos, mas também reúne um público significativo de adolescentes. A plataforma já enfrentava questionamentos relacionados à moderação de conteúdo e à proteção de menores, e o novo caso aumentou a pressão para que sejam adotados mecanismos mais eficientes de prevenção e resposta.