Inteligência Artificial do Facebook ajuda a identificar suicidas em postagens ao vivo
Emanuel Negromonte
A inteligência artificial pode retomar padrões, incluindo comportamentos padronizados que podem indicar quando alguém está considerando suicídio.
Na segunda-feira, 27 de novembro, o Facebook compartilhou medidas adicionais que a plataforma agora está integrando para ajudar usuários que podem expressar pensamentos de suicídio. A atualização inclui IA para detectar postagens com potencial comportamento suicida, além de dedicar mais pessoal de revisão humana à tarefa.
Ao longo do último mês, os algoritmos atualizados do Facebook provocaram mais de 100 chamadas para os primeiros atendentes para realizar verificações de bem-estar e esses números não incluem postagens que foram marcadas pelos usuários.
O Facebook agora está começando a lançar o sistema de detecção de suicídio de IA para outros países fora dos EUA. A plataforma de mídia social diz que o programa acabará por ser mundial, com exceção da União Europeia, devido a leis de privacidade .
Os novos algoritmos usam reconhecimento de padrões para postagens de bandeira que poderiam expressar pensamentos de suicídio, diz o Facebook. Além de sinalizar mensagens escritas, a tecnologia trabalha para procurar sinais dentro de vídeo ao vivo e vídeo pré-gravado também.
O programa usa dados dentro da publicação, bem como os comentários. O Facebook diz que comentários como “você está bem?” Ou “posso ajudar?” São frequentemente indicadores fortes.
O Facebook disse que continuará a desenvolver o algoritmo para evitar falsos positivos antes que a publicação seja vista pela equipe de avaliação humana. Ao mesmo tempo, a inteligência artificial também está sendo utilizada para priorizar quais posts são vistos pelos críticos humanos primeiro, o que o Facebook diz que está melhorando sua capacidade de alertar rapidamente os primeiros respondentes.
As atualizações também ajudam a equipe de avaliação a avaliar rapidamente a publicação, diz o Facebook, incluindo ferramentas que ajudam os revisores a ver qual parte de um vídeo obteve a maioria das reações. A automação também ajuda a equipe a acessar rapidamente a informação para entrar em contato com os primeiros respondedores apropriados.
A atualização continua a expandir as medidas que o Facebook já possuiu, incluindo ferramentas para que os amigos relatem uma publicação ou acessem o usuário, equipes mundiais que trabalham nesses relatórios e ferramentas desenvolvidas em colaboração com organizações voltadas para a saúde mental.
