Gerenciar replies em tempo real
Com o endpoint hide replies, você pode criar um fluxo de trabalho para ajudar seus usuários a ocultar replies que têm alta probabilidade de serem irrelevantes. Apps úteis frequentemente combinam tecnologias para que possam ser valiosos para seus usuários. Esta página mostra como ocultar replies usando a Perspective API. Esta API é uma inteligência artificial treinada pela Jigsaw, uma unidade dentro do Google, para detectar comentários tóxicos. A lógica da aplicação funcionará da seguinte forma:- Ela pede permissão ao usuário para ler seus Posts e ocultar ou reexibir suas replies.
- Ela usa a Account Activity API para detectar replies recebidas.
- Ela pede à Perspective API para dar uma “pontuação” (um número entre 0 e 1) que indica o quão confiante o algoritmo está de que um comentário é semelhante a comentários tóxicos que já viu no passado. (O Perspective não armazena o texto enviado ao serviço).
- Ela chama o hide replies se a pontuação do algoritmo for muito alta.
Busque transparência
Como o Perspective não é treinado em Posts reais, certas nuances de linguagem podem fazer com que este app oculte uma reply que o usuário deseja manter visível. Independentemente da tecnologia ou da abordagem que você usar ao projetar seu app, sempre faça o melhor esforço possível para garantir que seus usuários entendam o que seu app ocultou e possam fazer alterações.- A melhor opção é sempre confiar no usuário e dar a ele controle total sobre suas decisões. Isso significa que sua experiência de usuário deve incluir controles para desfazer qualquer ação realizada pelo seu app em nome do usuário.
- Ao usar uma inteligência artificial, seu app deve usar um limite de confiança muito alto para detectar e ocultar Posts.
- Nem todos usam as mesmas palavras, e seu app deve ser projetado para evitar qualquer viés. Fique atento a palavras reapropriadas e gírias que podem levar a falsos positivos.
- Se você estiver treinando uma inteligência artificial, considere adotar um modelo que reflita de perto a linguagem frequentemente usada no X.