Gestionar respuestas en tiempo real
Con el endpoint hide replies, puedes construir un flujo de trabajo para ayudar a tus usuarios a ocultar respuestas que tienen una probabilidad muy alta de ser irrelevantes. Las apps útiles a menudo combinan tecnologías para poder aportar valor a sus usuarios. Esta página muestra cómo ocultar respuestas usando la Perspective API. Esta API es una inteligencia artificial entrenada por Jigsaw, una unidad dentro de Google, para detectar comentarios tóxicos. La lógica de la aplicación funcionará de la siguiente manera:- Pide permiso al usuario para leer sus Posts y ocultar o mostrar sus respuestas.
- Utiliza la Account Activity API para detectar las respuestas entrantes.
- Le pide a la Perspective API que dé una “puntuación” (un número entre 0 y 1) que indique qué tan seguro está su algoritmo de que un comentario es similar a los comentarios tóxicos que ha visto en el pasado. (Perspective no almacena el texto enviado al servicio).
- Llama a hide replies si la puntuación del algoritmo es muy alta.
Aspira a la transparencia
Debido a que Perspective no está entrenado con Posts reales, ciertos matices del lenguaje pueden hacer que esta app oculte una respuesta que el usuario quiere mantener visible. Independientemente de la tecnología o el enfoque que utilices al diseñar tu app, siempre haz el mejor esfuerzo posible para asegurar que tus usuarios entiendan lo que tu app ha ocultado y puedan hacer cambios.- La mejor opción es siempre confiar en el usuario y darle control total sobre sus decisiones. Esto significa que tu experiencia de usuario debe incluir controles para deshacer cualquier acción realizada por tu app en nombre del usuario.
- Cuando uses una inteligencia artificial, tu app debe usar un umbral de confianza muy alto para detectar y ocultar Posts.
- No todos usan las mismas palabras, y tu app debe estar diseñada para evitar cualquier sesgo. Ten en cuenta las palabras reapropiadas y la jerga que pueden llevar a falsos positivos.
- Si estás entrenando una inteligencia artificial, considera adoptar un modelo que refleje de cerca el lenguaje utilizado con frecuencia en X.