실시간으로 답글 관리하기
Hide replies 엔드포인트를 사용하면 관련성이 매우 낮을 가능성이 높은 답글을 사용자가 숨기도록 돕는 워크플로를 구축할 수 있습니다. 유용한 앱은 종종 여러 기술을 결합해 사용자에게 가치를 제공합니다. 이 페이지에서는 Perspective API를 사용해 답글을 숨기는 방법을 보여줍니다. 이 API는 Google 산하 조직인 Jigsaw가 유해 댓글을 감지하도록 학습시킨 인공지능입니다. 애플리케이션 로직은 다음과 같이 동작합니다:- 사용자에게 게시물을 읽고 답글을 숨기거나 표시할 권한을 요청합니다.
- Account Activity API를 사용해 수신 답글을 감지합니다.
- Perspective API에 “점수”(0과 1 사이의 숫자)를 요청하여 알고리즘이 과거에 본 유해 댓글과 얼마나 유사하다고 확신하는지를 나타냅니다. (Perspective는 서비스로 전송된 텍스트를 저장하지 않습니다.)
- 알고리즘의 점수가 매우 높은 경우 hide replies를 호출합니다.
투명성을 지향하기
Perspective는 실제 게시물로 학습된 것이 아니므로, 특정 언어의 뉘앙스에 따라 이 앱이 사용자가 숨기지 않기를 원하는 답글을 숨길 수 있습니다. 앱을 설계할 때 사용하는 기술이나 접근 방식과 상관없이, 사용자가 앱이 무엇을 숨겼는지 이해하고 변경할 수 있도록 최선을 다하세요.- 가장 좋은 방법은 항상 사용자를 신뢰하고 결정에 대한 완전한 통제권을 사용자에게 주는 것입니다. 즉, 앱이 사용자를 대신해 수행한 모든 동작을 취소할 수 있는 컨트롤을 사용자 경험에 포함해야 합니다.
- 인공지능을 사용할 때, 앱은 매우 높은 확신 임계값을 사용해 게시물을 감지하고 숨겨야 합니다.
- 모든 사람이 같은 단어를 사용하지 않으므로, 편향이 없도록 앱을 설계해야 합니다. 오탐(false positive)으로 이어질 수 있는 재정의된 단어나 속어에 유의하세요.
- 인공지능을 학습시키는 경우, X에서 자주 사용되는 언어를 반영하는 모델을 채택하는 것을 고려하세요.