지식·검색·안전 · Content Moderation초보갱신일 2026. 10. 1.
콘텐츠 모더레이션
폭력·혐오·성인·스팸 등 정책 위반 콘텐츠를 탐지·차단하는 절차입니다.
비유
방송 심의처럼, 내보내기 전에 부적절 장면을 걸러 내는 검열·안내 창구입니다.
이렇게 이해하세요
콘텐츠 모더레이션은 입력·출력 양쪽에 적용될 수 있습니다. 오탐·미탐이 있어 사람 리뷰 큐가 필요할 때가 있습니다. 서비스마다 기준이 다르고, 우회를 시도하는 것은 약관 위반입니다. 제품 운영자는 정책 문서와 이의 신청 경로를 준비하세요.
한 줄 암기
모더레이션 = 안전 문지기
좋은 예
UGC 프롬프트 제출 전 자동 필터+관리자 승인 큐를 둔다.
피하기
필터를 끄고 유해 생성을 허용한다.
관련 서비스
관련 에이전트
관련 용어
지식·검색·안전 더보기관련 링크
자주 묻는 질문
창작이 막히면?
허용 범위 안에서 표현을 바꾸거나, 정책상 불가한 요청은 다른 안전한 주제로 전환하세요.
자체 필터가 필요한가요?
UGC·공개 서비스라면 플랫폼 필터 외에 자체 정책도 권장됩니다.