지식·검색·안전 · Output Moderation초보갱신일 2026. 9. 29.
출력 모더레이션
모델이 만든 답을 사용자에게 보이기 전 정책으로 검사하는 단계입니다.
비유
방송 전 심의처럼, 내보내기 전 한 번 더 걸러 내는 과정입니다.
이렇게 이해하세요
출력 모더레이션은 유해·개인정보·브랜드 금칙어를 차단합니다. 입력 필터와 함께 방어 심화를 이룹니다. 실무에서는 정의만 외우지 말고 ‘언제 쓰고 언제 쓰지 말아야 하는지’를 함께 기억하세요. 불확실한 사실은 출처를 확인하고, 민감 정보는 마스킹한 뒤 도구에 넣으세요.
한 줄 암기
출력 모더레이션 = 내보내기 전 심의
좋은 예
답변에 전화번호가 있으면 마스킹한다.
피하기
필터 로그 없이 사용자만 이상 응답을 본다.
관련 서비스
관련 에이전트
관련 용어
지식·검색·안전 더보기관련 링크
자주 묻는 질문
지연은?
추가 호출이 있을 수 있습니다.
오탐?
화이트리스트·사람 리뷰 큐를 두세요.