에이전트·자동화 · Safety Layer초보갱신일 2026. 9. 29.
안전 계층
입출력에 정책을 적용해 유해·탈옥 요청을 걸러내는 층입니다.
비유
놀이공원 입구 보안 검색대처럼, 타기 전에 위험물을 막는 단계입니다.
이렇게 이해하세요
안전 계층은 모델 전후 필터·분류기·규칙으로 구성됩니다. 과도하면 사용성이 떨어지고, 느슨하면 사고가 납니다. 실무에서는 정의만 외우지 말고 ‘언제 쓰고 언제 쓰지 말아야 하는지’를 함께 기억하세요. 불확실한 사실은 출처를 확인하고, 민감 정보는 마스킹한 뒤 도구에 넣으세요.
한 줄 암기
안전 계층 = 입구 검색대
좋은 예
도구 호출 전 정책 검사를 넣는다.
피하기
필터를 꺼 두고 프롬프트만 믿는다.
관련 서비스
관련 에이전트
관련 용어
에이전트·자동화 더보기관련 링크
자주 묻는 질문
모델 내장과?
둘 다 쓰는 방어 심화가 일반적입니다.
오탐은?
로그를 보고 정책을 조정하세요.