레드팀 테스트

비유

보안 컨설턴트가 일부러 문을 열어보며 취약점을 찾는 모의 해킹과 비슷합니다.

이렇게 이해하세요

AI 레드팀은 탈옥·유해·개인정보 유도 등을 시뮬레이션합니다. 배포 전·후에 반복하고 결과를 정책에 반영합니다. 실무에서는 정의만 외우지 말고 ‘언제 쓰고 언제 쓰지 말아야 하는지’를 함께 기억하세요. 불확실한 사실은 출처를 확인하고, 민감 정보는 마스킹한 뒤 도구에 넣으세요.

한 줄 암기

레드팀 = 일부러 공격해 보기

관련 서비스

• ChatGPT (챗GPT)
• Claude (클로드)
• Cursor (커서)

관련 에이전트

• Dify
• AnythingLLM
• GPT Researcher

• LLM 평가모델·프롬프트 품질을 테스트셋·채점으로 측정해 회귀를 막는 활동입니다.지식·검색·안전중급
• 프롬프트 인젝션문서·웹·사용자 입력에 숨긴 지시로 모델의 원래 규칙을 가로채려는 공격입니다.대화·프롬프트중급

관련 링크

자주 묻는 질문