기초 개념 · Alignment중급갱신일 2026. 10. 1.
정렬(얼라인먼트)
모델이 사람·조직이 원하는 안전하고 유용한 방향으로 행동하게 맞추는 일입니다.
비유
성능 좋은 차를 만든 뒤, 교통법규·안전벨트·속도제한을 익히게 하는 운전 교육과 비슷합니다.
이렇게 이해하세요
정렬은 모델이 유해·거짓말·정책 위반을 줄이고, 사용자 의도에 맞게 돕도록 조정하는 과정·목표를 말합니다. RLHF·헌법 AI·규칙 기반 필터 등이 쓰입니다. 완벽하지 않아 우회·환각이 남을 수 있습니다. 제품마다 정렬 강도가 달라 같은 질문에도 거절 여부가 다릅니다. 사용자는 ‘필터를 깨는 것’이 아니라 ‘허용 범위 안에서 명확히 요청’하는 편이 생산적입니다.
한 줄 암기
정렬 = 똑똑함 + 바람직한 행동
좋은 예
의료 조언은 일반 정보로만 받고, 진단은 전문가에게 맡기라고 명시한다.
피하기
안전 정책을 우회하는 탈옥 프롬프트를 찾는다.
관련 서비스
관련 용어
기초 개념 더보기관련 링크
자주 묻는 질문
왜 어떤 요청은 거절되나요?
정렬·안전 정책이 유해·불법·과도한 위험 요청을 막기 위해서입니다.
우리 회사 톤에 맞출 수 있나요?
시스템 프롬프트·스타일 가이드·파인튜닝으로 업무 톤을 맞출 수 있습니다.