요금·도입 · Model Routing중급갱신일 2026. 10. 1.
모델 라우팅
질문 난이도·비용·속도에 따라 다른 AI 모델로 보내는 전략입니다.
비유
가벼운 심부름은 자전거, 무거운 짐은 트럭을 쓰는 물류 배차와 같습니다.
이렇게 이해하세요
모델 라우팅은 모든 요청을 최고가 모델에 넣지 않고, 분류기·규칙으로 작은 모델·검색·도구를 고릅니다. 비용·지연·품질의 균형을 맞출 때 핵심입니다. 초보 팀도 ‘요약=소형, 법률 초안=대형+사람검수’처럼 단순 규칙부터 시작할 수 있습니다.
한 줄 암기
라우팅 = 짐 무게에 맞는 차
좋은 예
FAQ는 소형+RAG, 계약 리뷰는 대형+HITL로 나눈다.
피하기
모든 채팅을 최상위 모델에 넣어 월 비용이 폭증한다.
관련 서비스
관련 에이전트
관련 용어
요금·도입 더보기관련 링크
자주 묻는 질문
자동 라우터가 필수인가요?
초기에는 용도별 엔드포인트 분리만으로도 효과가 큽니다.
실패하면?
저신뢰 답은 상위 모델로 재시도하는 폴백을 두세요.
