지식·검색·안전 · Hallucination초보갱신일 2026. 10. 1.
환각
AI가 사실이 아닌 내용을 그럴듯하고 자신 있게 만들어 내는 현상입니다.
비유
모르는 문제도 빈칸을 채우듯 자신 있게 말하는 학생과 같습니다. 말솜씨와 진실은 별개입니다.
이렇게 이해하세요
환각은 모델이 학습 패턴으로 ‘그럴듯한 문장’을 우선할 때, 출처 없는 숫자·논문·기능·인용을 만들어 내는 현상입니다. 악의라기보다 구조적 한계에 가깝습니다. 줄이는 방법은 근거 문서 강제(RAG), 낮은 온도, ‘모르면 모른다’, 사람 검수, 도구로 사실 확인입니다. 완전히 없애기는 어렵고, 위험도에 따라 허용 수준을 정해야 합니다. 초보자는 특히 법률·의료·금융·안전 지시에서 단정적인 AI 답을 그대로 믿지 마세요. aimodu.kr에서도 교차 확인을 기본 습관으로 권합니다.
한 줄 암기
환각 = 자신 있는 假답
좋은 예
‘근거 문장이 없으면 추측이라고 표시하고 출처 URL을 찾아’라고 요청한 뒤 링크를 연다.
피하기
없는 판례·논문 제목을 인용한 답을 검토 없이 보고서에 넣는다.
관련 서비스
관련 에이전트
관련 용어
지식·검색·안전 더보기관련 링크
자주 묻는 질문
유료 모델은 환각이 없나요?
줄어들 수는 있어도 사라지지는 않습니다. 제품 설계와 검수가 더 중요합니다.
왜 자신 있게 말하나요?
학습 목표가 주로 ‘자연스러운 이어쓰기’이기 때문입니다. 불확실성을 표현하도록 따로 설계·지시해야 합니다.