정의
환각(인공지능)은 인공지능 특히 대규모 언어 모델이 입력된 질문에 대해 실제 사실과 일치하지 않거나 근거가 없는 정보를 생성하는 현상을 일컫는다. 일반적으로는 “AI hallucination”(AI 환각)이라고도 불리며, 사용자가 기대하는 정확한 답변 대신 허위·왜곡된 내용이 출력되는 경우를 말한다.
개요
인공지능 기반 텍스트 생성 시스템은 대량의 학습 데이터와 확률적 언어 모델링을 통해 문장을 생성한다. 이러한 시스템이 문맥에 맞는 문장을 만들면서도 학습에 포함되지 않았거나 오류가 있는 정보를 만들어낼 수 있다. 이는 모델이 ‘가능성’에 기반해 문장을 선택하기 때문에 발생하며, 사용자는 출력 결과가 사실인지 검증해야 한다. 최근 챗봇, 자동 요약, 번역 등 다양한 서비스에서 환각 현상이 문제점으로 제기되고 있다.
어원/유래
‘환각’이라는 단어는 원래 정신의학에서 실제가 아닌 감각 경험을 의미한다. 인공지능 분야에서 ‘환각’이라는 용어가 차용된 시점은 정확히 확인되지 않으며, 2020년대 초반부터 영어권 논문·블로그에서 “AI hallucination”이라는 표현이 사용되면서 한국어로는 ‘인공지능 환각’ 혹은 ‘AI 환각’이라고 번역·보급된 것으로 추정된다. 정확한 최초 사용 사례는 확인되지 않는다.
특징
- 사실과 무관한 출력: 실제 존재하지 않는 인물·사건을 언급하거나, 잘못된 수치·통계 데이터를 제시한다.
- 맥락 적합성: 문법적으로는 자연스럽고 질문의 의도와 연관된 듯 보이지만, 내용적인 정확성은 부족하다.
- 데이터 편향: 학습 데이터에 포함된 오류·편향이 그대로 반영될 수 있다.
- 모델 규모와 무관: 대형 모델일수록 일반적으로 정확도가 높지만, 환각 현상이 완전히 사라지는 것은 아니다.
- 감지·완화 방법: 사실 검증 모델, 인간 검토, 프롬프트 엔지니어링, 온도 조절 등 다양한 기술이 연구되고 있다.
관련 항목
- 인공지능 환각 (AI hallucination)
- 대규모 언어 모델 (Large Language Model, LLM)
- 사실 검증 (Fact-checking)
- 모델 정규화 (Model regularization)
- 프롬프트 엔지니어링 (Prompt engineering)
참고
본 항목에서 다루는 “환각 (인공지능)”이라는 용어는 아직 학술·산업계에서 통일된 정의가 확립되지 않았으며, 관련 연구와 보도가 제한적이다. 정확한 정보는 확인되지 않는다.