llm신뢰도 (1) 썸네일형 리스트형 AI의 '환각(Hallucination)' 현상과 그 메커니즘 – 생성형 AI의 한계와 원인 분석 환각(Hallucination)은 무엇인가 – AI가 만들어내는 가짜 정보의 본질 인공지능, 특히 GPT와 같은 대규모 언어모델(LLM: Large Language Model)이 생성하는 텍스트는 놀라운 수준의 유창성과 설득력을 보여준다. 그러나 이 유창함의 이면에는 종종 사용자가 의도하지 않은 ‘사실이 아닌, 그럴듯한 거짓’이 포함된다. 바로 이것이 ‘환각(Hallucination)’이라고 불리는 현상이다. 환각이란 AI가 존재하지 않는 정보, 사실과 다른 내용, 맥락상 부정확한 진술을 스스로 생성하는 오류 현상을 의미한다. 이러한 환각은 단순 오타나 문법 오류와는 본질적으로 다르다. GPT는 오히려 언어적으로 완성도 높고, 형식적으로 완벽한 문장을 만든다. 하지만 문제는 내용이 진실과 다르다는 점.. 이전 1 다음
