ai 환각
-
생성형 AI의 환각 현상카테고리 없음 2024. 10. 2. 19:29
최근 몇 년 동안 인공지능(AI) 기술은 빠르게 발전하면서 우리의 일상과 업무에 많은 변화를 가져왔습니다. 특히 생성형 AI는 텍스트, 이미지, 음악 등 다양한 콘텐츠를 만들 수 있어 많은 주목을 받고 있습니다. 이 기술은 사람들에게 관심을 받으며 창의적인 작업을 하는 데 유용하게 사용되고 있습니다. 그러나 이러한 AI가 완벽하지는 않습니다. 그중에서도 가장 큰 문제로 지적되는 것이 바로 '환각(Hallucination) 현상'입니다. 환각은 AI가 실제로 존재하지 않는 정보나 사실을 만들어내는 현상을 말합니다. AI 환각이란 무엇인가?AI의 환각은 AI 모델이 사용자에게 제공하는 정보가 사실과 다를 때 발생합니다. AI가 특정 질문에 대해 답변할 때, 실제로는 존재하지 않는 인물이나 사건을 언급하는 ..