ChatGPT의 환각

2022년 ChatGPT가 출시된 후 가장 강력하고 가장 많이 사용되는 AI 도구 중 하나가 되었습니다. ChatGPT는 대규모 데이터 세트로 훈련되었으며 인공 신경망을 사용하여 인간과 유사한 대화를 수행합니다. 모든 질문에 답하는 것이 목표입니다. 사람들은 답을 찾기 위해 재빨리 그 질문에 의지합니다. 마치 Google의 좀 더 발전된 형태인 것처럼 말입니다.

ChatGPT의 현재 무료 버전은 다음을 기반으로 합니다 GPT-3.5 아키텍처. ChatGPT Plus 가입자는 GPT-4 그리고 이후 모델은 다음과 같습니다 DALL-E . 그러나 최신 버전은 문제 해결, 추론, 협업 및 창의성과 같은 측면에서 이전 버전을 능가했습니다.

이러한 강력한 AI 도구는 다양한 산업에 혁명을 가져왔지만 다양한 과제도 안고 있습니다. 이 모델은 더 안전하고 인간의 가치와 일치한다고 주장됩니다. 그러나 가장 우려되는 문제 중 하나는 환각 현상입니다.

AI의 환각

이는 실제로 부정확하거나 주어진 상황과 관련이 없는 출력을 나타냅니다. AI 모델의 고유한 편견, 실제 이해 부족, 교육 데이터 제한으로 인해 이러한 현상이 나타나는 데는 여러 가지 원인이 있습니다. AI 시스템은 훈련받지 않은 정보를 환각으로 착각합니다. 이는 신뢰할 수 없고 오해의 소지가 있는 응답으로 이어집니다.

데이터의 환각은 원본 콘텐츠의 잘못된 정보로 인해 발생합니다. 이는 훈련 및 생성 방법의 결과로도 발생합니다. 마지막으로 불분명한 입력 프롬프트로 인해 환각이 발생할 수 있습니다.

환각은 다음과 같은 경우에 사용됩니다.

Chatbots: LLM을 통해 구동됩니다. 그들은 실제로 부정확하거나 대화와 관련 없는 응답을 생성할 때 때때로 환각을 느낍니다.
가상 비서: 도움이 되지 않는 응답을 생성할 수도 있습니다.
콘텐츠 생성기: 대규모 언어 모델은 뉴스, 기사, 블로그, 일반 및 소셜 미디어 콘텐츠를 포함한 다양한 콘텐츠를 생성합니다. 이러한 LLM이 환각에 빠지면 오해의 소지가 있고 잘못된 콘텐츠를 생성하는 경향이 있습니다.

AI 환각의 종류

환각은 사소한 불일치부터 완전히 조작된 정보까지 다양합니다.

문장 모순: 문장이 다음과 같은 경우입니다챗GPT이전 문장과 모순됩니다.
프롬프트 모순: 문장이 문장을 생성하는 데 사용된 프롬프트와 모순될 때 발생합니다.
사실적 모순: 허구와 사실이 모순될 때 발생합니다.
무작위 환각: 출력/입력과 관련이 없는 무작위 정보가 생성되는 경우입니다.

AI 환각이 왜 문제인가?

AI 환각은 즉시 사용자의 신뢰를 방해합니다. AI가 실제 사람들 사이에서 인기를 끌면서 환각으로 인해 신뢰가 배반됩니다. 허위 및 오해의 소지가 있는 정보로 인해 사용자는 기술에 대한 신뢰를 잃게 되고 다양한 부문에서 기술 채택을 방해하게 됩니다.

출력을 환각으로 구성하는 데 있어 한 가지 과제는 사용자의 인식을 신기루로 적절하게 조작하는 것입니다. AI에는 세상에 대한 인식이 없기 때문에 사용자는 기계의 환각이라기보다는 무언가 존재하지 않는다고 믿을 수 있습니다.

환각 출력은 해로운 고정관념이나 잘못된 정보를 제공할 수 있습니다. 이는 결국 AI 시스템을 윤리적으로 문제로 만듭니다.

오늘날 AI는 의료, 마케팅, 법률, 심지어 금융 분야의 중요한 결정에 점점 더 많이 사용되고 있습니다. 환각은 의사결정에 영향을 미쳐 미래에 심각한 결과를 초래할 수 있습니다.

AI 환각을 예방하는 방법은 무엇입니까?

환각을 줄이기 위해 LLM을 개선하고 훈련할 수 있는 다양한 방법이 있습니다.

명확하고 구체적인 프롬프트

ChatGPT와 같은 모델은 사용자와 대화합니다. 그러나 의도한 출력을 향해 모델을 안내하는 데 도움이 될 수 있는 추가 컨텍스트를 제공할 수 있습니다. 모델에 관련 데이터 소스를 제공하고 모델에 “카피라이터 역할”과 같은 역할을 부여할 수 있습니다. X에 대한 Facebook 광고 사본 작성”을 작성하고 가능한 출력도 제한하십시오.

필터 및 순위 지정 전략

LLM에는 사용자가 조정할 수 있는 매개변수가 있는 경우가 많습니다. GPT-3.5와 같은 모델을 미세 조정하여 출력 무작위성을 제어할 수도 있습니다. 모든 최신 모델에는 환각 발생을 최소화하는 데 도움이 되는 특정 매개변수가 있습니다.

투명도

AI 모델의 작동 및 한계에 대한 정보를 사용자에게 제공하는 것이 좋습니다. 이를 통해 사용자는 언제 시스템을 신뢰해야 하는지, 언제 검증을 받아야 하는지 이해하는 데 도움이 됩니다.

사용자 피드백 제공

사용자는 ChatGPT에 출력이 잘못되었음을 알리고 잘못된 안내를 직접 설명할 수 있습니다. ChatGPT는 사용자의 말을 기반으로 재교육을 수행할 수 없습니다. 그러나 응답에 플래그를 지정할 수 있습니다(좋음 또는 나쁨). 이를 통해 OpenAI는 결과가 잘못되었으며 다른 결과여야 함을 알 수 있습니다.

온도를 조절하세요

OpenAI 놀이터에서 온도를 조절할 수 있습니다. 온도는 모델에 어느 정도 가변성을 제공하는 역할을 합니다. 모델의 가변성이 높을수록 출력을 생성할 때 궤도를 벗어날 가능성이 줄어듭니다. 모델이 적당한 온도에 도달하면 대화를 통해 미세 조정됩니다.

ChatGPT가 개선되고 있습니다

많은 사람들이 ChatGPT가 환각을 일으키고 잘못된 정보를 제공하는 것을 발견했습니다. 그러나 OpenAI는 사용자 피드백을 기반으로 응답을 개선한다고 주장합니다.

그만큼최신 GPT-4는 훨씬 더 많은 것을 처리할 수 있습니모델보다 미묘한 정보를 제공합니다. 거의 모든 질문에 답하면서 우아한 글쓰기를 만들어내는 놀라운 능력이 있습니다. 이전 ChatGPT 버전은 오래된 기술에 의존했기 때문에 새로운 것을 추론하고 배울 수 없었습니다. 대답이 항상 정확하거나 적절하지는 않았습니다.

새로운 모델은 최대 25,000단어의 긴 입력을 수용하며 더 안전하고 사실에 가깝게 훈련되었습니다. 이전 모델에 비해 거의 5배 향상되었습니다. GPT-4는 간단한 웹사이트의 손으로 그린 모형 사진을 찍고 HTML이나 JavaScript를 사용하여 실제 웹사이트로 변환할 수 있을 만큼 강력합니다.

결론

ChatGPT와 같은 AI 시스템의 보급이 계속 증가함에 따라 환각 문제를 해결하는 것이 필수적입니다. 환각의 근본적인 원인을 이해하고 환각 발생을 줄이기 위한 연구에 자원을 투자함으로써 사용자와 AI 개발자는 ChatGPT의 효과적인 사용을 촉진하는 데 중추적인 역할을 할 수 있습니다. 그러나 최신 모델 GPT-4 모델은 향상된 정보와 미세 조정 기능을 제공하여 잘못된 데이터의 위험을 줄입니다.

자주 묻는 질문 (FAQs)

ChatGPT의 환각 문제는 무엇입니까?

AI 환각은 AI 모델이 잘못된 정보를 생성했지만 이를 사실로 제시하는 경우입니다. 이는 ChatGPT와 같은 도구가 사용자의 쿼리와 가장 일치하는 단어 문자열을 예측하도록 훈련되었기 때문에 발생합니다.

GPT-4의 환각률은 얼마입니까?

최신 모델인 GPT-4와 GPT-4 Turbo는 가장 높은 정확도(97%)와 가장 낮은 환각률(3%)을 기록했습니다.

GPT 환각의 예는 무엇입니까?

GPT에서는 때때로 의미가 있는 것처럼 보이는 단어, 이름, 아이디어를 함께 사용합니다. 그러나 실제로는 서로 속해 있지 않습니다.

ChatGPT의 환각