챗GPT를 비롯한 인공지능 언어 모델이 허위 정보를 생성하는 이유는 크게 네 가지로 설명할 수 있습니다: 학습 데이터의 한계, 언어 모델의 작동 원리, 맥락 파악의 부족, 그리고 사용자 입력에 대한 반응성입니다.
⸻
인공지능 챗봇, 특히 챗GPT는 인터넷에 공개된 방대한 텍스트 데이터를 기반으로 학습합니다. 여기에는 뉴스, 블로그, 논문, 위키백과, 포럼 글 등 다양한 출처의 정보가 포함됩니다. 그러나 이들 출처는 모두 사람이 작성한 것이기 때문에, 잘못된 정보, 과장된 주장, 편향된 시각이 섞여 있을 수밖에 없습니다. 인공지능은 이 데이터를 ‘진실’로 구분하지 않고 ‘언어 패턴’으로 학습하기 때문에, 사실 여부를 따지기보다는 그럴듯한 문장을 만드는 데 집중합니다. 예를 들어, 어떤 잘못된 의학 정보가 인터넷에서 자주 등장했다면, 챗GPT는 그것을 진짜 정보처럼 학습할 수 있습니다.
또한 챗GPT는 ‘예측’ 기반 모델입니다. 질문에 대해 가장 적절할 것 같은 단어나 문장을 통계적으로 예측해서 이어가는 방식입니다. 이는 마치 ‘가장 가능성 있는 답’을 만드는 것이지, ‘가장 정확한 답’을 만드는 것은 아닙니다. 즉, GPT는 지식 엔진이 아니라 언어 생성기입니다. 그래서 간혹 자신감 있게 틀린 정보를 말하기도 하며, 전문가가 보기엔 ‘그럴듯하지만 잘못된’ 내용이 많습니다. 이를 ‘환각(hallucination)’ 현상이라고도 부릅니다.
또한 챗GPT는 사용자의 질문 의도나 맥락을 정확히 파악하지 못할 때가 많습니다. 특히 복잡한 질문이나 사실 확인이 필요한 질문에 대해, 정보 출처 없이 단순한 문장으로 답할 경우 오류가 발생하기 쉽습니다. 예를 들어 “2023년에 가장 많이 팔린 책은?” 같은 질문을 받으면, 모델은 정확한 판매 데이터를 모른 채 그냥 과거에 자주 등장한 책 이름을 답할 수 있습니다.
마지막으로, 챗GPT는 사용자의 기대에 맞춰 응답하려는 성향이 있습니다. 질문자가 원하는 방향이나 분위기를 파악해 그에 맞춰 응답을 조율하는데, 이 과정에서 정확성이 떨어질 수 있습니다. 예를 들어 “비타민C는 코로나를 예방하나요?”라고 묻는 사용자에게, 단호하게 “아니요”라고 하지 않고 “일부 연구에 따르면 도움이 될 수 있다”라고 말할 수 있습니다. 이는 사용자에게 덜 불쾌하게 들리지만, 실제론 불명확하거나 오해를 줄 수 있습니다.
⸻
요약하자면, 챗GPT가 허위정보를 생성하는 이유는 ▲불완전한 학습데이터, ▲정확성보다 자연스러움을 우선하는 언어모델의 특성, ▲한계가 있는 맥락 이해력, ▲사용자의 기대에 반응하는 성향 때문입니다. 사용자는 인공지능이 말하는 정보를 무비판적으로 수용하지 말고, 검증 가능한 출처나 전문가 의견과 함께 활용하는 것이 중요합니다. AI는 어디까지나 도구이지, 진실의 최종 판단자는 아니기 때문입니다.