# 우리 가게 정보를 맡길 AI, 무엇을 믿어야 할까?

_AI마다 가짜 인용 비율이 14.23%에서 94.93%까지 달라진다_

> 13개 AI의 인용 37만5,440건을 확인한 조사에서 가짜 인용 비율은 14.23%부터 94.93%까지 벌어졌다. 챗GPT는 50.92%, 클로드는 21.84%였다.

- 종류: 칼럼
- 주소: https://aisitekorea.com/column/which-ai-hallucinates-citations-least
- 발행: AI사이트코리아 (https://aisitekorea.com)
- 작성일: 2026-09-30

AI에게 우리 가게 정보를 맡길 때는 어떤 AI를 쓰느냐도 중요하다. 13개 AI의 인용 37만5,440건을 확인한 조사에서는 가짜 인용 비율이 14.23%에서 94.93%까지 벌어졌다. 자주 쓰는 서비스만 봐도 클로드는 21.84%, 챗GPT는 50.92%, 제미나이는 59.47%였다.

같은 질문을 해도, 어떤 AI에게 물었는지에 따라 답 속 자료가 진짜일 확률이 크게 달라진다

## AI가 가짜 자료를 붙인다는 게 무슨 뜻일까?

AI가 답을 만들면서 실제로 존재하지 않는 논문이나 통계, 링크를 마치 실제 자료처럼 붙이는 경우가 있다. 이런 현상을 가짜 인용 또는 환각 인용이라고 한다.

난카이대학교·칭화대학교 연구팀은 2026년 5월 13개 AI 모델에 22,800회 질문을 던졌다. 답변에서 인용을 뽑아 실제 문헌 데이터베이스와 웹 검색, 재확인 과정을 거쳐 하나씩 대조했다.

지시한 인용 형식을 지킨 답은 90.58%였다. 추출에 성공한 인용 331,809건 가운데 유효한 인용은 164,933건, 무효 인용은 166,876건이었다.

| 구분 | 건수·비율 |
|---|---|
| 전체 질문(API 상호작용) | 22,800회 |
| 지시된 인용 형식 준수율 | 90.58% |
| 추출에 성공한 인용 | 331,809건 |
| 그중 유효 인용 | 164,933건(49.71%) |
| 그중 무효(가짜) 인용 | 166,876건(50.29%) |
| 실험에 쓰인 연구 분야 | 40개(arXiv 분류 기준) |

결과만 놓고 보면 평균적으로 답변 속 인용의 절반가량이 무효였다. 중요한 점은 AI가 말을 자연스럽게 한다고 해서 그 안의 자료까지 자동으로 맞는 것은 아니라는 것이다.

## 그래서 어떤 AI가 가장 안전할까?

같은 조사에서 모델별 차이는 상당히 컸다. 가짜 인용 비율은 딥시크가 14.23%로 가장 낮았고, 훈위안-A13B는 94.93%였다.

두 수치 사이에는 6.7배 차이가 난다. 일상에서 많이 쓰는 서비스만 보면 클로드 소네트4는 21.84%, GPT-5는 50.92%, 제미나이2.5프로는 59.47%였다.

| 모델(제조사) | 주로 쓰이는 서비스 | 가짜 인용 비율 |
|---|---|---|
| 딥시크(DeepSeek) | 딥시크 앱 | 14.23% |
| GLM-4.5(즈푸AI) | 즈푸 챗봇 | 21.25% |
| 클로드 소네트4(앤트로픽) | 클로드 | 21.84% |
| 큐원3-맥스(알리바바) | 큐원 챗봇 | 23.52% |
| 키미-K2(문샷) | 키미 | 41.86% |
| 라마4-매버릭(메타) | 메타AI | 45.84% |
| GPT-5(오픈AI) | 챗GPT | 50.92% |
| 제미나이2.5프로(구글딥마인드) | 제미나이·구글 AI모드 | 59.47% |
| 어니4.5(바이두) | 어니봇 | 71.90% |
| UI-TARS-1.5(바이트댄스) | 내부·에이전트용 | 78.64% |
| 그록4-패스트(xAI) | 그록 | 79.98% |
| 파이4(마이크로소프트) | 코파일럿 일부 기능 | 87.47% |
| 훈위안-A13B(텐센트) | 위챗 AI 등 | 94.93% |

다만 이 숫자를 영원한 순위로 보면 안 된다. 이 조사는 2026년 5월 당시의 특정 버전을 대상으로 했고, AI 회사들은 모델을 계속 바꾼다.

따라서 중요한 것은 특정 AI 하나를 무조건 믿는 것이 아니다. 지금 사용하는 AI가 어떤 자료를 근거로 답하는지 확인할 수 있는 환경을 만드는 것이 중요하다.

## 다른 조사에서도 결과가 비슷할까?

조사 방법을 바꾸면 숫자는 달라진다. 펜실베이니아대학교 연구팀이 2026년 4월 발표한 조사는 인용된 URL이 실제로 살아 있는지를 중심으로 확인했다.

11개 모델과 URL 22만여 건을 대상으로 한 이 조사에서는 가짜 비율이 클로드3.5소네트 3.0%에서 제미나이2.5프로 딥리서치 13.3%까지였다. 앞선 조사보다 전체 비율은 낮았지만, 모델에 따라 차이가 난다는 방향은 같았다.

| 조사 | 표본 | 가장 낮은 모델 | 가장 높은 모델 |
|---|---|---|---|
| GhostCite(난카이대·칭화대, 2026.5) | 13개 모델·인용 37만5,440건 | 딥시크 14.23% | 훈위안 94.93% |
| 딥리서치 환각 조사(펜실베이니아대, 2026.4) | 11개 모델·URL 22만여 건(5만3,090+16만8,021) | 클로드3.5소네트 3.0% | 제미나이2.5프로 딥리서치 13.3% |

즉 어떤 조사에서는 가짜 인용이 절반에 가깝게 나오고, 다른 조사에서는 훨씬 낮게 나온다. 측정 방법에 따라 숫자는 달라질 수 있지만, AI가 제시한 자료를 확인해야 한다는 점은 달라지지 않는다.

## 가짜 자료가 학술 논문에도 들어간다고?

문제는 챗봇 답변에서 끝나지 않는다. 같은 연구팀이 2020~2025년 8개 학회의 논문 56,381편과 참고문헌 2.2백만 건을 대조한 결과, 무효 인용을 하나라도 포함한 논문은 전체의 1.07%였다.

특히 2024년에는 0.89%였던 비율이 2025년에는 1.61%로 올라갔다. 전년 대비 80.9% 증가한 수치다.

| 구분 | 수치 |
|---|---|
| 분석 대상 논문 | 56,381편(2020~2025, AI·ML·보안 8개 학회) |
| 분석한 인용 총량 | 2.2백만 건 |
| 무효 인용 포함 논문 비율(전체) | 1.07% |
| 2024년 비율 | 0.89% |
| 2025년 비율 | 1.61%(전년 대비 80.9% 증가) |

AI가 글쓰기를 돕는 일이 늘면서 존재하지 않는 자료가 실제 문서에 들어가는 문제도 나타나고 있다는 뜻이다. 가게 정보도 예외라고 단정하기 어렵다.

## 동네 가게 정보는 왜 더 조심해야 할까?

학술 논문에는 확인할 문헌과 데이터베이스가 있다. 하지만 동네 가게 정보는 애초에 확인할 공식 자료가 충분하지 않은 경우가 많다.

9월 16일 직접 확인한 챗GPT 답변에서는 인용 31건 가운데 자기 회사 홈페이지가 10건, 정부·공공기관이 3건, 티스토리가 1건이었다. 네이버 블로그와 브런치는 인용되지 않았다.

이런 환경에서는 가게의 영업 정보나 특징을 AI가 정확히 확인하기가 더 어려울 수 있다. 가게 정보를 AI가 읽고 답변에 넣게 하려면, AI가 확인할 수 있는 자료를 갖춰놓는 일이 중요해진다.

AI를 쓰는 사람도 빠르게 늘고 있다. 한국의 생성형 AI 이용률은 13.7%에서 31.6%로 높아졌지만, 단독자영업자의 이용률은 12.6%였다.

| 구분 | 수치 |
|---|---|
| 한국 AI 답변 신뢰도 | 20%(로이터, 2026) |
| 뉴스용 AI 주간 이용(세계) | 7%→10%(로이터, 2025→2026) |
| 한국 생성형 AI 이용률 | 13.7%→31.6%(KISDI, 2026.4) |
| 단독자영업자 AI 이용률 | 12.6%(KISDI, 2026.4) |
| 우리 실측 챗GPT 인용 31건 구성 | 자기 홈페이지 10·정부 3·티스토리 1·네이버블로그/브런치 0(9/16) |

AI 답변에 대한 한국인의 신뢰도는 20%였고, 세계적으로 뉴스용 AI의 주간 이용은 7%에서 10%로 늘었다. 믿음은 아직 높지 않은데 이용은 늘고 있는 상황이다.

그래서 사장님 입장에서는 AI를 믿을지 말지를 단순하게 정할 문제가 아니다. 고객이 AI에게 가게를 물어봤을 때 어떤 자료를 근거로 답하는지까지 살펴볼 필요가 있다.

① 13개 AI의 인용 37만5,440건을 조사했고 가짜 인용 비율은 14.23%~94.93%였다 ② GPT-5는 50.92%, 제미나이2.5프로는 59.47%, 클로드 소네트4는 21.84%였다 ③ 다른 조사에서도 클로드3.5소네트는 3.0%, 제미나이2.5프로 딥리서치는 13.3%였다 ④ 무효 인용 논문 비율은 2024년 0.89%에서 2025년 1.61%로 80.9% 증가했다

## 같이 읽을 글

 

- AI가 우리 가게 전화번호도 지어낼까?

- 우리 글은 왜 AI 답변에 안 들어갈까?

- 우리 가게가 챗GPT에 얼마나 나오는지 한 번에 알 수 있을까?

- 왜 제미나이는 맞고 챗GPT는 자꾸 틀릴까?
 

## 자료 출처

 

- GhostCite: A Large-Scale Analysis of Citation Validity in the Age of Large Language Models(Xu 외, 난카이대·칭화대, 2026.5)

- Detecting and Correcting Reference Hallucinations in Commercial LLMs and Deep Research Agents(Rao 외, 펜실베이니아대, 2026.4)

- CiteCheck: Retrieval-Grounded Detection of LLM Citation Hallucinations in Scientific Text(2026)

- Overview and key findings of the Digital News Report 2026(로이터저널리즘연구소, 2026.6)

- AI 포용 관점에서 본 생성형 인공지능(AI) 이용 격차(정보통신정책연구원 KISDI, 2026.4)