# 출처만 붙으면 고객은 더 믿을까?

_AI 답변에서는 출처의 존재만으로 신뢰가 올라갈 수 있다. 하지만 출처가 있다고 정확한 답이 되는 것은 아니다._

> 303명 실험에서 인용이 붙자 신뢰가 유의미하게 올랐다. 반면 틀린 AI 답도 80%가 그대로 받아들였고, AI 검색 결과를 믿지 않는 소비자도 53%였다.

- 종류: 칼럼
- 주소: https://aisitekorea.com/column/citation-boosts-trust-not-accuracy
- 발행: AI사이트코리아 (https://aisitekorea.com)
- 작성일: 2026-09-30

AI 답변에 출처가 붙으면 고객이 답을 더 믿을 가능성이 높아진다. 실제 실험에서는 인용이 붙었을 때 신뢰도가 유의미하게 올랐고, 계수는 +0.394였다. 하지만 출처가 붙었다고 답의 내용까지 정확해지는 것은 아니다.

출처는 신뢰를 높이지만, 정확성을 보장하지는 않는다.

## 출처만 붙으면 정말 더 믿을까?

이 질문을 확인한 실험이 있다. 참가자는 303명이었고, 질문별 응답을 비교한 건 약 3,040건이었다. 인용이 붙은 답은 인용이 없는 답보다 신뢰도가 유의미하게 높았다.

그런데 여기서 중요한 결과가 하나 더 나왔다. 인용을 무작위로 붙였을 때는 신뢰 하락이 통계적으로 뚜렷하지 않았다. 즉, 인용이 실제 내용과 잘 맞는지 확인하지 않은 상황에서는 인용의 존재 자체가 신뢰에 영향을 줄 수 있었다.

| 항목 | 결과 |
|---|---|
| 참가자 수 | 303명 |
| 비교한 응답 건수 | 약 3,040건 |
| 인용 있음 → 신뢰 상승 | 계수 +0.394(표준오차 0.0906, 유의미) |
| 무작위 인용 → 신뢰 하락 | 계수 -0.268(표준오차 0.087, 유의미하지 않음, t=-0.877·p=0.38) |
| 인용을 실제로 클릭·확인한 경우 | 신뢰 점수 유의미하게 하락 |

## 출처가 붙었는데도 내용을 확인하지 않는다고?

그렇다. 이 실험에서는 인용을 실제로 클릭하거나 확인한 경우에 신뢰 점수가 유의미하게 떨어졌다. 반대로 인용을 직접 확인하지 않는 상황에서는 무작위 인용이 붙었다고 해서 신뢰가 뚜렷하게 낮아지지는 않았다.

이 결과를 동네 가게 입장에서 보면 의미가 분명하다. AI가 고객에게 가게 정보를 설명하면서 출처를 보여주는 것과, 그 출처가 실제 가게 정보를 정확하게 담고 있는 것은 서로 다른 문제다.

출처가 있다는 사실은 신뢰를 높일 수 있다. 하지만 고객이 출처를 직접 확인하지 않는다면, 그 출처가 실제로 답을 뒷받침하는지는 지나칠 수 있다.

| 항목 | 수치 |
|---|---|
| 인용이 있으면 답이 신뢰감 있어 보임 | 유의미하게 증가 |
| 인용을 클릭·확인하는 행동 | 소수만 발생(호버 시에만 신뢰 하락 관측) |
| 소비자의 AI 검색 결과 자체에 대한 불신 | 53%(미국 소비자 377명, 2025년 6~7월) |
| "AI 개요가 검색을 더 답답하게 만든다" 응답 | 41% |
| "AI 요약을 켜고 끄는 기능을 원한다" 응답 | 61% |

## AI가 틀린 답을 해도 고객은 믿을까?

AI가 답을 틀렸을 때 사람이 얼마나 그대로 받아들이는지를 본 조사도 있다. 참가자는 1,372명이었고, 3개 실험에서 약 1만 회의 시행이 이뤄졌다.

그 결과 참가자의 80%가 AI가 내놓은 틀린 답을 그대로 받아들였다. AI를 사용한 참가자는 AI 없이 답한 사람보다 자신의 답에 대한 확신이 11.7%포인트 높았고, 이 확신 상승은 AI의 답이 맞을 때와 틀릴 때 모두 나타났다.

더 주의할 결과도 있다. AI가 설명 없이 확신에 찬 말투로 틀린 답을 했을 때 정답률은 31.5%까지 떨어졌는데도, 참가자의 약 80%는 그 답을 그대로 따랐다.

가게 정보도 마찬가지로 생각할 필요가 있다. AI가 가게 이름이나 영업시간, 제공하는 서비스 같은 정보를 잘못 답했는데 출처까지 붙어 있다면, 고객은 그 답을 더 쉽게 사실로 받아들일 수 있다.

| 항목 | 수치 |
|---|---|
| 실험 참가자 | 1,372명(3개 실험, 시행 약 1만 회) |
| 틀린 AI 답을 그대로 받아들인 비율 | 80% |
| AI 사용 시 확신 상승분(정답·오답 무관) | +11.7%포인트 |
| 설명 없이 확신에 찬 오답일 때 정답률 | 31.5% |
| 그런 오답도 그대로 따른 비율 | 약 80% |

## 그럼 출처를 찾아 답하게 하면 문제가 해결될까?

출처를 찾아 답을 만드는 방식인 RAG가 오류를 줄이는 데 도움이 되는 경우는 있다. 여러 근거를 찾아 답을 만들게 하면 환각이 줄고 정확도가 높아진 사례도 확인됐다.

하지만 RAG를 사용한다고 오류가 사라지는 것은 아니다. 같은 종류의 문헌 정리 작업에서도 모델마다 오류 비율에 큰 차이가 있었고, 인용을 자동으로 만드는 법률 AI 도구도 17~33%의 오류 비율을 보였다.

| 대상 | 환각(오류) 비율 | 조사 |
|---|---|---|
| GPT-3.5(문헌 정리 작업) | 39.6%(55/139) | 의학저널 비교분석, 2024 |
| GPT-4(문헌 정리 작업) | 28.6%(34/119) | 의학저널 비교분석, 2024 |
| Bard(문헌 정리 작업) | 91.4%(95/104) | 의학저널 비교분석, 2024 |
| 법률 AI 도구 3종(인용 자동 생성) | 17~33% | 법학 저술 조사, 2025 |
| 자기점검형 RAG(환자 시나리오 250건, 12가지 방식 중 최저) | 5.8% | 임상 시나리오 비교 |

## 그래도 정확한 가게 정보를 준비하는 게 의미가 있을까?

의미가 있다. 인용 자체가 신뢰를 높일 수 있다고 해서 출처의 내용이 중요하지 않은 것은 아니다. 검색으로 근거를 여러 개 모아 답을 만드는 방식에서 환각이 40% 이상 감소하고 정확도가 79.13%로 개선된 사례도 있다.

세부 조정을 거친 근거 기반 답에서는 사실 정확도가 21.2%포인트 높아졌고, 자기점검형 방식에서는 임상 성능이 기초 방식보다 89% 향상됐다. 즉, 근거를 찾아 답하게 만드는 방식은 실제 정확도를 높이는 데 도움이 될 수 있지만, 오류를 완전히 없애는 방법은 아니다.

| 방식 | 개선 수치 |
|---|---|
| 근거를 여러 개 모아 만든 답(다중증거 방식) | 환각 40% 이상 감소·정확도 79.13%로 개선 |
| 세부 조정을 거친 근거 기반 답(파인튠 방식) | 사실 정확도 +21.2%포인트 |
| 자기점검형 방식(환자 시나리오 250건) | 임상 성능 89% 향상(기초 방식 대비) |

## 결국 출처가 중요할까, 정확한 정보가 중요할까?

둘 중 하나만 챙길 문제는 아니다. AI 답변에서 출처는 고객이 답을 신뢰하게 만드는 요소가 될 수 있고, 정확한 정보는 그 답이 실제 내용과 맞는지를 결정한다.

특히 고객이 출처를 직접 확인하지 않는 경우가 많다면 출처가 있다는 사실만으로도 답이 믿을 만하게 보일 수 있다. 그렇기 때문에 가게 정보가 AI 답변에 들어가길 원한다면, 단순히 출처가 붙는 것보다 AI가 참고할 수 있는 가게 정보 자체가 정확하게 준비돼 있는지가 중요하다.

AI 검색 결과 자체를 믿지 않는 소비자도 53%였다. "AI 개요가 검색을 더 답답하게 만든다"는 응답도 41%였고, AI 요약을 켜고 끄는 기능을 원한다는 응답은 61%였다.

결국 고객은 AI 답변을 무조건 믿는 것도 아니고, 무조건 확인하는 것도 아니다. 출처가 붙으면 신뢰가 높아질 수 있지만, 그 출처가 실제 가게 정보를 정확하게 뒷받침하는지는 별개의 문제다.

요점 ① 인용이 붙으면 신뢰가 계수 +0.394만큼 유의미하게 높아졌다. ② 무작위 인용을 붙였을 때 신뢰 하락은 뚜렷하지 않았고 p=0.38이었다. ③ 틀린 AI 답을 참가자의 80%가 그대로 받아들였다. ④ 미국 소비자의 53%는 AI 검색 결과 자체를 믿지 않는다고 응답했다.

## 같이 읽을 글

 

- AI가 우리 가게 전화번호도 지어낼까?

- 가짜 후기는 AI 답변까지 흔들 수 있나?

- AI가 우리 홈페이지를 먼저 인용하게 하려면 뭘 챙겨야 할까?

- 우리 글은 왜 AI 답변에 안 들어갈까?
 

## 자료 출처

 

- Citations and Trust in LLM Generated Responses(arXiv, 2025, 참가자 303명·응답 약 3,040건)

- 위 실험 리뷰 정리(Pith Review, 계수·통계값 정리)

- Hallucination Rates and Reference Accuracy of ChatGPT and Bard for Systematic Reviews(의학저널 비교분석, 2024)

- Gartner Survey Finds 53% of Consumers Distrust AI-Powered Search Results(가트너, 2025.9.3, 미국 소비자 377명·2025년 6~7월 조사)

- 80 Percent of People Believe AI Even When It's Totally Wrong(Inc., 실험 3개·참가자 1,372명·시행 약 1만 회 조사 보도)

- 법률 AI 인용·환각 비교 조사(법학 저술, 2025)

- RAG·AI 신뢰 통계 2026 정리(cmarix)