AI는 가게의 새 가격과 옛 가격 중 무엇을 믿을까?

같은 SNS 글을 두 번 보여 주자 AI의 선택이 30.04%포인트 움직였다

홈페이지에 새 가격을 올렸는데 옛 가격이 블로그와 업체 목록에 남아 있다면 AI가 옛 가격을 답할 수도 있다. 연구에서는 같은 SNS 글을 두 번 보여 주자 정부 출처를 따르던 선택이 평균 30.04%포인트 움직였다. 그래서 가게 정보를 바꿀 때는 홈페이지 한 곳만 고쳐서는 부족하다.

AI는 출처를 따르지만, 같은 말이 여러 번 보이면 흔들릴 수 있다.

홈페이지의 새 가격만 고치면 되나?

그렇지 않다. 여러 곳에 서로 다른 정보가 남아 있으면 AI가 어느 정보를 답에 넣을지 판단해야 한다. 이때 출처가 있는 정보가 없는 정보보다 선택될 가능성이 높았고, 정부나 신문 같은 기관 출처가 개인이나 SNS보다 앞서는 경향도 나타났다.

하이델베르크대와 하이델베르크 이론연구소 연구진은 공개형 AI 모델 13종을 시험했다. 실제 사람이나 가게의 정보가 아니라 가상 대상 373개와 서로 다른 정보 쌍 7,440개를 만들어 비교했기 때문에 AI가 원래 알고 있던 지식의 영향을 줄인 실험이다.

항목	내용
조사 주체	독일 하이델베르크대·하이델베르크 이론연구소 연구진
공개	2026년 1월(4월 수정판)
대상 모델	공개형 AI 모델 13종(큐원·올모·라마·젬마, 30억~720억 매개변수)
자료	가상 대상 373개, 서로 다른 정보 쌍 7,440개(순서를 바꿔 2번씩)
언어·방식	영어, 두 답 중 하나를 고르는 방식

AI는 어떤 출처를 더 믿었나?

출처가 표시된 정보와 표시되지 않은 정보가 부딪히면 13종 모두 출처가 표시된 쪽을 골랐다. 13종 가운데 11종은 기관 출처를 개인·SNS 출처보다 앞에 뒀다. 같은 신문이라도 발행 부수가 많은 쪽을, 같은 SNS라도 팔로워가 많은 쪽을 더 믿었다.

비교	결과
출처 표시 있음 vs 없음	13종 모두 출처가 표시된 쪽
정부·신문 vs 개인·SNS	13종 중 11종이 기관 쪽
발행 부수·팔로워 많음 vs 적음	모두 더 큰 쪽
성별·나이·학위 표시	영향 약함
「답할 수 없음」 선택지를 줄 때	13종 중 8종은 그 선택지에 준 확률이 10% 미만

AI가 항상 출처의 믿을 만한 정도를 완벽하게 판단한다는 뜻은 아니다. 「답할 수 없음」을 고를 수 있게 했을 때도 13종 중 8종은 그 선택지에 준 확률이 10% 미만이었다. 판단하기 어려워도 대부분 한쪽을 골랐다.

그런데 옛 정보가 여러 번 보이면 어떻게 되나?

연구진은 가장 덜 믿던 SNS 출처와 가장 믿던 정부 출처를 맞세웠다. SNS 계정 두 곳이 같은 내용을 각각 적은 표 두 개를 보여 주자 모든 모델이 SNS 쪽으로 기울었다.

같은 SNS 계정의 같은 글을 두 번 보여 주기만 해도 정부 출처를 따르던 선택이 평균 30.04%포인트 움직였다. 출처의 믿을 만한 정도만으로 결과가 정해지는 것이 아니라, 같은 정보가 반복해서 보이는 것도 영향을 줬다.

상황(정부 출처 1개와 맞섬)	선택 이동(평균)	결과
다른 SNS 계정 2곳, 표 2개	33.90%포인트	SNS 쪽으로 뒤집힘
다른 SNS 계정 2곳, 표 1개에 함께	6.17%포인트	정부 쪽 유지
같은 SNS 글을 2번	30.04%포인트	되풀이된 쪽으로 뒤집힘

두 SNS 계정의 같은 내용을 한 표에 함께 적은 경우에는 정부 쪽 선호가 거의 유지됐다. 반대로 같은 글을 따로 두 번 보여 주자 되풀이된 정보 쪽으로 선택이 크게 움직였다.

이번 실험은 영어로 진행됐고, 챗GPT나 제미나이 같은 상용 서비스를 직접 시험한 것도 아니다. 연구진도 다른 언어에서는 출처를 믿는 순서가 달라질 수 있다고 적었다.

실제 AI 서비스에서도 비슷한 일이 있었나?

있었다. 뉴스가드는 2025년 3월 주요 AI 챗봇 10종을 시험해 친러시아 「프라우다」 사이트망이 퍼뜨린 거짓 주장이 33% 비율로 되풀이됐다고 발표했다.

이 사이트망은 2024년에만 기사 360만 건을 냈다. 뉴스가드가 2026년 1월 다시 시험했을 때는 거짓 주장 5개에 대해 절반의 경우 챗봇이 사실처럼 답했다.

조사	시점	결과
뉴스가드, 챗봇 10종	2025년 3월	거짓 주장 되풀이 33%
같은 사이트망 기사 수	2024년	360만 건
뉴스가드 재시험(거짓 주장 5개)	2026년 1월	절반의 경우 사실처럼 답함
같은 사이트망 규모	2025년	사이트 약 370곳, 기사 약 600만 건

프랑스24 보도에 따르면 영어보다 핀란드어·덴마크어·슬로베니아어처럼 덜 쓰이는 언어에서 거짓 정보가 더 쉽게 퍼졌다.

한국 가게 정보는 무엇이 다를까?

한국어 AI 답에서 이번 실험과 똑같은 결과가 나온다고 확인된 것은 아니다. 다만 네이버는 AI 브리핑과 AI 검색 결과에 사용한 콘텐츠의 70%가 블로그·카페 같은 이용자 글이라고 밝혔다.

홈페이지에 새 가격을 적어도 여러 블로그 글과 업체 목록에 옛 가격이 남아 있다면, 옛 정보가 AI 눈에 띌 기회가 더 많을 수 있다. 이것은 실험 결과를 한국에 적용한 판단이고, 실제로 잰 수치는 아니다.

가격을 바꿀 때 무엇부터 고쳐야 하나?

먼저 홈페이지의 가격과 영업시간을 고친다. 그다음 지도·플레이스·예약 앱·업체 목록처럼 같은 정보를 적어 둔 곳을 찾아 같은 날 고친다.

가게 블로그의 옛 글도 그대로 두기보다 가격이 바뀌었다는 안내와 새 가격을 덧붙인다. 가게 이름·주소·영업시간도 모든 곳에서 같은 표기로 관리한다. 구글 업체 정보 지침에서도 가게 이름은 간판·홈페이지·인쇄물에 쓰는 실제 이름과 같아야 하고, 주소와 영업시간은 정확해야 한다고 정하고 있다.

할 일	근거
가격·영업시간을 바꾸면 지도·플레이스·예약 앱·업체 목록도 같은 날 고친다	같은 말이 2번 보이면 선택이 30.04%포인트 이동
가게 블로그의 옛 글에는 「가격 변경」 안내와 새 가격을 덧붙인다	옛 정보가 여러 곳에 남으면 되풀이 효과
가게 이름·주소·시간을 모든 곳에서 같은 표기로 쓴다	구글 업체 정보 지침
홈페이지 정보에 「언제 확인한 정보인지」 날짜를 적는다	13종 모두 출처가 표시된 정보를 더 믿음
AI에 우리 가게 가격·시간을 물어 옛 정보가 나오면 인용 출처를 확인한다	거짓 주장 되풀이 33%, 2026년 재시험 절반

홈페이지에는 정보를 언제 확인했는지 날짜를 적어 둔다. 13종 모두 출처가 표시된 정보를 더 많이 골랐기 때문이다. 마지막으로 AI에 가게의 가격과 영업시간을 직접 물어본다. 옛 정보가 나온다면 어떤 출처가 인용됐는지 확인하고, 그 출처의 정보를 고친다.

① AI 모델 13종 모두 출처가 표시된 정보를 더 믿었고, 11종은 기관 출처를 개인·SNS보다 앞에 뒀다. ② 같은 SNS 글을 2번 보여 주자 정부 출처를 따르던 선택이 평균 30.04%포인트 움직였다. ③ 뉴스가드의 2025년 3월 시험에서 챗봇 10종은 거짓 주장을 33% 비율로 되풀이했다. ④ 네이버는 AI 브리핑과 AI 검색 결과에 사용한 콘텐츠의 70%가 블로그·카페 같은 이용자 글이라고 밝혔다.

같이 읽을 글

자료 출처

작성일 2026년 9월 26일 · 고침 2026년 9월 27일

#홈페이지 #정보 충돌 #출처 신뢰 #반복 #정보 일치

← 칼럼 목록