AI가 우리 가게 정보를 틀리게 말하면 어떻게 될까?

학계에서도 가짜 인용이 걸러지지 않는다면, 동네 가게는 정확한 정보를 먼저 갖춰야 한다

AI는 없는 정보를 만들어낼 수 있다. 문제는 학계처럼 검증 절차가 있는 곳에서도 가짜 인용이 발견된다는 점이다. 2025년 한 해에만 실제로 존재하지 않는 것으로 확인된 참고문헌이 14만 6,932건이었다.

학계도 가짜 정보를 완전히 걸러내지 못하는데, 동네 가게 정보는 무엇을 근거로 AI가 정확하게 답할 수 있을까.

논문도 가짜 참고문헌을 다 걸러내지 못하나?

이번 조사는 논문 250만 편에 들어간 참고문헌 1억 1,100만 건을 확인했다. 대상은 arXiv·bioRxiv·SSRN·PubMed Central 네 곳이었다. 실제 존재하는 논문 데이터베이스와 대조해 인용된 논문이 실제로 존재하는지를 확인했다.

그 결과 2025년 한 해에만 최소 14만 6,932건의 참고문헌이 실제로 존재하지 않는 것으로 확인됐다. 연구진은 이 수치를 보수적으로 잡은 추정치라고 밝혔다.

항목	수치
감사한 참고문헌	1억 1,100만 건
감사한 논문	250만 편
대상 저장소	arXiv·bioRxiv·SSRN·PubMed Central 4곳
2025년 가짜 인용 추정치(보수적)	14만 6,932건
발표 시점	2026년 5월(2025년 데이터 기준)

학계에는 사람이 논문을 읽고 검토하는 동료심사가 있다. arXiv에도 공개 전에 확인하는 중재 절차가 있다. 그런데 조사에서는 가짜 인용의 78.8%가 arXiv 중재를 그대로 통과했다.

중재에서 걸러진 비율은 21.2%였다. 가짜 인용 하나하나의 오류율은 학회 대부분에서 1% 미만이었지만, 논문 한 편 안에 여러 개의 가짜 참고문헌이 섞이는 문제는 별도로 나타났다.

NeurIPS·USENIX Security 등 주요 학회에서는 논문 20편 중 1편꼴인 5%가 그럴듯해 보이는 가짜 참고문헌을 2건 이상 포함하고 있었다. 가짜 인용이 드물어 보여도 검증 절차를 거친 논문 안에 실제로 섞일 수 있다는 뜻이다.

단계	수치
arXiv 중재를 그대로 통과한 가짜 인용 비율	78.8%
중재에서 걸러진 비율	21.2%
가짜 인용 2건↑ 포함 논문 비율(NeurIPS·USENIX 등)	5%(20편 중 1편)
학회 대부분의 인용 단위 오류율	1% 미만
2023년 대비 2025년 조작 비율 증가폭	12배 이상

가짜 인용은 모든 연구자에게 똑같이 나타난 것이 아니었다. 소규모 팀과 신진 연구자의 논문에서 특히 자주 나타났다.

같은 그룹의 논문 생산 속도는 AI가 널리 쓰이기 시작한 뒤 약 3배 빨라졌다. 반면 가짜 인용이 붙는 대상은 이미 저명한 학자에게 쏠리는 경향을 보였다.

의학 분야도 예외는 아니었다. 별도 조사에서는 임상시험 논문 28편과 체계적 검토 논문 79편이 이런 가짜 인용의 영향을 받은 것으로 나타났다.

동네 가게에는 논문처럼 동료심사나 중재 절차가 없다. AI가 영업시간·가격·위치를 답변할 때 그 정보가 맞는지 확인해 줄 별도의 검증 절차도 없다.

이 차이가 중요하다. 학계에서는 가짜 인용이 발견되면 문제를 확인하고 제재할 수 있지만, 가게 정보는 애초에 AI가 참고할 정확한 자료가 충분히 정리돼 있지 않을 수 있다.

로컬 비즈니스 정보에서도 이런 문제가 확인됐다. 스키마 마크업이 빠진 비율은 73%였고, 발리 지역 음식점 4,776곳을 조사했더니 85.6%가 AI로부터 추천받지 못했다.

학계에서는 이미 대응이 시작됐다. arXiv는 AI가 만든 가짜 인용이 적발되면 1년간 게재를 금지하는 조치를 시행하고 있다.

가짜 인용 조작 비율은 2023년 대비 2025년에 12배 이상 늘었다는 경고도 나왔다. 가짜 인용 문제가 단순한 실수가 아니라 관리해야 할 문제로 다뤄지고 있다는 뜻이다.

동네 가게는 순서가 다르다. 사후에 AI가 틀린 답을 고치기를 기다리기보다, AI가 답을 만들 때 참고할 수 있는 정확한 자료를 먼저 갖춰야 한다.

가격표와 영업시간, 주소처럼 고객이 실제로 확인해야 하는 정보를 한곳에 정확하게 정리해 두는 것이 출발점이다. AI에게 정보를 잘 전달하려면 먼저 AI가 읽을 수 있는 정확한 정보가 있어야 한다.

학계에서도 검증 절차를 거친 뒤 가짜 인용이 발견된다. 동네 가게에는 그보다 촘촘한 검증 절차가 없기 때문에, AI가 틀릴 가능성을 줄이려면 정확한 정보를 먼저 제공하는 것이 중요하다.

요점 ① 2025년 가짜 참고문헌은 14만 6,932건이었다. 요점 ② 가짜 인용의 78.8%는 arXiv 중재를 통과했다. 요점 ③ 로컬 비즈니스 스키마 마크업 누락 비율은 73%였다. 요점 ④ 발리 음식점 4,776곳 중 85.6%는 AI 추천을 받지 못했다.

작성일 2026년 9월 30일

#AI의 눈 #할루시네이션 #인용검증 #학술논문 #신뢰성