가짜 후기는 AI 답변까지 흔들 수 있나?

아마존 베스트셀러 상품 리뷰 약 3만 건 가운데 909건, 3%가 AI 생성물로 판정됐다. 생성형 AI가 가짜 정보를 만들 뿐 아니라 그것을 걸러내는 과정과 검증 체계에도 영향을 줄 수 있다는 국제 조사도 나왔다. 동네 가게도 후기의 개수나 별점만 볼 것이 아니라, 그 후기가 AI가 참고하는 자료가 될 수 있다는 점까지 살펴야 한다.

우리 가게 후기에도 가짜가 섞일 수 있나

실제로 가짜 후기는 플랫폼의 큰 문제만은 아니다. 리뷰 탐지 회사 팬그램 랩스가 2026년 아마존 베스트셀러 500개 상품의 리뷰 약 3만 건을 확인한 결과, 909건이 높은 확신도로 AI 생성물로 판정됐다.

AI 생성 리뷰 가운데 74%는 별점 5점이었고, 93%에는 "검증된 구매" 표시가 붙어 있었다. 뷰티 카테고리에서는 AI 생성 리뷰 비율이 5%로 더 높았다.

이 결과에서 중요한 점은 별점이나 구매 표시만으로 후기의 진위를 판단하기 어렵다는 것이다. 가게 입장에서도 후기 개수와 별점 평균만 보고 후기 관리가 잘되고 있다고 판단하기는 어렵다.

세계경제포럼은 2021년 기준으로 가짜 후기가 세계 소비 지출에 미치는 영향을 152억 달러 규모로 추정했다. 가짜 후기는 단순히 후기 한두 개의 문제가 아니라 소비자가 정보를 판단하는 환경 전체에 영향을 줄 수 있는 문제로 다뤄지고 있다.

AI가 가짜 후기를 찾아내면 해결되는 것 아닌가

탐지 기술은 발전하고 있다. 영국 이스트런던대 연구팀은 2026년 5월 아마존 리뷰 데이터에서 93%, 옐프 리뷰 데이터에서 91%의 정확도로 가짜 리뷰를 가려내는 시스템을 공개했다.

다만 이 숫자는 연구팀이 확보한 표본에서 나온 결과다. 연구팀도 더 크고 다양한 데이터셋이 필요하다고 밝혔다.

여기서 동네 가게가 주목할 부분은 탐지 기술이 있다는 사실보다 한계가 있다는 점이다. 오정보 생태계에 관한 국제 공동 연구는 생성형 AI가 가짜 정보를 만드는 역할뿐 아니라, 가짜 정보를 걸러내는 역할과 검증 체계 자체의 약점이 되는 역할까지 할 수 있다고 지적했다.

따라서 가짜 후기를 찾아내는 기술만으로 모든 문제를 해결하기는 어렵다. 새로운 방식으로 만들어진 후기가 탐지 체계를 피할 가능성까지 함께 봐야 한다는 뜻이다.

가짜 후기를 잘못 관리하면 실제 처벌도 받나

후기 조작은 실제 제재로 이어지고 있다. 미국은 2024년 10월 21일부터 가짜 후기와 후기 매매를 금지하는 규정을 시행했고, 위반 1건당 최대 51,744달러의 민사 벌금을 물릴 수 있도록 했다.

다만 미국에서 2025년 12월 22일 처음 이뤄진 조치는 이름을 밝히지 않은 10개 업체에 대한 경고장이었고, 벌금이 확정된 사례는 공개되지 않았다.

한국에서는 실제 사건이 이어졌다. 공정거래위원회는 2024년 6월 쿠팡의 검색 순위 조작과 임직원 동원 후기 문제에 과징금 1,400억 원을 부과했다.

직원을 동원해 수천 건의 가짜 후기를 남긴 생활용품업체에는 2022년 6월 과징금 1억 4,000만 원이 부과됐다. 2026년 1월 23일에는 불만족 후기를 비공개 처리한 쇼핑몰 2곳이 각각 과태료 500만 원을 받았다.

처벌 규모는 사건마다 크게 다르다. 하지만 동네 가게 입장에서 특히 기억할 부분은 큰 기업의 대규모 조작만 문제가 되는 것이 아니라는 점이다.

동네 가게에서도 실제로 벌어졌나

동네 업종과 가까운 사례도 있다. 배달의민족은 2021년 한 해에만 가짜 후기 11만여 건을 차단했고, 2021년 5월에는 한 이용자가 350차례에 걸쳐 가짜 후기를 작성한 것이 적발됐다.

다른 조사에서는 네이버에 남긴 후기 15건 가운데 14건이 시간이 지나도 삭제되지 않고 남아 있었고, 다른 플랫폼에서도 8건 가운데 7건이 남아 있었다. 같은 조사에서 오픈채팅방을 관찰한 결과, 1시간 동안 후기 작성 아르바이트 모집 글이 49건 올라왔다.

적발 사례에 등장한 업종도 양꼬치집, 게스트하우스, 펜션, 애견용품점, 통증 병원 등 다양했다. 후기 조작은 대기업만의 문제가 아니라 동네에서 고객을 만나는 업종에서도 발생할 수 있다는 뜻이다.

왜 이제는 후기 관리만 보면 안 되나

오정보 생태계를 정리한 국제 공동 연구가 중요한 이유는 후기 조작을 단순히 가짜 글의 숫자로만 보지 않았다는 데 있다. 연구팀은 생성형 AI가 관여하는 위험을 콘텐츠 자체, 콘텐츠가 퍼지는 사회적 맥락, AI가 답을 만들 때 근거로 삼는 자료 환경, 사실을 걸러내는 검증 절차로 나눴다.

후기 조작은 이 가운데 특히 AI가 답변을 만들 때 참고하는 자료 환경과 연결된다. 챗GPT나 다른 생성형 AI가 동네 가게를 설명하거나 추천할 때 후기 사이트의 내용이 참고 자료가 될 수 있기 때문에, 그 자료가 오염되면 AI의 답변도 영향을 받을 수 있다.

이 점에서 후기 관리는 단순히 별점을 높이는 일이 아니다. 실제 고객의 경험이 제대로 남아 있는지, 후기 정보가 왜곡되지 않는지, 플랫폼의 검증과 삭제 절차가 제대로 작동하는지를 함께 살펴야 한다.

특히 불만족 후기를 임의로 숨기거나 삭제하는 방식은 작은 문제로 넘길 일이 아니다. 2026년 1월 23일 쇼핑몰 2곳에 각각 500만 원의 과태료가 부과된 사례처럼 후기의 표현을 관리하는 방식 자체가 문제가 될 수 있다.

결국 가게의 후기는 고객이 보는 정보인 동시에 AI가 가게를 설명할 때 참고할 수 있는 자료이기도 하다. 그래서 후기 관리는 좋은 평가를 많이 쌓는 것보다 실제 고객 경험이 왜곡되지 않도록 관리하는 데서 출발해야 한다.

같이 읽을 글

• AI는 고객 후기를 어떻게 골라서 보여줄까?
• 가짜 글로 AI 답을 흔드는 공격, 우리 가게도 막을 수 있나?
• AI는 가게가 지어낸 사실을 걸러낼 수 있을까?
• AI가 우리 홈페이지를 먼저 인용하게 하려면 뭘 챙겨야 할까?

자료 출처

• Large Language Models in Misinformation Ecosystems: Misuse, Defense, and Vulnerability(arXiv, Wei·Hu·Zhou·Hu·Yu, 2026.7 제출, 35쪽)
• Three percent of front-page Amazon reviews are now AI-generated(Pangram Labs, 2026, 아마존 500개 베스트셀러·약 3만 건 표본)
• AI system spots fake reviews with 93% accuracy on Amazon, 91% on Yelp(Tech Xplore·이스트런던대, 2026.5.21)
• Federal Trade Commission Announces Final Rule Banning Fake Reviews and Testimonials(FTC, 2024.8)
• The Consumer Reviews and Testimonials Rule: Questions and Answers(FTC 공식 안내)
• Fake Reviews, Consumer Trust, and Enforcement: The 2026 Landscape(everything-pr.com, 2026)
• Fake online reviews cost $152 billion a year(World Economic Forum, 2021)
• 공정위, 쿠팡에 과징금 1400억···"검색순위 조작, 직원 동원 리뷰"(경향신문, 2024.6.13)
• 공정위, '가짜 후기 작성' 인터넷쇼핑몰 2곳 시정조치(이투데이, 2026.1)
• 리뷰 조작, 못 잡나 안 잡나(단비뉴스, 2024)