# 고객이 직접 쓴 후기도 AI 글로 오해받을까?

_AI 탐지기의 오탐은 도구에 따라 크게 달랐다_

> SNS 40곳 중 2/3 이상이 AI 콘텐츠 규정을 두고 있지만, 사람 글을 AI로 잘못 판단하는 비율은 0.1%부터 61.3%까지 차이가 컸다. 실제 국내 제재는 AI 여부보다 후기 조작이 기준이었다.

- 종류: 칼럼
- 주소: https://aisitekorea.com/column/ai-detectors-may-flag-real-reviews
- 발행: AI사이트코리아 (https://aisitekorea.com)
- 작성일: 2026-09-26

고객이 직접 쓴 짧은 후기가 AI 글로 오해받을 가능성은 평범한 상황에서는 낮다. 다만 문장이 지나치게 정형화됐거나, 실제 경험 없이 만든 후기라면 이야기가 달라진다. 특히 국내에서 실제 과징금을 받은 사례의 기준은 AI 사용 여부가 아니라 후기 조작 여부였다.

고객이 직접 남긴 후기는 그대로 두는 것이 중요하고, 대필이나 조작으로 후기를 채우는 것은 피해야 한다.

## “SNS가 AI 글을 가려낸다”는 게 무슨 뜻인가

먼저 SNS가 AI 글을 찾아내는 기술을 모두 갖췄다는 뜻은 아니다. 이번에 조사된 논문은 인기 SNS·플랫폼 40곳이 AI로 만든 콘텐츠를 어떤 규정으로 다루는지 살펴본 연구다.

조사 대상 가운데 2/3 이상인 약 68%가 AI 콘텐츠 규정을 명시하고 있었다. 다만 대부분의 규정은 AI 글을 자동으로 판별해 차단하는 방식보다, 기존 규칙 위반을 중재하거나 AI로 만든 콘텐츠임을 공시하게 하는 데 초점이 맞춰져 있었다.

| 항목 | 수치 | 비고 |
|---|---|---|
| 조사 대상 SNS·플랫폼 | 40곳 | 인기 소셜미디어 플랫폼 |
| AI 콘텐츠 규정을 명시한 플랫폼 | 2/3 이상(약 68%) | 6개 주제 영역으로 분류 |
| 규정의 중심 내용 | 기존 규칙 위반 중재 + AI 생성 여부 공시 | 대부분의 플랫폼 |
| 소유권·수익화까지 다루는 곳 | 창작·지식공유 중심 플랫폼만 | 소수에 그침 |

따라서 “SNS가 사람 글과 AI 글을 정확하게 구별해서 고객 후기를 잡아낸다”고 이해하면 안 된다. AI 콘텐츠를 어떻게 표시하고 관리할 것인지에 관한 규정과, 실제로 AI 여부를 판별하는 탐지 도구는 별개의 문제다.

## “그럼 AI 탐지기가 사람 후기를 잘못 잡지는 않나?”

실제로 사람 글을 AI가 쓴 글로 잘못 판단하는 오탐은 있다. 문제는 탐지 도구마다 그 비율이 크게 다르다는 점이다.

2025년 8월 시카고 부스 경영대학원이 사람 글 1,992건과 AI 글 1,992건으로 구성한 자료를 이용해 상용 탐지기를 검증했다. 이 벤치마크에서 최고 성능 도구의 사람 글 오탐률은 약 0.1%였고, GPTZero는 0.24%였다.

반면 Originality.ai는 오탐률이 4.79%였다. 같은 사람 글이라도 어떤 탐지 도구를 사용하느냐에 따라 결과가 달라질 수 있다는 뜻이다.

| 도구·연구 | 사람 글을 AI로 오판한 비율 | 표본·조건 | 시점 |
|---|---|---|---|
| 시카고 부스 벤치마크 최고 성능★ | 약 0.1%(1,000건 중 1건) | 사람 글 1,992건+AI 글 1,992건, 테스트 3,000건 | 2025.8 |
| GPTZero★ | 0.24%(400건 중 1건), 정확도 99.3% | 같은 벤치마크 | 2025.8 |
| Originality.ai★ | 4.79%(20건 중 1건), 정확도 83.0% | 같은 벤치마크 | 2025.8 |
| 탐지기 7종·비영어권 글 실험 | 평균 61.3%, 91% 이상이 1개 이상 도구에 걸림 | TOEFL 에세이 91편 | 2023(2026 재인용) |

특히 문체가 표준적이지 않을수록 오탐 위험이 커진다는 실험 결과도 있다. 비영어권 글을 대상으로 한 실험에서는 평균 오탐률이 61.3%였고, TOEFL 에세이 91편 가운데 91% 이상이 적어도 하나의 탐지 도구에서 AI 글로 판단됐다.

다만 이 실험은 영어 글을 대상으로 한 것이다. 그래서 이 수치를 한국어 고객 후기에 그대로 적용할 수는 없다. 그래도 문장이 정형화되어 있을수록 AI 탐지 결과를 조심해서 볼 필요가 있다는 점은 확인할 수 있다.

## “탐지기보다 고객이 먼저 의심할 수도 있나?”

그럴 수 있다. AI 후기에 대한 소비자의 불신도 이미 나타나고 있다.

2026년 2월 미국·영국·캐나다·호주 소비자 1,375명을 대상으로 한 조사에서는 40%가 AI로 생성된 후기를 접해본 적이 있다고 답했다. AI 후기를 신뢰하지 않는다는 응답은 62.3%였고, 신뢰한다는 응답은 5.1%였다.

| 항목 | 수치 |
|---|---|
| AI 생성 후기를 접해본 적 있다 | 40% |
| AI 생성 후기의 존재 자체를 몰랐다 | 39% |
| AI 후기를 신뢰하지 않는다 | 62.3% |
| AI 후기를 신뢰한다 | 5.1% |
| 후기를 아예 안 읽는 이유로 AI 콘텐츠를 꼽음 | 22% |

즉 고객이 후기를 읽을 때도 문장이 지나치게 매끄럽거나 상투적이면 AI로 만든 글이라고 의심할 수 있다. 탐지 도구가 후기를 걸러내는 문제만 있는 것이 아니라, 실제 고객이 읽고 느끼는 신뢰의 문제도 함께 봐야 한다.

## “한국에서는 AI로 쓴 후기 자체를 단속하나?”

지금까지 확인된 국내 실제 제재 사례에서 핵심은 AI를 사용했는지가 아니었다. 실제 경험하지 않은 일을 후기처럼 꾸몄는지가 문제였다.

대표적인 사례로 생활용품업체가 직원을 고용해 수천 건의 가짜 후기를 작성한 사건이 있다. 이 사건에서는 표시광고법 위반으로 과징금 1억 4,000만 원이 부과됐다.

| 사례 | 내용 |
|---|---|
| 생활용품업체 가짜 후기 사건 | 직원을 고용해 수천 건의 후기를 작성, 표시광고법 위반으로 과징금 1억 4,000만 원 |
| AI 가상인물 광고 표시 의무 | 공정거래위원회, AI 가상인물을 광고에 쓸 경우 「가상인물」임을 표시하도록 함(2026.6~) |
| 배달 플랫폼의 실시간 판별 | 리뷰 등록 순간 시스템이 허위 여부를 실시간으로 판별하는 체계 도입 |

이 사례에서 중요한 것은 후기 작성에 AI가 사용됐느냐가 아니다. 실제 고객 경험을 바탕으로 하지 않은 후기를 만들어 올렸다는 점이다.

AI가 후기를 빠르게 만들어낼 수 있다는 점과 실제 후기 조작이 단속 대상이라는 점은 구분해서 봐야 한다. AI라는 도구 자체보다 후기의 진위와 표시 방식이 더 중요한 문제다.

## “그럼 우리 가게 후기는 어떤 경우가 위험한가?”

고객이 직접 경험하고 짧게 남긴 자연스러운 후기는 상대적으로 위험이 낮다. 최고 성능 탐지기의 오탐률이 0.1%, GPTZero가 0.24%였다는 벤치마크 결과도 이런 상황을 볼 때 참고할 수 있다.

다만 같은 문구를 반복해서 사용하는 정형화된 후기라면 주의할 필요가 있다. 정형화된 문체일수록 오탐 위험이 높아질 수 있다는 실험 결과가 있기 때문이다.

직원이나 대행업체가 고객인 것처럼 후기를 대신 작성하는 경우는 더 다르다. 실제 국내 과징금 사례가 있는 만큼, 단순히 AI 탐지기에 걸릴까를 걱정할 문제가 아니라 후기 자체가 조작으로 판단될 수 있는지를 봐야 한다.

AI로 후기를 만들어 표시 없이 올리는 경우도 별도의 주의가 필요하다. SNS 40곳 가운데 2/3 이상이 AI 콘텐츠 관련 규정을 두고 있기 때문이다.

| 상황 | 위험도 | 근거 |
|---|---|---|
| 고객이 직접 짧고 자연스럽게 남긴 후기 | 낮음 | 최고 성능 탐지기 오탐률 0.1~0.24% |
| 표준화된 문구를 반복하는 후기(예: 정형 템플릿) | 중간 | 정형화된 문체일수록 오탐 위험 상승(비영어권 실험 61.3%) |
| 직원·대행업체가 대필한 후기 | 높음 | 국내 실제 과징금 사례(1억 4,000만 원) |
| AI로 후기를 생성해 표시 없이 올림 | 높음 | SNS 40곳 중 2/3가 AI 콘텐츠 규정 보유, 위반 시 제재 가능 |

결국 가게에 필요한 것은 AI 탐지기를 피하는 후기 작성법이 아니다. 실제 고객이 직접 남긴 후기를 그대로 쌓는 것이 가장 분명한 기준이다.

후기를 더 자연스럽게 보이게 만들려고 문장을 대신 써주거나, 비슷한 표현을 반복해서 만들 필요도 없다. 실제 고객의 짧은 한마디라도 경험에서 나온 후기라면 그 자체로 의미가 있다.

요점 ① SNS·플랫폼 40곳 중 2/3 이상인 약 68%가 AI 콘텐츠 규정을 두고 있다 요점 ② 사람 글 오탐률은 탐지 도구에 따라 약 0.1%부터 4.79%까지 달랐고, 비영어권 실험에서는 평균 61.3%였다 요점 ③ AI 후기를 신뢰하지 않는 소비자는 62.3%였고, 신뢰한다는 응답은 5.1%였다 요점 ④ 국내 가짜 후기 과징금 사례는 1억 4,000만 원으로, 핵심은 AI 사용 여부보다 후기 조작이었다

## 같이 읽을 글

 

- 후기는 어디에 있어야 AI가 읽을까?

- AI가 쓴 글이면 챗GPT가 외면할까?

- 우리 홈페이지도 '대량 콘텐츠 남용'에 걸릴 수 있나?
 

## 자료 출처

 

- Governance of AI-Generated Content: A Case Study on Social Media Platforms(Gao 외, arXiv, 2026.3, CHI 2026 발표 예정, 플랫폼 40곳 조사)

- GPT detectors are biased against non-native English writers(Liang 외, 스탠퍼드, arXiv, 2023 제출·2026 재인용, TOEFL 에세이 91편)

- 시카고 부스 AI 탐지 벤치마크 결과★(GPTZero 발표, 2025.8, 표본 3,984건)

- 온라인 리뷰 통계 2026: 소비자 신뢰·AI 후기★(피스드컨슈머, 2026.2, 응답자 1,375명)

- AI가 만든 별점 4.8의 배신(머니투데이, 2026.7)

- "사진도 후기도 못 믿겠다"…쇼핑 플랫폼, 'AI 가짜 리뷰'와 전쟁(데일리안, 2026)

- 리뷰 조작, 못 잡나 안 잡나(단비뉴스, 리뷰 조작의 세계)