# AI가 만든 가짜 계정이 우리 가게 순위를 올릴 수 있을까?

_지휘 AI가 움직인 가짜 계정 무리는 기존 공격보다 추천 노출을 155.1~198.4% 더 끌어올렸다._

> 해외 연구에서 지휘 AI가 움직인 가짜 계정 무리는 기존 공격보다 추천 상위 노출을 155.1~198.4% 높였고 탐지 정확도는 0.328~0.400까지 떨어졌다.

- 종류: 칼럼
- 주소: https://aisitekorea.com/column/ai-fake-account-teams-game-platform-rankings
- 발행: AI사이트코리아 (https://aisitekorea.com)
- 작성일: 2026-10-14

배달앱이나 쇼핑몰에서 갑자기 경쟁 가게가 위로 올라오는 일이 있다. 최근 연구에서는 AI 하나가 여러 가짜 계정을 움직여 추천 순위를 흔드는 실험이 진행됐다. 같은 조건에서 이 방식은 기존 공격보다 추천 상위 10개 진입 비율을 155.1~198.4% 높였다.

작은 가게가 이 기술을 직접 걱정해야 한다는 뜻은 아니다. 중요한 점은 플랫폼 순위가 항상 가게의 실제 가치만으로 만들어지는 것은 아니라는 점이다. 순위 하나에 매출을 모두 맡긴 가게라면, 순위 밖에서도 고객이 가게를 이해할 근거를 쌓아야 한다.

추천 순위는 고객 행동으로 만들어지기 때문에, 고객 행동을 흉내 내는 가짜 계정에 영향을 받을 수 있다.

## AI가 정말 여러 가짜 계정을 움직일 수 있나?

호주 그리피스대 등 연구진은 추천 시스템을 대상으로 AI가 여러 가짜 계정을 조정하는 공격을 실험했다. 대상은 「이 상품을 본 사람이 이것도 봤다」처럼 고객의 클릭·평점·구매 기록을 이용해 추천하는 방식이다.

기존 방식은 여러 가짜 계정이 비슷한 행동을 하면서 목표 상품을 띄우는 형태였다. 이번 연구에서 시험한 방식은 지휘 AI가 계정마다 역할을 나누고, 상황에 따라 활동을 조절하는 형태였다.

연구진은 실제 운영 중인 배달앱이나 쇼핑몰을 공격한 것이 아니다. 공개된 추천 자료를 이용해 추천 방식을 다시 만들고 시험한 연구다. 따라서 한국 플랫폼에서 같은 결과가 그대로 나온다는 뜻은 아니다.

| 실험 조건 | 내용 |
|---|---|
| 자료 | 공개 추천 자료 6종(영화 평점 4종, 아마존 상품 후기, 더우반 영화) |
| 시험한 추천 방식 | 11가지 |
| 견준 기존 공격 | 11가지(규칙형·최적화형·AI 에이전트형) |
| 견준 탐지기 | 5가지(그중 무리 단위 탐지 2가지) |
| 공격 진행 | 18회차까지, 5번 반복 평균 |
| 비교 원칙 | 모든 방식에 같은 가짜 계정 수·같은 행동 한도 |

## 얼마나 쉽게 순위를 올릴 수 있었나?

연구진은 인기 없는 상품을 추천 상위 10개 안에 넣는 상황을 시험했다. 결과는 새 방식이 비교한 기존 공격보다 높았다.

표의 숫자는 시험 이용자 가운데 목표 상품이 추천 상위 10개에 들어간 비율에 1,000을 곱한 값이다. 예를 들어 40.0은 시험 이용자의 4.0%에게 목표 상품이 상위 10개로 추천됐다는 뜻이다.

| 자료·추천 방식(일부) | 공격 없음 | 기존 공격 중 최고 | 새 방식 |
|---|---|---|---|
| 영화 평점 10만 건 자료 | 1.8 | 13.6 | 40.0 |
| 아마존 상품 후기 자료 | 0.4 | 5.8 | 16.1 |
| 넷플릭스 평점 자료 | 0.6 | 6.3 | 18.2 |

연구진은 20개 조건 모두에서 새 방식이 가장 높은 결과를 냈다고 밝혔다. 가장 강한 기존 공격보다 155.1~198.4% 높았다.

또 다른 이용자가 받는 추천 품질도 비교 대상 가운데 공격이 없을 때와 가장 가까웠다고 설명했다. 추천 시스템 전체가 크게 망가지지 않으면 플랫폼이나 고객이 이상 징후를 알아차리기 어려울 수 있다.

## AI 공격은 플랫폼이 바로 찾아낼 수 있나?

가짜 계정이 움직이면 플랫폼은 보통 비슷한 행동 패턴을 찾아낸다. 기존 공격은 연구용 탐지기에 비교적 잘 잡혔다.

하지만 이번 연구에서는 계정별 행동을 다르게 만들어 탐지 정확도가 낮아졌다. 연구용 탐지기 5종의 정확도는 기존 공격에서 0.755~0.942였지만 새 방식에서는 0.328~0.400이었다.

| 탐지기 5종 결과(자료 5종) | 기존 공격 3종 | 새 방식 |
|---|---|---|
| 정확도 | 0.755~0.942 | 0.328~0.400 |
| F1 점수(잡아낸 정도와 정확도를 합친 점수) | 0.668~0.927 | 0.287~0.352 |
| 탐지기 종류 | 계정 단위 3종 + 무리 단위 2종 | 같음 |

연구진은 목표 상품을 추천 상위 10개에 처음 넣는 데 약 24분, AI 사용량은 수만 토큰이면 충분했다고 밝혔다. 비교한 다른 AI 에이전트 공격은 수백만 토큰이 들었고, 학습형 공격은 준비에만 몇 시간이 걸렸다.

다만 실제 플랫폼은 계정 인증, 구매 인증, 결제 기록 등 여러 방어 방법을 함께 사용한다. 연구용 탐지 결과가 실제 서비스의 방어 수준과 같다고 볼 수는 없다.

## 국내에서도 순위가 가게에 영향을 준 사례가 있었나?

가짜 계정 공격과는 다르지만, 플랫폼 순위가 이용자 눈에 보이지 않는 이유로 바뀐 국내 사례도 있었다. 공정거래위원회는 2024년 쿠팡 검색 순위와 후기 운영에 대해 판단을 내렸다.

공정위는 쿠팡이 알고리즘으로 자기 상품을 검색 상위에 고정 노출하고, 임직원이 PB상품 후기를 작성했다고 판단했다. 쿠팡은 이 판단을 받아들일 수 없다며 행정소송과 집행정지 신청 방침을 밝혔다.

| 공정위 판단(2024년) | 숫자 |
|---|---|
| 검색 상위에 고정 노출한 자기 상품 | 최소 6만 4,250개 |
| 후기를 쓴 임직원 / 대상 PB상품 | 2,297명 / 7,342개 |
| 임직원 후기 / 평균 별점 | 7만 2,614건 / 4.8점 |
| 상위 100위 안 PB상품 비율(내부 자료) | 56.1% → 88.4% |
| 영향받은 입점업체 | 21만 곳 |
| 과징금 | 1,400억 원(6월) → 1,628억 원(8월 최종) |

이 사건은 플랫폼 내부 운영 문제이고, AI 가짜 계정 실험은 외부 공격자의 문제다. 하지만 입점한 가게 입장에서는 공통점이 있다. 순위가 바뀐 이유를 가게가 바로 알기 어렵다는 점이다.

## 플랫폼 순위에 기대는 가게는 무엇을 준비해야 하나?

사장님이 플랫폼의 추천 알고리즘이나 탐지 기술을 바꿀 수는 없다. 대신 순위가 흔들려도 고객이 가게를 판단할 수 있는 정보를 따로 만들어야 한다.

메뉴, 가격, 서비스 특징, 실제 고객 후기 같은 내용을 자기 홈페이지에도 남겨야 한다. 플랫폼 안에서만 보이는 정보가 아니라 가게가 직접 관리할 수 있는 정보가 필요하다.

| 할 일 | 근거 숫자 |
|---|---|
| 매출을 한 플랫폼 순위에만 걸지 않고, 메뉴·가격·후기 원문을 자기 홈페이지에도 둔다 | 실험에서 가짜 계정 무리가 노출을 기존 공격보다 155.1~198.4% 더 올림 |
| 경쟁 상품이 갑자기 상위로 뛰면 날짜·검색어·순위를 저장해 플랫폼에 신고한다 | 연구용 탐지기 정확도가 0.328~0.400으로 떨어짐 |
| 같은 검색어로 우리 순위를 매주 한 번 기록한다 | 알고리즘 조정으로 상위 100위 안 PB 비율이 56.1%→88.4%로 바뀜 |
| 후기는 실제 구매 고객에게만 받고, 직원·체험 후기는 섞지 않는다 | 임직원 후기 7만 2,614건이 고객 유인 행위로 판단됨 |
| 홈페이지 후기에는 날짜와 구체적인 이용 내용을 함께 싣는다 | 새 방식의 가짜 기록은 진짜 이용자 기록 사이에 흩어져 구별이 어려웠음 |

같은 검색어에서 우리 가게 순위가 어떻게 변하는지도 기록해야 한다. 날짜와 검색어, 순위를 남겨 두면 갑작스러운 변화가 생겼을 때 확인과 신고에 도움이 된다.

후기는 실제 고객 경험 중심으로 관리해야 한다. 직원이나 체험 후기가 섞이면 신뢰를 잃을 수 있다. 홈페이지 후기에는 작성 날짜와 구체적인 이용 내용이 함께 있어야 한다.

## 이 연구 결과를 그대로 믿어도 될까?

이 연구는 공개된 영화 평점과 상품 후기 자료를 이용한 실험이다. 실제 배달앱이나 쇼핑앱에서 같은 방식으로 공격한 결과는 아니다.

또 연구용 탐지기 5종을 사용했기 때문에 실제 플랫폼이 가진 탐지 기술과 차이가 있을 수 있다. 해외 연구이므로 한국 플랫폼 추천 방식에 그대로 적용할 수도 없다.

하지만 방향은 생각해 볼 수 있다. 앞으로 AI가 플랫폼 순위와 후기를 읽고 고객에게 상품이나 가게를 추천하는 일이 늘어나면, 순위의 흔들림이 AI 답변에도 영향을 줄 수 있다.

그럴수록 가게 홈페이지에 있는 사실 정보와 실제 고객 경험 기록은 중요한 근거가 된다. 플랫폼 순위만 바라보는 구조에서 벗어나, 고객이 직접 확인할 수 있는 정보를 쌓는 것이 필요하다.

① 지휘 AI가 움직인 가짜 계정 무리는 기존 공격보다 추천 상위 노출을 155.1~198.4% 높였다. ② 연구용 탐지기 5종 정확도는 기존 공격 0.755~0.942에서 새 방식 0.328~0.400으로 낮아졌다. ③ 목표 상품을 추천 상위 10개에 넣는 데 약 24분과 수만 토큰이 필요했다. ④ 국내 플랫폼 사례에서도 상위 100위 안 PB상품 비율이 56.1%에서 88.4%로 바뀐 판단이 있었으므로 순위 하나에 의존하지 말아야 한다.

## 같이 읽을 글

 

- 이벤트로 후기를 많이 받으면 가짜 후기로 잡힐까?

- AI가 쓴 나쁜 후기는 어떻게 알아볼까?

- 배민이 AI로 가게를 고르면, 사장님은 무엇을 관리해야 할까?

- AI가 우리 가게 순위도 마음대로 바꿀 수 있나?
 

## 자료 출처

 

- An Efficient and Effective Agentic Group Shilling Attack on Recommender Systems(호주 그리피스대·이디스코완대·퀸즐랜드대, 베트남 HUTECH대·arXiv 2609.09551·2026년 9월 제출, 공개 자료 6종·추천 방식 11가지·탐지기 5종)

- 같은 논문 HTML 본문(표 I 인기 없는 상품 노출, 표 II 탐지 성능, 표 III AI 크기별 결과, V-F절 비용)

- 「1400억원 폭탄」…쿠팡 과징금, 韓단일기업 역대 최고액(뉴시스·2024년 6월 13일, 임직원 2,297명·후기 7만 2,614건·6만 4,250개 고정 노출)

- 공정위, PB상품 「검색순위 조작」 쿠팡에 과징금 1400억 폭탄…소송전 수순(데일리안·2024년 6월, 상위 100위 PB 비율 56.1%→88.4%·입점업체 21만 곳)

- 공정위, 「순위 조작」 쿠팡에 과징금 1628억원…유통업계 최대(쿠키뉴스·2024년 8월 7일, 228억 원 추가·행정소송 방침)