# AI에게 가격을 맡겨도 가게끼리 가격이 비슷해질까?

_사장님이 넣은 지시문 한 문장이 AI의 가격 판단을 바꿀 수 있다._

> 같은 가격 경쟁에서도 지시문 끝 문장에 따라 평균 가격이 경쟁 기준보다 17.5% 높거나 5.1% 낮았다. 경고문보다 손해배상형 벌칙과 경쟁자 추가가 더 크게 작동했다.

- 종류: 칼럼
- 주소: https://aisitekorea.com/column/ai-pricing-prompt-collusion-regulators
- 발행: AI사이트코리아 (https://aisitekorea.com)
- 작성일: 2026-10-01

AI에게 가격을 맡기면 사장님이 쓴 지시문도 가격을 정하는 데 들어간다. 실제 실험에서는 담합하라는 지시가 없어도 지시문 한 문장 차이로 평균 가격이 경쟁 기준보다 17.5% 높거나 5.1% 낮게 나타났다. 그래서 가격을 AI에 맡길 때는 가격 자체뿐 아니라 AI에게 어떤 판단 기준을 주고 있는지도 확인해야 한다.

AI의 가격 판단은 사장님이 쓴 지시문에 따라 달라질 수 있다.

## 담합하라고 하지 않았는데도 가격이 비슷해질 수 있나?

그럴 가능성은 실험에서 확인됐다. 미국 매사추세츠대 애머스트 연구자가 텔아비브대에서 진행한 실험에서 두 회사의 가격을 서로 다른 AI가 정하도록 했다. 두 AI는 직접 대화하지 않았고, 서로가 정한 가격만 볼 수 있었다.

한 판은 300번의 가격 결정으로 구성했다. AI는 매번 가격과 판매량, 이익을 확인하면서 다음 가격을 정했다. 지시문에는 원가와 가격 상한, 최근 100번의 시장 기록, 자신이 지난번에 남긴 계획과 메모가 들어갔다.

이번 실험에서는 값싼 모델인 딥시크 V3.1을 사용했다. 앞선 GPT-4 실험을 같은 구조로 다시 확인한 것이다.

## 지시문에서 딱 한 문장이 그렇게 중요한가?

두 지시문은 모두 장기 이익을 최대로 하라는 목표가 같았다. 달랐던 것은 마지막 문장이었다.

P1은 「수익성을 해치는 행동은 하지 말라」로 끝났다. P2는 「경쟁사보다 싸게 팔면 더 많이 팔린다」로 끝났다. 결과는 크게 달랐다.

P1의 평균 가격은 정규화 기준 1.730이었다. 경쟁 기준 가격 1.4729보다 17.5% 높았다. P2의 평균 가격은 1.398로 경쟁 기준보다 5.1% 낮았다.

| 항목 | P1 「수익성을 해치지 말라」 | P2 「싸게 팔면 더 팔린다」 |
|---|---|---|
| 판 수(각 300번) | 21 | 21 |
| 평균 가격(정규화) | 1.730 | 1.398 |
| 경쟁 기준(1.4729) 대비 | +17.5% | −5.1% |
| 담합 지수(0=경쟁, 1=독점) | 0.569 | −0.166 |
| 경쟁 기준보다 비싼 판 | 76% | 29% |
| 독점 가격보다 비싼 판 | 약 5% | 0% |
| P1·P2 차이 검정 p값 | 가격 0.00006 · 이익 0.00005 | |

두 지시문 사이의 차이는 가격과 이익 모두 통계적으로 뚜렷했다. 가격 차이의 p값은 0.00006, 이익 차이의 p값은 0.00005였다.

중요한 점은 두 지시문이 AI에게 새로운 시장 정보를 준 것이 아니라는 것이다. 앞선 GPT-4 실험에서는 P1의 AI도 가격을 낮추면 더 많이 팔린다는 사실을 알고 있었다. 달라진 것은 시장을 바라보는 방식이었다.

## 왜 「수익성을 해치지 말라」는 말이 가격을 올렸나?

연구자는 AI가 가격을 정한 뒤 남긴 계획 문장도 살펴봤다. 「가격 전쟁」이라는 말이 들어간 문장은 모두 1,610개였고, 이 가운데 53.4%가 P1, 46.6%가 P2에서 나왔다.

내용을 나눠 보니 차이가 더 분명했다. 「가격 전쟁을 피하자」는 문장의 73.5%가 P1에서 나왔다. 반대로 「가격 전쟁을 걸자·맞서자」는 문장의 69.7%가 P2에서 나왔다.

P1에서는 안정과 협조, 함께 이익을 최대로 하자는 내용의 문장이 P2보다 약 9배 자주 나왔다. P1의 AI는 가격을 내리면 상대도 가격을 내려 둘 다 손해를 볼 수 있다고 보고 가격을 잘 바꾸지 않았다.

| 분석 | 숫자 | 뜻 |
|---|---|---|
| 「가격 전쟁」 문장 | 1,610개(P1 53.4%·P2 46.6%) | 두 지시문 모두 가격 전쟁을 따졌다 |
| 「피하자」 문장 중 P1 비중 | 73.5% | P1은 값 내리기를 위험으로 봤다 |
| 「걸자」 문장 중 P2 비중 | 69.7% | P2는 값 내리기를 수단으로 봤다 |
| P1에서 가장 두드러진 문장 묶음 | P2보다 약 9배 | 안정·협조를 말하는 문장 |
| 자기 지난 가격 따라가는 정도 | P1 0.919 · P2 0.829 | P1 가격이 더 잘 안 움직였다 |
| 상대 지난 가격 따라가는 정도 | P1 0.077 · P2 0.165 | P2가 상대 가격에 더 민감했다 |

P2에서는 가격을 시험하고 판매량을 지키려는 움직임이 더 많았다. 실제로 자기 지난 가격을 따라가는 정도도 P1이 0.919, P2가 0.829였고, 상대의 지난 가격을 따라가는 정도는 P1 0.077, P2 0.165였다.

다만 여기서 조심할 점이 있다. 이번 실험에서는 지시문을 바꿔 넣은 뒤 다시 실험하는 인과 실험을 하지 않았다. 따라서 계획 문장 분석은 지시문과 AI의 행동 사이에 나타난 상관관계를 보여 주는 결과다.

## 「시장이 감시 중」이라고 써 놓으면 괜찮을까?

연구자는 가격이 경쟁 수준을 넘는 것을 막는 방법도 시험했다. 첫 번째 방법은 지시문에 공정거래 규제기관이 시장을 감시하고 있으며, 경쟁 수준을 넘는 가격이 계속되면 개입이나 처벌이 있을 수 있다는 경고를 넣는 것이었다.

결과는 효과가 있었지만 충분하지 않았다. P1의 담합 지수는 0.569에서 0.242로 약 57% 낮아졌다. 그런데도 P1 7판 가운데 6판, 즉 86%가 경쟁 기준보다 비쌌다.

두 번째 방법은 손해배상형 벌칙이었다. 경쟁 기준보다 비싸게 받은 만큼 손해배상액이 쌓이고, 가격이 높을수록 적발될 가능성도 올라가도록 해 그만큼을 이익에서 뺐다. AI에게 계산식 자체는 알려 주지 않고 줄어든 이익만 보여 줬다.

이 방법에서는 P1 평균 가격이 경쟁 기준보다 2.4% 높은 수준까지 내려갔다. 담합 지수도 0.080으로 낮아졌다. P1과 P2의 차이도 통계적으로 의미 있는 수준이 아니게 됐다.

세 번째 방법은 전략 없이 무작위로 가격을 정하는 경쟁자를 하나 더 넣는 것이었다. 이 조건에서는 P1과 P2 모두 7판씩, 모두 합쳐 14판 전부가 경쟁 기준보다 낮아졌다.

| 조건(각 7판) | P1 평균 가격 | P1 담합 지수 | P1 기준보다 비싼 판 | P2 평균 가격 | P2 기준보다 비싼 판 | P1·P2 차이 p값 |
|---|---|---|---|---|---|---|
| 규제 없음 | 1.730 | 0.569 | 100% | 1.398 | 29% | 0.0105 |
| 경고문 한 줄 | 1.582 | 0.242 | 86% | 1.453 | 57% | 0.2487 |
| 손해배상형 벌칙 | 1.508 | 0.080 | 43% | 1.432 | 29% | 0.4785 |
| 무작위 경쟁자 추가 | 1.325 | −0.367 | 0% | 1.290 | 0% | 0.0948 |

연구자는 이를 확정된 해법이 아니라 예비 증거로 설명했다. 말로 경고하는 방법보다 이익 계산을 바꾸거나 시장 참여자를 늘리는 방법이 경쟁 수준을 넘는 가격을 낮추는 데 더 크게 작동했다는 결과다.

## 실제로도 알고리즘 가격이 문제가 될 수 있나?

미국에서는 실제 사건도 있다. 미국 법무부는 2024년 8월 23일 임대료 추천 소프트웨어 회사 리얼페이지를 상대로 소송을 제기했다. 경쟁 임대인들의 비공개 자료를 한곳에 모아 임대료를 추천했다는 이유였다.

2025년 11월 24일 나온 합의안에는 경쟁사의 비공개 자료를 가격 계산에 실시간으로 쓰지 않는 내용이 들어갔다. 학습에는 최소 12개월 지난 자료만 쓰고, 지역도 주보다 잘게 나누지 않으며, 가격 인하를 막거나 가격을 서로 맞추게 하는 기능은 없애거나 고치도록 했다. 법원이 지정한 감시인도 두도록 했다.

국내에서도 공정거래위원회는 가격 동조화와 가격 인하 회피 패턴을 데이터로 찾아내는 방향을 밝혔다. 알고리즘 자체를 불법으로 보는 것은 아니다. 재고 관리나 수요 예측처럼 효율을 높이는 용도로도 쓰이기 때문이다.

국회에는 여러 사업자가 같은 알고리즘을 함께 사용해 가격을 정하면 합의가 있었다고 추정하는 공정거래법 개정안도 발의돼 있다. 다만 아직 통과된 법은 아니다.

| 구분 | 내용 | 시점·상태 |
|---|---|---|
| 미국 법무부 vs 리얼페이지 | 경쟁사 비공개 자료 실시간 사용 금지, 학습 자료 12개월 이상 지난 것만, 주 단위 미만 지역 구분 금지, 인하 억제 기능 제거, 감시인 | 소송 2024.8.23 → 합의안 2025.11.24, 벌금 없음 |
| 공정위 | 가격 동조화·인하 회피 패턴을 데이터로 탐지, 경제분석국 신설 추진 | 2026.6 보도 |
| 공정거래법 개정안 | 같은 알고리즘을 함께 써서 가격을 정하면 합의 추정 | 발의 단계(2026.5 보도) |
| 이번 실험 | 경고문 1줄 

- AI가 대신 결제하면 정직한 가게가 더 유리할까?

- AI에게 물어볼수록 가게가 비슷해질까?

- AI에게 가게를 1년 맡겨도 될까?

- AI가 고른 광고, 그대로 따라도 될까?
 

## 자료 출처

 

- Mitigating Emergent Collusion in LLM Pricing Agents(매사추세츠대 애머스트·텔아비브대, arXiv 2609.13037, 2026.9, 딥시크 V3.1 21판×2·규제 조건 7판씩)

- 같은 논문 HTML 본문(표 1~3·부록 A·G 경고문)

- Algorithmic Collusion by Large Language Models(하버드 등, arXiv 2404.00806, 2024.3 최초·2026.8 개정, GPT-4 21판×2, EC 2026 채택)

- DOJ Settles Its Algorithmic Price-Fixing Case Against RealPage(윌슨 손시니, 2025.11 합의안 정리)

- RealPage settles rent price-fixing suit with DOJ(멀티패밀리 다이브, 2025.11)

- 「담합이요? AI가 정해준 가격인데요」… 공정위 입증 어떻게?(파이낸셜뉴스, 2026.6)

- AI 알고리즘 담합도 잡는다… 공정거래법 개정 추진(브릿지경제, 2026.5)

- AI 가격담합·플랫폼 갑질 다룬다… 대학생 「모의 공정위」 개최(뉴스핌, 2026.8)