AI에게 가격을 맡겨도 가게끼리 가격이 비슷해질까?

사장님이 넣은 지시문 한 문장이 AI의 가격 판단을 바꿀 수 있다.

AI에게 가격을 맡기면 사장님이 쓴 지시문도 가격을 정하는 데 들어간다. 실제 실험에서는 담합하라는 지시가 없어도 지시문 한 문장 차이로 평균 가격이 경쟁 기준보다 17.5% 높거나 5.1% 낮게 나타났다. 그래서 가격을 AI에 맡길 때는 가격 자체뿐 아니라 AI에게 어떤 판단 기준을 주고 있는지도 확인해야 한다.

AI의 가격 판단은 사장님이 쓴 지시문에 따라 달라질 수 있다.

담합하라고 하지 않았는데도 가격이 비슷해질 수 있나?

그럴 가능성은 실험에서 확인됐다. 미국 매사추세츠대 애머스트 연구자가 텔아비브대에서 진행한 실험에서 두 회사의 가격을 서로 다른 AI가 정하도록 했다. 두 AI는 직접 대화하지 않았고, 서로가 정한 가격만 볼 수 있었다.

한 판은 300번의 가격 결정으로 구성했다. AI는 매번 가격과 판매량, 이익을 확인하면서 다음 가격을 정했다. 지시문에는 원가와 가격 상한, 최근 100번의 시장 기록, 자신이 지난번에 남긴 계획과 메모가 들어갔다.

이번 실험에서는 값싼 모델인 딥시크 V3.1을 사용했다. 앞선 GPT-4 실험을 같은 구조로 다시 확인한 것이다.

지시문에서 딱 한 문장이 그렇게 중요한가?

두 지시문은 모두 장기 이익을 최대로 하라는 목표가 같았다. 달랐던 것은 마지막 문장이었다.

P1은 「수익성을 해치는 행동은 하지 말라」로 끝났다. P2는 「경쟁사보다 싸게 팔면 더 많이 팔린다」로 끝났다. 결과는 크게 달랐다.

P1의 평균 가격은 정규화 기준 1.730이었다. 경쟁 기준 가격 1.4729보다 17.5% 높았다. P2의 평균 가격은 1.398로 경쟁 기준보다 5.1% 낮았다.

항목	P1 「수익성을 해치지 말라」	P2 「싸게 팔면 더 팔린다」
판 수(각 300번)	21	21
평균 가격(정규화)	1.730	1.398
경쟁 기준(1.4729) 대비	+17.5%	−5.1%
담합 지수(0=경쟁, 1=독점)	0.569	−0.166
경쟁 기준보다 비싼 판	76%	29%
독점 가격보다 비싼 판	약 5%	0%
P1·P2 차이 검정 p값	가격 0.00006 · 이익 0.00005

두 지시문 사이의 차이는 가격과 이익 모두 통계적으로 뚜렷했다. 가격 차이의 p값은 0.00006, 이익 차이의 p값은 0.00005였다.

중요한 점은 두 지시문이 AI에게 새로운 시장 정보를 준 것이 아니라는 것이다. 앞선 GPT-4 실험에서는 P1의 AI도 가격을 낮추면 더 많이 팔린다는 사실을 알고 있었다. 달라진 것은 시장을 바라보는 방식이었다.

왜 「수익성을 해치지 말라」는 말이 가격을 올렸나?

연구자는 AI가 가격을 정한 뒤 남긴 계획 문장도 살펴봤다. 「가격 전쟁」이라는 말이 들어간 문장은 모두 1,610개였고, 이 가운데 53.4%가 P1, 46.6%가 P2에서 나왔다.

내용을 나눠 보니 차이가 더 분명했다. 「가격 전쟁을 피하자」는 문장의 73.5%가 P1에서 나왔다. 반대로 「가격 전쟁을 걸자·맞서자」는 문장의 69.7%가 P2에서 나왔다.

P1에서는 안정과 협조, 함께 이익을 최대로 하자는 내용의 문장이 P2보다 약 9배 자주 나왔다. P1의 AI는 가격을 내리면 상대도 가격을 내려 둘 다 손해를 볼 수 있다고 보고 가격을 잘 바꾸지 않았다.

분석	숫자	뜻
「가격 전쟁」 문장	1,610개(P1 53.4%·P2 46.6%)	두 지시문 모두 가격 전쟁을 따졌다
「피하자」 문장 중 P1 비중	73.5%	P1은 값 내리기를 위험으로 봤다
「걸자」 문장 중 P2 비중	69.7%	P2는 값 내리기를 수단으로 봤다
P1에서 가장 두드러진 문장 묶음	P2보다 약 9배	안정·협조를 말하는 문장
자기 지난 가격 따라가는 정도	P1 0.919 · P2 0.829	P1 가격이 더 잘 안 움직였다
상대 지난 가격 따라가는 정도	P1 0.077 · P2 0.165	P2가 상대 가격에 더 민감했다

P2에서는 가격을 시험하고 판매량을 지키려는 움직임이 더 많았다. 실제로 자기 지난 가격을 따라가는 정도도 P1이 0.919, P2가 0.829였고, 상대의 지난 가격을 따라가는 정도는 P1 0.077, P2 0.165였다.

다만 여기서 조심할 점이 있다. 이번 실험에서는 지시문을 바꿔 넣은 뒤 다시 실험하는 인과 실험을 하지 않았다. 따라서 계획 문장 분석은 지시문과 AI의 행동 사이에 나타난 상관관계를 보여 주는 결과다.

「시장이 감시 중」이라고 써 놓으면 괜찮을까?

연구자는 가격이 경쟁 수준을 넘는 것을 막는 방법도 시험했다. 첫 번째 방법은 지시문에 공정거래 규제기관이 시장을 감시하고 있으며, 경쟁 수준을 넘는 가격이 계속되면 개입이나 처벌이 있을 수 있다는 경고를 넣는 것이었다.

결과는 효과가 있었지만 충분하지 않았다. P1의 담합 지수는 0.569에서 0.242로 약 57% 낮아졌다. 그런데도 P1 7판 가운데 6판, 즉 86%가 경쟁 기준보다 비쌌다.

두 번째 방법은 손해배상형 벌칙이었다. 경쟁 기준보다 비싸게 받은 만큼 손해배상액이 쌓이고, 가격이 높을수록 적발될 가능성도 올라가도록 해 그만큼을 이익에서 뺐다. AI에게 계산식 자체는 알려 주지 않고 줄어든 이익만 보여 줬다.

이 방법에서는 P1 평균 가격이 경쟁 기준보다 2.4% 높은 수준까지 내려갔다. 담합 지수도 0.080으로 낮아졌다. P1과 P2의 차이도 통계적으로 의미 있는 수준이 아니게 됐다.

세 번째 방법은 전략 없이 무작위로 가격을 정하는 경쟁자를 하나 더 넣는 것이었다. 이 조건에서는 P1과 P2 모두 7판씩, 모두 합쳐 14판 전부가 경쟁 기준보다 낮아졌다.

조건(각 7판)	P1 평균 가격	P1 담합 지수	P1 기준보다 비싼 판	P2 평균 가격	P2 기준보다 비싼 판	P1·P2 차이 p값
규제 없음	1.730	0.569	100%	1.398	29%	0.0105
경고문 한 줄	1.582	0.242	86%	1.453	57%	0.2487
손해배상형 벌칙	1.508	0.080	43%	1.432	29%	0.4785
무작위 경쟁자 추가	1.325	−0.367	0%	1.290	0%	0.0948

연구자는 이를 확정된 해법이 아니라 예비 증거로 설명했다. 말로 경고하는 방법보다 이익 계산을 바꾸거나 시장 참여자를 늘리는 방법이 경쟁 수준을 넘는 가격을 낮추는 데 더 크게 작동했다는 결과다.

실제로도 알고리즘 가격이 문제가 될 수 있나?

미국에서는 실제 사건도 있다. 미국 법무부는 2024년 8월 23일 임대료 추천 소프트웨어 회사 리얼페이지를 상대로 소송을 제기했다. 경쟁 임대인들의 비공개 자료를 한곳에 모아 임대료를 추천했다는 이유였다.

2025년 11월 24일 나온 합의안에는 경쟁사의 비공개 자료를 가격 계산에 실시간으로 쓰지 않는 내용이 들어갔다. 학습에는 최소 12개월 지난 자료만 쓰고, 지역도 주보다 잘게 나누지 않으며, 가격 인하를 막거나 가격을 서로 맞추게 하는 기능은 없애거나 고치도록 했다. 법원이 지정한 감시인도 두도록 했다.

국내에서도 공정거래위원회는 가격 동조화와 가격 인하 회피 패턴을 데이터로 찾아내는 방향을 밝혔다. 알고리즘 자체를 불법으로 보는 것은 아니다. 재고 관리나 수요 예측처럼 효율을 높이는 용도로도 쓰이기 때문이다.

국회에는 여러 사업자가 같은 알고리즘을 함께 사용해 가격을 정하면 합의가 있었다고 추정하는 공정거래법 개정안도 발의돼 있다. 다만 아직 통과된 법은 아니다.

구분	내용	시점·상태
미국 법무부 vs 리얼페이지	경쟁사 비공개 자료 실시간 사용 금지, 학습 자료 12개월 이상 지난 것만, 주 단위 미만 지역 구분 금지, 인하 억제 기능 제거, 감시인	소송 2024.8.23 → 합의안 2025.11.24, 벌금 없음
공정위	가격 동조화·인하 회피 패턴을 데이터로 탐지, 경제분석국 신설 추진	2026.6 보도
공정거래법 개정안	같은 알고리즘을 함께 써서 가격을 정하면 합의 추정	발의 단계(2026.5 보도)
이번 실험	경고문 1줄 < 손해배상형 벌칙 < 경쟁자 추가	시뮬레이션·7판씩

그럼 사장님은 지시문에서 무엇을 확인해야 하나?

동네 가게가 실험과 똑같은 상황을 겪는 경우는 드물다. 하지만 숙박·펜션 요금 자동 조정, 온라인 쇼핑몰 가격 자동 변경, 여러 가게가 같은 가격 추천 프로그램을 사용하는 경우에는 확인할 부분이 있다.

먼저 지시문 끝에 어떤 문장이 들어가 있는지 봐야 한다. 「손해 보지 마라」처럼 수익성을 지키는 데 초점을 둔 문장이 가격을 낮추지 않는 방향으로 작동할 가능성을 실험에서 확인했기 때문이다.

다음으로 AI가 어떤 경쟁사 가격을 참고하는지 확인해야 한다. 이번 실험에서는 AI끼리 직접 대화하지 않아도 상대가 정한 가격을 볼 수 있었다. 어떤 경쟁사 가격이 AI의 판단에 들어가는지 목록으로 정리해 두는 것이 필요하다.

같은 가격 추천 프로그램을 주변 가게들도 사용하는지도 확인할 필요가 있다. 또 최저가 고정이나 인하 폭 제한처럼 가격을 내리는 행동을 막는 설정이 있는지도 살펴봐야 한다.

AI가 가격을 정한 이유나 메모를 남긴다면 그 내용도 읽어 보는 것이 좋다. 「서로」, 「안정」, 「가격 전쟁을 피하자」 같은 표현이 반복되는지 확인할 수 있다. 마지막으로 가격 변경 전에 사람이 승인하고 기록을 남기는 방식도 점검 대상이다.

점검할 것	실험에서 나온 근거	확인 방법
지시문 끝 문장	한 문장 차이로 가격 +17.5% vs −5.1%	「손해 보지 마라」류 문장이 있는지 보고, 원문을 날짜별로 보관
경쟁사 가격을 넣는지	두 AI가 서로 가격만 보고도 같이 움직였다	어떤 경쟁사 가격이 들어가는지 목록으로 정리
같은 프로그램을 쓰는지	국회 개정안이 「같은 알고리즘 공동 사용」을 겨냥	근처 가게들이 같은 업체 추천을 받는지 확인
값 내리기를 막는 설정	리얼페이지 합의안이 인하 억제 기능 제거를 요구	최저가 고정, 인하 폭 제한 설정이 있는지 확인
AI의 메모·이유 문장	P1 메모에 「가격 전쟁을 피하자」가 몰렸다	AI가 남긴 이유에 「서로」, 「안정」 같은 말이 반복되는지 읽어 보기
최종 결정은 사람이	경고문만으로는 7판 중 6판이 기준보다 비쌌다	가격 변경 전 사람이 승인하고 기록 남기기

이 실험을 어디까지 믿어야 하나?

이번 결과를 모든 AI와 실제 가게에 그대로 적용해서는 안 된다. 실험에 사용한 모델은 딥시크 V3.1 하나였고, 후보 모델 다섯 개 가운데 딥시크 V3는 혼자 가격을 정하는 사전 시험을 통과하지 못했다.

규제 실험도 조건마다 7판이라 표본이 작다. 무작위 경쟁자 조건에서 P1과 P2의 차이처럼 p값이 0.0948로 경계에 걸친 결과도 있다.

시장 역시 실제 고객이나 실제 가게가 아니라 수요 공식으로 만든 가상 시장이었다. 기본적으로 회사 두 곳이 경쟁했고, 무작위 경쟁자를 넣은 경우에만 세 곳이 됐다. 전체 실험 비용은 약 100달러였다.

또 이번 연구는 학회 심사를 거치지 않은 단독 저자의 사전 공개 논문이다. 반면 원래 GPT-4 실험은 경제·계산 분야 학회인 EC 2026에 채택됐다.

그래서 현재 확인할 수 있는 결론은 간단하다. AI가 가격을 정할 때 사장님이 적은 지시문이 실제 가격 판단에 영향을 줄 수 있다. 같은 방향의 결과가 GPT-4와 딥시크 V3.1에서 확인됐지만, 그 정도는 모델에 따라 달랐다.

가격을 AI에게 맡길수록 중요한 것은 「담합하라고 했느냐」만이 아니다. 가격을 내리는 행동을 어떻게 바라보라고 지시했는지, 어떤 경쟁사 가격을 참고하게 했는지, 가격을 바꾸기 전에 사람이 확인하도록 했는지를 함께 살펴봐야 한다.

① 지시문 한 문장 차이로 평균 가격이 경쟁 기준보다 +17.5%와 −5.1%로 갈렸다. ② 「가격 전쟁을 피하자」 문장의 73.5%가 P1 지시문에서 나왔다. ③ 감시 경고문을 넣어도 P1 7판 중 6판, 86%가 경쟁 기준보다 비쌌다. ④ 손해배상형 벌칙의 담합 지수는 0.569에서 0.080으로 낮아졌고, 경쟁자를 추가한 14판은 모두 기준보다 낮았다.

같이 읽을 글

자료 출처

작성일 2026년 10월 1일

#AI 경제 #알고리즘 담합 #가격 책정 #지시문 #공정거래 #딥시크

← 칼럼 목록