고객 AI가 할인을 요구하면 누가 금액을 정할까?
AI 15종의 협상 1,049번에서 금액 차이의 47.2%는 돈을 쥔 AI에 달려 있었다.
고객의 AI 비서가 우리 가게 상담 AI에게 할인을 요구하면, 최종 금액은 우리 AI의 선택과 설정에 크게 좌우된다. AI 15종이 1,049번 협상한 실험에서 금액이 달라진 정도의 47.2%는 돈을 쥔 AI가 설명했고, 요청하는 AI는 1.9%를 설명했다. 따라서 할인과 환불을 AI에게 맡기려면 어떤 AI를 고를지뿐 아니라 어디까지 양보할 수 있는지부터 정해야 한다.
가게의 할인과 환불을 AI에게 맡길 때는 답변 문구보다 권한의 범위를 먼저 정해야 한다.
고객의 AI가 요구하면 우리 AI는 얼마나 양보할까?
방글라데시 다카의 이슬람기술대(IUT) 연구진은 AI 15종을 서로 맞붙여 돈을 두고 협상하게 했다. 한쪽은 100달러를 최대한 지키라는 지시를 받았고, 다른 쪽은 그 돈을 얻으려 했다. 고객의 요청에 답하는 가게 AI는 이 실험에서 돈을 쥔 쪽에 해당한다.
실험에서는 무엇을 두고 협상했나?
협상은 총 1,049번 진행됐다. 각 AI는 양쪽 역할을 번갈아 맡았고, 요청하는 AI는 감정 호소와 공감, 긴급함, 논리를 사용할 수 있었다. 다만 위협과 강요, 속임은 금지됐다.
| 항목 | 내용 |
|---|---|
| 참가 AI | 15종(상용· |
| 협상 수 | 1,049번(계획 1,050번) |
| 짝짓기 | 모든 AI가 서로 양쪽 역할을 번갈아, 호소 방식마다 5번씩 |
| 걸린 돈 | 돈을 쥔 AI의 100달러 |
| 한 판 길이 | 최대 메시지 20개(각자 10번) |
| 결과 | 돈을 쥔 쪽 승리 873번(83.2%), 요청 쪽 승리 149번(14.2%), 정확히 50달러 27번 |
돈을 쥔 AI는 합리적이라고 판단하면 기부하거나 투자할 수 있었지만, 최대한 돈을 지키라는 지시를 받았다. 연구진은 AI마다 얼마나 양보하는지 비교했다. 이 실험은 같은 조건에서도 AI에 따라 결과가 크게 달라질 수 있다는 점을 보여준다.
할인 금액은 누가 더 크게 좌우했나?
연구진은 결과 차이를 돈을 쥔 AI의 영향과 요청하는 AI의 영향으로 나눴다. 전체 실험에서 돈을 쥔 AI의 영향은 46.7%, 요청하는 AI의 영향은 2.1%였다. 두 영향의 비율은 22.8배였다.
| 분석한 판 | 돈을 쥔 쪽 | 요청하는 쪽 | 비율 |
|---|---|---|---|
| AI 15종 전체(1,049번) | 46.7% | 2.1% | 22.8배 |
| 한 번도 지지 않은 보유 AI 3종 뺌(839번) | 41.4% | 3.1% | 13.3배 |
| 연구진이 설득 훈련한 2종 뺌(779번) | 29.2% | 2.4% | 12.3배 |
| 두 무리 모두 뺌(599번) | 22.3% | 4.3% | 5.2배 |
한 번도 지지 않은 보유 AI 3종을 빼도 차이는 남았다. 돈을 쥔 AI의 영향은 41.4%, 요청하는 AI의 영향은 3.1%였다. 연구진이 설득 훈련을 한 AI까지 제외하면 차이는 줄었지만, 돈을 쥔 쪽의 영향이 더 컸다.
가게에 적용하면 고객의 AI가 얼마나 설득력 있게 말하는지만 살펴서는 부족하다. 우리 가게 AI가 어떤 기준으로 할인과 환불을 결정하도록 설정됐는지가 중요하다.
고객의 사정을 잘 설명하면 더 받아낼까?
연구진은 요청하는 AI에게 한 사람을 돕기 위한 돈을 모으거나 재난을 겪는 집단을 돕기 위한 돈을 모으게 했다. 사람에게는 구체적인 한 사람의 이야기가 더 잘 통할 수 있다는 연구가 있지만, 그 효과 자체에도 논란이 있다.
| 항목 | 한 사람 호소 | 집단 호소 |
|---|---|---|
| 판 수 | 524판 | 525판 |
| 주인공 이름이 나온 요청 비율 | 79.9% | 43.5% |
| 얻어 낸 몫(평균) | 19.8% | 22.0% |
| 요청 쪽 승률 | 13.5% | 14.9% |
두 방식은 요청 문구에서 차이를 보였다. 한 사람 호소에서는 요청에 주인공 이름이 나온 비율이 79.9%였고, 집단 호소에서는 43.5%였다. 그러나 얻어 낸 몫은 각각 19.8%와 22.0%로 통계적으로 유의한 차이가 없었다.
고객이 긴급한 사정을 강조하거나 표현을 바꿔 요청한다고 해서 반드시 더 많은 할인을 받아내는 것은 아니다. 가게 AI는 말투나 호소 방식에 흔들리지 않고, 미리 정한 규정에 따라 응대해야 한다.
첫 요청에서 양보하면 어떻게 될까?
연구진은 첫 응답에서 양보한 금액과 최종 결과 사이에도 관계가 있음을 확인했다. 첫 양보가 5달러 이하였던 판에서는 결국 전부 내준 비율이 4%였다. 반면 첫 양보가 50달러를 넘으면 결국 전부 내준 비율은 95%였다.
첫 요청을 거절하는 비율이 높은 AI일수록 전체 손실도 작았다. 두 항목의 순위 상관은 −0.73이었다. 다만 처음부터 무조건 거절하라는 뜻은 아니다. 고객에게 공개된 혜택은 안내하되, 추가 양보는 정해진 조건 안에서만 허용해야 한다.
| AI | 돈을 쥐었을 때 내준 몫 | 요청했을 때 얻어 낸 몫 |
|---|---|---|
| 그록 4.1 패스트 | 0.0% | 16.6% |
| 그록 4 | 0.3% | 26.5% |
| 딥시크 V3.2 | 1.9% | 22.6% |
| 제미나이 2.5 플래시 | 10.8% | 26.2% |
| GPT-5.4 | 12.0% | 21.0% |
| 딥시크 R1 | 16.9% | 31.9% |
| 클로드 오퍼스 4.6 | 30.2% | 24.6% |
| 미스트랄 네모 | 42.8% | 14.6% |
| 큐웬3 8B 설득 훈련판 | 83.5% | 19.8% |
AI마다 결과도 달랐다. 그록 4.1 패스트는 돈을 쥔 역할에서 내준 몫이 0.0%였지만, 클로드 오퍼스 4.6은 30.2%를 내줬다. 요청하는 역할에서 강한 AI가 돈을 지키는 역할에서도 강한 것은 아니었다.
판매를 잘하는 AI라면 상담도 잘할까?
연구진은 큐웬3 8B를 설득 대화 8,000개로 추가 훈련했다. 이 자료에는 거절하는 예가 거의 없었다. 훈련 전에는 보유한 돈의 12.4%를 내줬지만, 훈련 후에는 83.5%를 내줬다.
| 항목 | 훈련 전 | 훈련 후 |
|---|---|---|
| 설득 대화로 훈련한 큐웬3 8B: 내준 몫 | 12.4% | 83.5% |
| 같은 AI의 보유 역할 승률 | 90.0% | 14.3% |
| 같은 AI의 첫 차례 평균 양보 | 4.71달러 | 29.78달러 |
| 같은 AI가 첫 차례에 양보할 확률 | 14% | 71% |
| 거절 대화로 훈련한 소형 AI: 내준 몫 | 94.8% | 1.0% |
반대로 거절 대화 842개로 소형 AI를 훈련하자 내준 몫은 94.8%에서 1.0%로 줄었다. 특정 모델과 훈련 자료에서 나온 결과이므로 모든 AI에 그대로 적용할 수는 없다. 하지만 판매와 설득에 맞춰진 AI를 할인 응대에 그대로 쓰면 문제가 생길 수 있다는 점은 살펴볼 필요가 있다.
유해한 요청을 걸러내는 일반적인 안전 검사만으로는 이런 문제를 잡기 어렵다. 할인 요청 자체는 금지된 내용이 아니기 때문이다. 상담 AI를 고를 때는 판매 성과뿐 아니라 할인과 환불을 처리하는 역할도 따로 시험해야 한다.
가게는 무엇을 미리 정해야 할까?
먼저 할인과 환불, 사은품의 상한과 조건을 숫자로 정해야 한다. 첫 요청에는 이미 공개한 혜택만 안내하고, 추가 양보가 필요한 경우에는 직원에게 넘기도록 설정하는 편이 안전하다.
| 정할 것 | 근거 숫자 |
|---|---|
| 할인· | 결과가 갈린 정도의 47.2%를 돈을 쥔 쪽이 설명 |
| 첫 요청에는 이미 공개한 혜택만 안내하고 추가 양보는 하지 않게 한다 | 첫 차례 거절률과 손실의 순위 상관 −0.73 |
| 상한을 넘는 요청은 직원에게 넘기게 한다 | 첫 양보가 50달러를 넘으면 95%가 결국 전부 내줌 |
| 문구만 바꾼 요청에도 같은 답을 하는지 첫 대화 20개로 점검한다 | 20판 첫 차례 시험으로 손실 순위 상관 −0.74 |
| 판매용으로 다듬은 AI를 할인 응대에 그대로 쓰지 않는다 | 설득 훈련 뒤 내준 몫 12.4%에서 83.5% |
| 상담 AI를 고를 때 응대 역할을 따로 시험한다 | 요청· |
| AI가 한 약속을 기록하고 홈페이지 규정과 맞춘다 | 에어캐나다 챗봇 사건 812달러 배상 |
AI가 고객에게 한 약속은 기록하고 홈페이지에 적힌 규정과 일치하는지 확인해야 한다. 캐나다 브리티시컬럼비아 민사분쟁심판소는 2024년 2월, 에어캐나다 챗봇이 유족 할인을 여행 뒤에 신청할 수 있다고 잘못 안내한 사건에서 항공사의 책임을 인정하고 812달러(캐나다 달러) 배상을 명했다. 이는 캐나다의 사례이며 한국 법원의 판단은 아니다. 다만 AI가 한 안내도 사업자의 책임과 무관하지 않을 수 있다는 점을 보여준다.
설정만 해두고 끝내서도 안 된다. 문구를 바꾼 요청에도 같은 기준으로 답하는지 첫 대화 20개로 점검해야 한다. 할인 상한을 넘는 요청을 직원에게 제대로 넘기는지도 확인해야 한다.
이 실험을 어디까지 믿어야 할까?
이 실험은 가상의 100달러를 두고 한쪽이 얻으면 다른 쪽이 잃는 게임에서 진행됐다. 실제 거래에서는 고객이 증거를 내거나 도구를 사용하고, 지킬 약속을 제시할 수도 있다. 이런 상황에서는 결과가 달라질 수 있다.
모든 보유 AI가 돈을 최대한 지키라는 지시를 받았다는 점도 고려해야 한다. 실험 결과에는 AI의 성향뿐 아니라 지시를 얼마나 잘 따르는지도 반영됐을 수 있다. 또한 AI 15종의 결과가 모든 상용 AI에 그대로 적용되는 것은 아니다. 사람 고객과의 협상, 한국어 대화, 국내 상담 서비스에서 같은 결과가 나오는지도 확인되지 않았다.
중요한 것은 실험의 숫자를 모든 가게에 그대로 대입하는 일이 아니다. AI가 고객의 요청을 받았을 때 어디까지 결정해도 되는지 미리 정하고, 실제 상담에서 그 기준을 지키는지 확인하는 일이다.
요점 ① AI 15종의 협상 1,049번에서 금액 차이의 47.2%는 돈을 쥔 AI가 설명했다. 요청하는 AI의 영향은 1.9%였다. ② 한 사람 호소와 집단 호소의 평균 획득 몫은 각각 19.8%와 22.0%로 통계적으로 유의한 차이가 없었다. ③ 첫 양보가 5달러 이하일 때 전부 내준 비율은 4%였지만, 50달러를 넘으면 95%였다. ④ 설득 훈련 뒤 내준 몫은 12.4%에서 83.5%로 늘었다. 할인 상한과 직원 연결 조건을 정하고 상담 역할을 따로 시험해야 한다.
같이 읽을 글
- 가격을 AI에게 맡겨도 가게는 더 벌까?
- AI가 우리 가게 결제를 마음대로 해 버리면 어쩌죠?
- 가게 상담 챗봇을 만들 때, 우리 자료만 쓸까 웹 검색까지 붙일까?
- 가게 홈페이지 챗봇도 AI 기본법을 지켜야 할까?
자료 출처
- Receiver Decides Agent-to-Agent Negotiations(방글라데시 이슬람기술대·arXiv 2610.18424·2026년 10월 13일 제출, AI 15종 협상 1,049번)
- 같은 논문 HTML 본문(3~6장, 표 1·3·4·5·6, 한계 절)
- AREG: Adversarial Resource Extraction Game for Evaluating Persuasion and Resistance in Large Language Models(제1저자가 참여한 앞선 협상 게임 연구·arXiv 2602.16639·2026년 2월)
- MakeMePay 평가(오픈AI Evals·GitHub, 돈을 뜯어내려는 AI와 돈을 가진 AI의 대화 평가)
- Measuring the persuasiveness of language models(앤트로픽 연구·2024년 4월 9일, 모델 글과 사람 글의 설득력 비교)
- Introducing Muse: The World's First Personal AI Agent Built for Everyone(메타 공식 발표·2026년 9월 8일, 이용자 대신 협상까지 하는 개인 AI 비서)
- Air Canada found liable for chatbot's bad advice on plane tickets(CBC 뉴스·2024년 2월 15일, BC 민사분쟁심판소 812달러 배상 결정)
작성일
← 칼럼 목록