AI가 대신 결제하면 정직한 가게가 더 유리할까?
AI가 판매자의 신원을 확인해도 정가보다 더 받는 사기는 잘 잡히지 않았다.
AI가 고객 대신 상품과 서비스를 고르고 결제하는 시대에는 가게가 진짜인지 확인하는 것만으로 부족하다. 이번 실험에서 판매자가 진짜인 상태에서 정가보다 더 받은 경우는 3%만 잡혔다. 정직한 가게라면 AI가 확인할 수 있도록 모든 고객에게 같은 가격과 필수 비용을 공개하는 것이 중요하다.
주소와 서비스가 진짜여도 값만 더 받으면, 「누구냐」를 확인하는 검사로는 잡기 어렵다.
AI가 대신 결제하면 가게의 가격도 검사할까?
미국 스타트업 Gordon AI 연구진은 AI 에이전트가 서비스를 고르고 가격을 받아들인 뒤 바로 결제하는 상황을 시험했다. 결제에는 코인베이스가 2025년 공개한 x402 방식이 사용됐다. 서버가 결제할 금액을 알려 주면 에이전트가 돈을 내고 결과를 받는 구조다.
연구진은 실제 운영 기록을 바탕으로 가상 거래를 만들었다. 가격을 참고한 서비스는 1,647개였고, 결제 기록은 1,068건이었다. 사기는 모두 20가지로 나눠 시험했다.
| 구분 | 수치 | 조건 |
|---|---|---|
| 가격 기준 서비스 수 | 1,647개 | 실제 운영 기록, 8개 분야 |
| 결제 기준 기록 | 1,068건 | 실제 결제 요약 |
| 사기 유형 | 20가지(4묶음) | 규칙 위반 6· |
| 판매자가 진짜인 유형 | 6가지 | 도메인· |
| 결제 한 건 중앙값 | 0.007달러 | 99번째 백분위 0.25달러 |
| 8개 분야 중앙값 범위 | 0.005~0.02달러 | 분야로는 결제 규모가 갈리지 않음 |
| 운영 기록 중 한 에이전트 비중 | 81.6% | 에이전트 6개 가운데 1개 |
20가지 가운데 판매자 자체는 진짜인 유형이 6가지였다. 도메인과 결제 주소, 서비스가 모두 진짜여도 고객에게 더 받는 상황을 따로 시험한 것이다.
진짜 가게인데 더 받으면 어떻게 알까?
가장 어려운 문제는 판매자가 정상적인 가게처럼 보이는 경우다. 주소도 진짜고 서비스도 실제로 제공한다. 그런데 고객에게 알려진 가격보다 더 청구한다.
이런 문제는 판매자의 신원을 확인하는 것만으로 해결되지 않는다. AI가 거래 당시 받은 가격만 보고 판단하면, 정상적인 가격 변동과 부당하게 올린 가격을 구분하기 어렵기 때문이다.
연구진은 사기를 다섯 단계에서 볼 수 있다고 나눴다. AI가 무엇을 판단했는지, 결제 요청에 어떤 금액과 받는 곳이 적혔는지, 결제가 성공했는지, 판매자는 누구인지, 돈을 맡긴 사람이나 회사가 무엇을 허락했는지를 따로 보는 방식이다.
| 단계 | 요청 한 건으로 보는 것 | 쌓인 기록으로 보는 것 |
|---|---|---|
| ① 에이전트 판단 | 끼어든 지시, 밝힌 의도 | 판단이 점점 바뀌는 흐름, 반복된 회피 계획 |
| ② 결제 요청 | 금액, 받는 곳, 분야 | 결제 속도, 조금씩 올리기, 쪼개기 |
| ③ 결제망 | 결제 성공 여부 | 실패율, 확정 지연 |
| ④ 판매자 | 지금 값· | 가격 변화, 가동률, 신뢰, 업력 |
| ⑤ 맡긴 사람 | 이 행동을 허락했는가 | 회사 전체 지출, 예산 소진 |
이 가운데 한 번의 거래만 보고 알 수 있는 것과 여러 거래가 쌓여야 알 수 있는 것이 다르다. 연구진은 다섯 단계를 모두 한곳에서 보는 주체는 없다고 설명했다.
정상 가격과 비교할 기준이 있어야 하지 않을까?
정가보다 15~70%를 더 받는 과다 청구는 이번 실험에서 3%만 잡혔다. 정상적인 구매에서도 견적보다 높은 금액이 결제되는 경우가 있었기 때문이다.
정상 거래의 6.5%는 사람이 다시 확인해야 하는 거래로 걸렸다. 이보다 더 엄격하게 잡으려면 정상 거래까지 사기로 의심하게 된다. 연구진은 과다 청구를 더 잡으려면 정상 거래의 약 5분의 1을 거절해야 한다고 계산했다.
| 판매자가 진짜인 유형 | 잡힌 비율 | 비고 |
|---|---|---|
| 정가보다 더 받기 | 0.03 | 15~70%를 더 받아도 정상 가격 변동 범위와 겹침 |
| 고객마다 다른 값 | 0.06 | 우연 수준 |
| 없는 수수료 | 0.00 | 우연 수준 |
| 값을 조금씩 덧붙이기 | 0.43 | 부분적으로 잡힘 |
| 재시도마다 또 결제 | 1.00 | 중복 결제 신호. 사고와 사기를 구분하지 못함 |
| 몰래 낮은 등급 보내기 | 0.04 | 어느 단계에서도 안 보임(대조군) |
| 정상 거래가 걸린 비율 | 0.065 | 차단 0.009 |
고객마다 다른 가격을 받는 유형도 6%만 잡혔다. 없는 수수료를 붙이는 유형은 0%였다. 반면 결제 뒤 값을 조금씩 덧붙이는 유형은 43%가 잡혔다.
재시도할 때마다 다시 결제시키는 유형은 100% 잡혔다. 다만 이것은 같은 요청에 두 번 결제됐다는 신호를 잡은 결과다. 사기가 아닌데 두 번 결제된 411건 가운데 410건에서도 같은 신호가 나타났다.
기존 AI 보안 도구로 막을 수 있을까?
AI를 속여 규칙을 풀게 하는 탈옥 공격을 찾는 도구도 이번 문제에는 맞지 않았다. 엔비디아의 공개 점검 도구 garak과 키워드 목록은 에이전트가 속는 4가지 유형에서 모두 0점이었다.
도구가 작동하지 않은 것은 아니다. 대조용으로 넣은 탈옥 문장은 정확히 잡았다. 문제는 「결제를 조금씩 나눠 하겠다」처럼 탈옥이 아닌 방식의 사기를 이 도구가 검사 대상으로 삼지 않는다는 데 있다.
| 판단 도구 | 평균 탐지율 | 정상을 사기로 본 비율 |
|---|---|---|
| 키워드 목록 | 0.00 | 0.000 |
| garak 0.16.0 | 0.00 | 0.000 |
| 결제 방식에 맞춘 패턴 판단(연구진) | 0.20 | 0.000 |
| LLM 채점 | 0.26 | 0.133 |
탐지기를 여러 개 붙인다고 항상 좋은 것도 아니다. 각각의 탐지기가 정상 거래를 10%씩 걸러 내면 합쳐서 사람이 확인해야 할 비율이 47%까지 올라간다. 그래서 연구진은 탐지기마다 따로 허용 비율을 정하지 않고 전체 판단을 기준으로 계산했다.
사람이 직접 확인하면 되지 않을까?
결제 금액이 아주 작으면 사람이 확인하는 비용이 더 커진다. 연구진은 확인 한 건에 1달러가 든다고 가정했다.
시험에서 결제 중앙값은 0.007달러였다. 이 금액을 사람이 한 건씩 확인하면 확인 비용이 결제액의 143배가 된다.
| 확인 한 건 비용 | 0.10달러 | 0.25달러 | 1.00달러 | 5.00달러 |
|---|---|---|---|---|
| 탐지 운영 총비용 | 23.74달러 | 41.50달러 | 130.27달러 | 603.73달러 |
| 지킨 결제액 대비 배수 | 1.3 | 2.3 | 7.2 | 33.3 |
전체 시험에서도 이런 문제가 나타났다. 18달러어치 결제를 지키기 위해 138달러가 들었고, 이 가운데 123달러가 사람의 확인 비용이었다.
다만 결제 금액이 커지면 계산은 달라진다. 결제 중앙값이 0.50달러를 넘으면 비용은 결제액의 0.21배 쪽으로 내려갔다. 따라서 이 연구의 비용 문제는 아주 작은 결제에서 특히 크게 나타난다.
| 결제 중앙값 | 0.007달러 | 0.05달러 | 0.50달러 | 5달러 | 500달러 |
|---|---|---|---|---|---|
| 지킨 결제액 대비 비용 배수 | 7.2 | 1.2 | 0.30 | 0.22 | 0.21 |
그럼 동네 가게는 무엇을 공개해야 할까?
가게가 AI에게 보여 줄 수 있는 가장 중요한 정보는 고객마다 비교할 수 있는 가격 기준이다. 모든 고객에게 같은 정가를 공개하면 AI는 실제 청구액과 공개된 가격을 비교할 수 있다.
필수 비용도 따로 숨기지 않는 것이 중요하다. 필수 요금이 뒤에서 붙으면 처음 제시된 가격과 실제 결제 금액을 비교하기 어려워진다. 한국은 2025년 2월 14일부터 전자상거래법 개정으로 필수 총액 가운데 일부만 먼저 보여 주는 순차공개 가격책정을 금지했다.
| 가게가 공개할 것 | 대응하는 사기 유형 | 근거 |
|---|---|---|
| 필수 요금을 모두 넣은 총액 | 값을 조금씩 덧붙이기(43%만 잡힘) | 전자상거래법 순차공개 금지(2025.2.14) |
| 모든 고객에게 같은 정가표 | 정가보다 더 받기(3%), 고객마다 다른 값(6%) | 거래 바깥 기준은 판매자가 몰래 못 바꿈(연구진) |
| 수수료 항목과 금액 | 없는 수수료(0%) | FTC 총액 표시 규칙(2025.5.12) |
| 등급· | 몰래 낮은 등급 보내기(4%) | 어느 단계에서도 안 보임 |
결제 방식도 영향을 줄 수 있다. 구글이 2026년 1월 11일 공개한 유니버설 커머스 프로토콜은 장바구니와 결제, 주문을 나눠 놓는다. 연구진은 견적과 실제 결제를 비교할 수 있다면 과다 청구나 승인액과 실제 청구액의 차이도 확인하기 쉬워질 것으로 봤다.
다만 이 부분은 이번 실험에서 직접 검증한 결과가 아니다. 해당 결제망에서 실제 에이전트 거래 자료가 없어 효과의 크기는 확인되지 않았다.
지금부터 가격표를 어떻게 보여 줘야 할까?
동네 가게가 AI 시대에 준비할 일은 복잡하지 않다. 고객에게 실제로 받는 총액을 공개하고, 필수 수수료가 있다면 항목과 금액을 함께 보여 주는 것이다. 상품이나 서비스의 등급과 구성에 따라 가격이 달라진다면 그 차이도 공개해야 한다.
이렇게 공개된 정보는 단순한 안내문이 아니라 비교 기준이 된다. AI가 가게의 이름만 확인하는 것이 아니라 공개된 가격과 실제 결제 금액을 대조할 수 있게 된다.
이번 실험은 실제 고객 거래를 시험한 연구가 아니다. 실제 운영 수치를 바탕으로 만든 가상 거래이고, 유형별 표본도 23~46개 세션으로 작았다. 결제 역시 아주 작은 금액의 되돌릴 수 없는 암호화폐 결제망 한 가지를 사용했다.
따라서 이 결과만으로 앞으로 모든 AI 결제가 같은 방식으로 사기를 잡거나 놓친다고 말할 수는 없다. 그래도 한 가지는 분명하게 드러난다. 판매자가 진짜라는 사실과 고객에게 정직한 가격을 받는다는 사실은 서로 다른 문제라는 점이다.
요점 ① 판매자가 진짜인 과다 청구는 3%만 잡혔고, 고객마다 다른 가격은 6%만 잡혔다. ② 정상 거래의 6.5%가 확인 대상으로 걸렸고, 20가지 사기 중 8가지는 이보다 나을 게 없었다. ③ 결제 중앙값 0.007달러에서는 사람 확인 비용이 결제액의 143배였고, 0.50달러를 넘으면 0.21배 쪽으로 내려갔다. ④ 한국은 2025년 2월 14일부터 순차공개 가격책정을 금지했고, 공개된 총액과 수수료가 AI의 가격 비교 기준이 될 수 있다.
같이 읽을 글
- 고객 대신 결제하는 AI, 진짜인지 가게는 어떻게 알까?
- AI가 대신 결제할 때, 서명만 믿어도 될까?
- AI 점원에게 결제까지 맡겨도 될까?
- AI가 결제하다 사고 나면 누가 물어줄까?
자료 출처
- Agentic Commerce Bench: Measuring Fraud Detection for Agents That Spend Money(Gordon AI·arXiv 2609.35886·2026년 9월, 서비스 1,647개·결제 1,068건 기반 가상 거래)
- Introducing x402: a new standard for internet-native payments(코인베이스·2025)
- Google launches Universal Commerce Protocol, bets on AI-powered retail(CNBC·2026년 1월 11일)
- Google launches Universal Commerce Protocol for agent-led shopping(Search Engine Land·2026년 1월)
- 전자상거래 등에서의 소비자보호 지침 개정(공정거래위원회·2025년 10월 24일 시행)
- 소비자 울리는 '다크패턴' 뭐기에… 몰래 유료 전환, 가격 일부로 현혹(한국일보·2025년 2월 13일)
- Trade Regulation Rule on Unfair or Deceptive Fees(미국 FTC·연방관보 2025년 1월 10일, 2025년 5월 12일 시행)
- The Rule on Unfair or Deceptive Fees: Frequently Asked Questions(미국 FTC)
작성일
← 칼럼 목록