# 광고 계정 보안, AI에게 맡겨도 될까?

_AI는 탈취 신호를 잘 찾지만 최종 판정은 자주 틀렸다_

> AI 조사원은 진짜 탈취 50건 중 46건을 찾았지만 「털렸다」고 한 판정의 정답은 25%였다. 증거와 최종 판정을 나누자 오판은 138건에서 41건으로 줄었다.

- 종류: 칼럼
- 주소: https://aisitekorea.com/column/ad-account-takeover-ai-catches-92-percent
- 발행: AI사이트코리아 (https://aisitekorea.com)
- 작성일: 2026-10-01

광고 계정이 털렸을 때 AI는 이상한 신호를 찾는 데 강했지만, 최종 판정까지 맡기기에는 틀리는 경우가 많았다. AI 조사원은 진짜 탈취 50건 중 46건을 찾았지만 「털렸다」고 한 판정 가운데 실제 탈취는 25%였다. 증거는 AI가 모으고 최종 판정은 별도 규칙 단계가 맡자 멀쩡한 계정을 의심한 오판이 138건에서 41건으로 줄었다.

AI는 이상한 신호를 찾는 데는 강하지만, 광고비가 실제로 새고 있는지는 사장님도 직접 확인해야 한다.

## AI가 광고 계정을 털렸다고 잘 알아낼까?

이번 연구에서 AI 조사원은 광고 계정의 여러 정보를 살폈다. 광고가 연결된 도메인이 새로 등록됐는지, 광고를 만든 사람의 행동이 계정 주인의 이력과 맞는지 등을 확인했다. 점검 항목은 9개였고, 반드시 확인해야 하는 예외 조건은 8개였다.

판정하기 어려운 계정 397개를 실제 운영 환경처럼 살펴보니 AI 조사원은 진짜 탈취의 92%를 찾아냈다. 하지만 AI가 「탈취됐다」고 한 계정 가운데 실제 탈취였던 곳은 25%뿐이었다.

| 판정한 쪽 | 탈취라고 한 것 중 맞은 비율 | 진짜 탈취 중 잡은 비율 | 종합 점수(MCC, 0=무작위, 1=완벽) |
|---|---|---|---|
| AI 조사원 혼자 | 25.0% | 92.0% | 0.295 |
| AI 증거 + 규칙·확률 판정 | 44.6% | 66.0% | 0.435 |
| 외부 인력 심사자 | 51.0% | 52.0% | 0.422 |
| 랜덤 포레스트(기계학습) | 45.0% | 54.0% | 0.386 |
| 그래디언트 부스팅(기계학습) | 48.7% | 38.0% | 0.338 |

그래서 연구진은 AI가 증거를 모으고, 그 증거를 규칙과 확률로 판단하는 별도 단계를 붙였다. 이렇게 하자 종합 점수는 0.295에서 0.435로 올랐고, 멀쩡한 계정을 의심한 오판은 138건에서 41건으로 줄었다.

대신 AI 혼자 잡아냈던 진짜 탈취 13건을 놓쳤다. AI가 더 조심스럽게 판정하도록 만들면 잘못 막는 계정은 줄지만, 실제로 털린 계정을 놓칠 수도 있다는 뜻이다.

## 왜 멀쩡한 가게를 탈취로 봤을까?

AI가 가장 많이 헷갈린 것은 가게가 평소와 다르게 광고한 경우였다. 멀쩡한 계정을 의심한 138건 가운데 109건은 광고 이미지나 문구의 언어, 광고를 보여 주는 나라가 바뀐 경우였다.

이 변화가 정상적인 광고 운영인지, 계정을 빼앗은 사람이 한 행동인지 AI가 구분하기 어려웠다. 규칙 단계로 판정을 넘긴 뒤에도 이런 오판은 41건 가운데 32건이나 남았다.

| 오판 종류 | AI 혼자 | AI 증거 + 규칙 판정 | 그래디언트 부스팅 |
|---|---|---|---|
| 정상적인 변화(이미지·언어·나라)를 탈취로 봄 | 109 | 32 | 17 |
| 주인이 직접 한 위반을 탈취로 봄 | 10 | 4 | 0 |
| 여러 업종 대행사를 탈취로 봄 | 10 | 4 | 2 |
| 그 밖의 오판 | 9 | 1 | 1 |
| 멀쩡한 계정을 의심한 합계 | 138 | 41 | 20 |
| 놓친 진짜 탈취(50건 중) | 4 | 17 | 31 |

계정 주인이 직접 규정을 어긴 경우와 제3자가 계정을 빼앗은 경우도 헷갈렸다. 둘 다 문제가 있는 광고가 나갈 수 있지만, 탈취라면 계정을 되찾아 주고 주인에게 알려야 하고 남용이라면 주인이 제재를 받는다.

여러 업종을 맡는 광고대행사 계정을 탈취로 보는 경우도 있었다. 규칙 단계를 거치면서 이런 오판은 줄었지만 완전히 없어지지는 않았다.

## 사람에게 맡기면 더 정확할까?

사람도 모든 경우를 정확하게 판단하지는 못했다. 교육받은 외부 심사자의 판정이 전문 심사자의 판정과 일치한 비율은 84%였고, 그 전에 추린 표본에서는 75%였다.

그래디언트 부스팅은 멀쩡한 계정을 의심한 오판이 20건으로 가장 적었다. 하지만 진짜 탈취 50건 가운데 31건을 놓쳤다. 오판이 적다는 이유만으로 한 가지 방식이 항상 좋은 것은 아니라는 점을 보여 준다.

| 운영 숫자 | 값 |
|---|---|
| 외부 심사자와 전문 심사자의 판정 일치율 | 84%(이전 표본 75%) |
| AI 조사원 1건 조사 시간(심사 330건 평균) | 175초 |
| 규칙 단계 판정 시간 | 21밀리초(느린 쪽 1%도 25밀리초 이하) |
| 계정당 도구 호출 | 보통 1번·평균 3.6번·상위 1%는 16번 |
| 계정당 도구 호출 상한 | 25번 |

실제 운영에서는 모든 계정을 사람이 다시 보는 방식보다 자동 판정을 먼저 하고, 오판했을 때 가게에 큰 손해가 생길 수 있는 일부 관리 계정에 사람 심사자를 남겨 두는 방식이 쓰였다. AI 조사원이 한 계정을 살피는 데는 평균 175초가 걸렸고, 규칙 단계의 판정은 21밀리초가 걸렸다.

## 사장님은 무엇을 직접 봐야 할까?

플랫폼이 AI로 이상 신호를 찾더라도 사장님이 확인할 부분은 남는다. 특히 광고비가 평소와 다르게 빠져나가는지는 가게의 결제 알림에서 바로 확인할 수 있다.

광고 계정 탈취는 오래된 계정의 신뢰를 이용해 사기 광고를 돌리는 방식으로 일어난다. 광고비는 계정에 등록된 카드에서 나갈 수 있다. 국내 한 광고주 사례에서는 하루 예산 3만 원으로 운영하던 계정에서 한 달 동안 약 700만 원이 결제됐다.

| 무엇이 | 숫자 | 출처 |
|---|---|---|
| 국내 한 광고주: 원래 하루 예산 | 3만 원 | 아이보스 질문 글(1건) |
| 같은 광고주: 한 달 누적 결제 | 약 700만 원 | 아이보스 질문 글(1건) |
| 구글 애즈 사칭 광고(한 조직, 며칠) | 50건 이상 | 멀웨어바이츠 2025.1 |
| 털린 것으로 추정되는 구글 광고주 계정 | 수천 개 | 멀웨어바이츠 2025.1 |
| 메타가 2025년에 지운 사기 광고 콘텐츠 | 1억 3,400만 건 이상 | 메타 대변인, 마케팅브루 2025.11 |

구글 광고에서도 비슷한 사례가 있었다. 멀웨어바이츠는 2025년 1월, 「구글 애즈 로그인」을 사칭한 가짜 광고로 광고주의 로그인 정보를 훔친 사례를 공개했다. 한 조직이 며칠 사이 50건이 넘는 사칭 광고를 냈고, 털린 광고주 계정은 전 세계에서 수천 개로 추정됐다.

사장님이 볼 신호는 따로 있다. 하루 예산을 넘는 결제가 있는지, 모르는 관리자가 추가됐는지, 처음 보는 나라나 언어로 광고가 나가고 있는지를 확인하면 된다. 새로 등록된 도메인으로 연결되는 광고도 연구진이 점검한 신호 가운데 하나다.

| 사장님이 볼 신호 | 연구에서 이 신호의 의미 |
|---|---|
| 하루 예산을 넘는 결제 | 공격자가 등록된 카드로 광고를 돌리는 전형적인 모습 |
| 모르는 관리자 추가 | 계정 주인이 바뀌었다는 신호(탈취와 남용을 가르는 기준) |
| 처음 보는 나라·언어로 광고 | AI가 가장 많이 헷갈린 신호(오판 138건 중 109건). 가게가 스스로 바꾼 게 아니라면 의심 |
| 새로 등록된 도메인으로 연결되는 광고 | 연구진이 쓴 점검 질문 가운데 하나 |

처음 보는 나라나 언어로 광고가 나간다고 해서 바로 탈취라고 단정할 수는 없다. 연구에서 AI가 가장 많이 틀린 신호였기 때문이다. 사장님이 직접 광고를 바꾼 것이 아니라면 그때부터 계정과 결제 내역을 확인하는 것이 중요하다.

AI가 이상 신호를 잡아 주더라도 최종적으로 광고비가 새고 있는지는 가게의 결제 알림에서도 확인해야 한다. 플랫폼의 판정을 기다리는 것만으로 모든 피해를 막을 수 있다고 보기는 어렵다.

## 이 연구만으로 알 수 없는 것은?

이번 연구는 메타의 광고 계정 탈취 문제를 다룬 것이다. 구글이나 네이버 광고에서도 같은 결과가 나온다고 보장할 수는 없다.

표본도 작다. 논문은 397개 계정 가운데 탈취가 60건이라고 적었지만, 사람 심사자와 비교한 표본에서는 진짜 탈취가 50건이었다. AI에게 어떤 정책 조건과 기준값을 줬는지도 메타 내부 자료라 공개되지 않았다.

탈취 비율을 70%로 늘린 975건 묶음에서는 기계학습 모델의 종합 점수가 0.823으로 규칙 단계의 0.807보다 조금 높았다. 따라서 이번 결과만으로 모든 광고 계정에서 같은 방식이 가장 잘 작동한다고 말할 수는 없다.

결국 사장님 입장에서는 AI를 믿느냐 마느냐보다 역할을 나눠 보는 편이 맞다. AI는 많은 신호를 빠르게 모을 수 있지만, 정상적인 광고 변화와 탈취를 구분하는 데는 여전히 틀릴 수 있다. 광고비 결제와 관리자 변경처럼 가게에서 직접 확인할 수 있는 부분은 따로 챙겨야 한다.

요점 ① AI 조사원은 진짜 탈취 50건 중 46건을 찾았지만, 「탈취」 판정의 정답률은 25%였다. ② AI 증거와 규칙·확률 판정을 나누자 멀쩡한 계정을 의심한 오판이 138건에서 41건으로 줄었다. ③ 정상적인 변화는 오판 138건 중 109건을 차지했고, 규칙 단계를 거친 뒤에도 32건이 남았다. ④ 사람 심사자의 전문 심사자와의 일치율은 84%였고, AI 조사원은 한 계정 조사에 평균 175초가 걸렸다.

## 같이 읽을 글

 

- AI가 고른 광고, 그대로 따라도 될까?

- AI 점원에게 결제까지 맡겨도 될까?

- 이벤트로 후기를 많이 받으면 가짜 후기로 잡힐까?

- 고객 대신 결제하는 AI, 진짜인지 가게는 어떻게 알까?
 

## 자료 출처

 

- Business Compromise Detection with Agentic AI and LLM-driven Knowledge Discovery(메타·arXiv 2609.32643·2026.9 제출, 판정 어려운 계정 397개·과다 표집 975건)

- Meta has reportedly been raking in billions from scammy ads(마케팅브루·2025.11, 로이터가 입수한 메타 내부 문서 보도 정리)

- Meta's $16 billion scam ad problem exposes cracks in digital ad policing(이마케터·2025.11)

- 계정 복구를 지원하기 위한 새로운 방법 테스트(메타 공식 뉴스룸·2025.3, 한국 확대)

- The great Google Ads heist: criminals ransack advertiser accounts via fake Google ads(멀웨어바이츠·2025.1)

- Google Ad Buyers Are (Still) Being Duped By Sophisticated Account Takeover Scams(애드익스체인저)

- 메타광고 해킹 및 도용으로 700만원 결제(아이보스 질문답변·광고주 1건 사례)

- Senator Baldwin and AG Kaul push Meta to answer for inadequate customer service to Wisconsin small businesses(미국 상원 볼드윈 의원실·2023.2)