# 앤스로픽이 안전하다면 우리 가게 AI도 안전할까?

_0.002%라는 숫자만 보고 상담봇과 결제 에이전트까지 안전하다고 판단하면 안 된다_

> 앤스로픽은 8월 한 달 10억 건 넘는 온라인 결정을 검사해 0.002%를 자동 차단했다고 밝혔다. 하지만 이 수치는 내부 연구·엔지니어링 업무에서 나온 자체 측정값이다.

- 종류: 칼럼
- 주소: https://aisitekorea.com/column/anthropic-agent-safety-rate-small-business
- 발행: AI사이트코리아 (https://aisitekorea.com)
- 작성일: 2026-09-30

10억 건 넘는 온라인 결정 가운데 자동 차단된 비율이 0.002%라는 숫자만 보면 AI가 꽤 안전해 보인다. 하지만 이 숫자는 고객 상담이나 결제를 하는 AI의 안전 성적표가 아니다. 동네 가게의 상담봇이나 결제 에이전트에 그대로 적용할 수 없는 이유가 있다.

0.002%는 AI 전체의 사고율이 아니라 앤스로픽이 내부 에이전트를 감독하면서 측정한 차단 비율이다.

## 0.002%는 무엇을 잰 숫자인가

앤스로픽은 2026년 9월 17일 자체 발표에서 내부 연구·엔지니어링용 에이전트 약 3만 개가 상시 돌아간다고 밝혔다. 2026년 8월 한 달 동안 온라인에서 10억 건 넘는 결정이 지나갔고, 그중 0.002%가 자동 차단됐다.

이 회사는 에이전트의 행동을 사전에 검사하는 온라인 모니터와 행동 기록을 나중에 다시 살펴보는 오프라인 모니터를 함께 운영한다. 적용범위, 검토 시차, 상향 보고율이라는 세 가지 지표로 감독 수준도 나눠 공개했다.

| 지표 | 정의 | 온라인 모니터 | 오프라인 모니터 |
|---|---|---|---|
| 적용범위(coverage) | 감독을 거치는 행동 비율 | 100%(모든 행동 사전 검사) | 100%(모든 기록 사후 검토) |
| 검토 시차(latency) | 행동~검토까지 시간 | 실행 전 수초 이내 자동 검토 | 차단 건은 1주일 이내 사람이 검토 |
| 상향 보고율(escalation) | 차단·플래그 비율 | 0.002%(1/47,000) | 필사본 1,000건당 1~2건 추가 플래그 |

## 10억 건 중 0.002%면 실제로 몇 건일까

0.002%를 건수로 바꾸면 약 2만 건이다. 즉 8월 한 달 온라인 결정 10억 건 이상 가운데 약 2만 건이 자동 차단된 셈이다.

오프라인에서는 주당 약 10만 건의 필사본을 다시 살핀다. 이 과정에서 1,000건당 1~2건이 추가로 플래그되고, 주간 기준으로 보면 약 100~200건이다.

| 구분 | 수치 |
|---|---|
| 상시 운영 에이전트 수 | 약 30,000개 |
| 8월 온라인 결정 건수 | 10억 건 이상 |
| 온라인 자동 차단율 | 0.002%(1/47,000) |
| 온라인 자동 차단 건수(환산) | 약 2만 건 |
| 오프라인 주간 검토 분량 | 약 10만 건(필사본) |
| 오프라인 추가 플래그 | 1,000건당 1~2건(주 100~200건) |
| 오프라인 인간 직접 검토 | 주당 약 50건 |

여기서 중요한 점은 숫자의 크기보다 숫자가 나온 환경이다. 앤스로픽의 에이전트는 사전 자동 검토와 사후 재검토가 함께 작동하는 환경에 있다.

## 그런데 이 숫자로 모든 사고를 잡았다는 뜻일까

그렇지는 않다. 앤스로픽은 이 정도 규모의 에이전트 활동에서 가능한 모든 행동 유형을 완전히 파악했다고 확신하기는 어렵다고 밝혔다.

또 0.002%는 자동 차단된 비율이지, 놓친 사고의 비율을 보여주는 숫자가 아니다. 놓친 사고 비율인 위음성률은 공개되지 않았고, 측정도 2026년 8월 한 달에 한정돼 있다.

| 구분 | 앤스로픽이 밝힌 것 | 밝히지 않은 것 |
|---|---|---|
| 대상 업무 | 내부 연구·엔지니어링 에이전트 | 고객 상담·결제 등 대면 업무 미포함 |
| 검증 주체 | 자체 측정·자체 발표(2026.9.17) | 외부 제3자 감사(계획만 언급) |
| 잡아낸 사고 | 0.002% 자동 차단 | 놓친 사고 비율(위음성률) |
| 측정 기간 | 2026년 8월 한 달 | 장기(수개월·수년) 추이 |

검증 주체도 봐야 한다. 이번 수치는 앤스로픽이 직접 측정해 발표한 값이며 외부 제3자 감사는 아직 이뤄지지 않았다.

## 우리 가게 상담봇도 0.002%라고 보면 될까

그렇게 보면 안 된다. 앤스로픽이 측정한 대상은 내부 연구·엔지니어링 에이전트이고, 고객 상담이나 결제처럼 고객을 직접 상대하는 업무가 아니다.

더구나 동네 가게의 AI 상담봇이나 결제 에이전트에는 이런 사전 자동 검토와 사후 재검토 장치가 없는 경우가 대부분이다. 같은 AI라는 이유만으로 앤스로픽의 0.002%를 가게의 AI 안전 수치로 옮겨 쓸 수 없다.

## AI를 쓰는 가게는 늘었는데, 안전 장치는 어떨까

국내 소상공인의 AI 이용률은 2026년 4월 기준 13.7%에서 31.6%로 늘었다. AI를 이용하는 목적 가운데 정보 검색은 42.5%였고, 나 홀로 일하는 자영업자의 AI 이용률은 12.6%였다.

챗GPT 주간 이용자는 2026년 2월 기준 9억 명까지 늘었다. 오픈서베이 조사에서는 최근 3개월 내 사용 경험이 54.5%, 질문을 바로 던지는 경우가 56.9%, 이어서 묻는 질문까지 가는 경우가 42.3%였다.

| 구분 | 수치 | 출처 |
|---|---|---|
| 국내 소상공인 AI 이용률 | 13.7%→31.6% | KISDI(2026.4) |
| AI 이용 목적 중 정보 검색 | 42.5% | KISDI(2026.4) |
| 단독 자영업자 AI 이용률 | 12.6% | KISDI(2026.4) |
| 챗GPT 주간 이용자(세계) | 9억 명(2026.2) | 오픈AI 발표 |
| 3개월 내 챗GPT 사용 경험 | 54.5% | 오픈서베이(2026.7) |
| 소상공인 AI 관련 월 지출 | 30만~100만 원★ | 대행 시세 추정 |
| 우리 가게 4엔진 인용 실측 | 0건(2026.9.15) | AI사이트코리아 측정 |

AI 사용이 늘어나는 것과 AI가 고객을 상대할 때 안전하게 관리되는 것은 다른 문제다. 가게에서 사용하는 AI가 어떤 답을 내놓는지 사람이 확인하는 절차가 별도로 있는지는 또 다른 문제다.

## 우리 가게 AI에는 앤스로픽 같은 감독 체계가 있나

앤스로픽은 약 3만 개의 에이전트를 운영하면서 온라인에서 모든 행동을 사전에 검사하고, 오프라인에서 주 10만 건의 기록을 다시 살핀다. 여기에 사람의 직접 검토도 주당 약 50건이 붙는다.

반면 동네 가게에서 쓰는 AI는 상담봇 1개 안팎인 경우가 일반적이고, 사전 자동 검토와 사후 재검토가 대부분 적용되지 않는다. 이상 탐지율 자체를 측정하지 않는 경우도 많다.

| 구분 | 앤스로픽(내부용) | 동네 가게 AI(일반적) |
|---|---|---|
| 동시 운영 에이전트 | 약 30,000개 | 상담봇 1개 안팎 |
| 사전 자동 검토 | 100% 적용 | 대부분 미적용 |
| 사후 재검토 | 주 10만 건 | 대부분 미적용 |
| 사람의 직접 확인 | 주 50건 | 사장님이 가끔 |
| 차단·이상 탐지율 | 0.002%(공개됨) | 측정 안 됨 |

그래서 0.002%라는 숫자를 보고 안심하기보다 먼저 무엇을 측정한 숫자인지 확인해야 한다. 앤스로픽의 발표가 보여주는 것은 AI가 0.002%만 사고를 낸다는 사실이 아니라, 큰 규모의 에이전트를 운영하면서 행동을 검사하고 차단하는 감독 체계를 구축했다는 점이다.

동네 가게의 AI 상담봇이나 결제 에이전트를 볼 때도 같은 기준이 필요하다. 답변이나 결제가 잘되는지만 볼 것이 아니라, 어떤 행동을 사전에 검사하는지, 문제가 생긴 뒤 다시 확인하는지, 사람이 직접 확인할 수 있는 구조인지까지 살펴봐야 한다.

요점 ① 앤스로픽은 2026년 8월 10억 건 넘는 온라인 결정 가운데 0.002%, 약 2만 건을 자동 차단했다고 밝혔다. ② 오프라인에서는 주당 약 10만 건을 다시 살펴 1,000건당 1~2건을 추가 플래그했다. ③ 이 수치는 내부 연구·엔지니어링 에이전트 대상의 자체 측정값이며 외부 감사와 위음성률은 공개되지 않았다. ④ 국내 소상공인 AI 이용률은 2026년 4월 31.6%였지만, 동네 가게 AI의 이상 탐지율은 측정되지 않는 경우가 대부분이다.

## 같이 읽을 글

 

- 홈페이지 상담봇이 틀리면 누가 책임질까? [/column/chatbot-hallucination-rate-15-to-88]

- 우리 가게 챗봇이 틀리면 보험으로 보상받을 수 있나? [/column/ai-hallucination-liability-insurance]

- AI 점원에게 결제까지 맡겨도 될까? [/column/cheap-models-follow-fake-payment-address-99-percent]

- AI에게 가게를 1년 맡겨도 될까? [/column/ai-runs-online-store-365-days-18-models]
 

## 자료 출처

 

- Measuring the Pace of AI Development(앤스로픽 인스티튜트, Favaro·Wright, 2026.9.17 발표·2026.8 데이터)

- Anthropic runs about 30,000 AI agents on itself and blocks one action in 47,000(믹스드뉴스, 2026.9)

- Is Anyone Watching Your AI Agents? Anthropic's Three Numbers(디지털어플라이드 분석, 2026.9)

- AI Agent Store 주간 뉴스(2026.9.25)

- oversight-gap: Anthropic published three agent-oversight metrics and 1-in-47,000 blocked(GitHub 비평 저장소, 2026.9)

- Anthropic Monitors 30,000 Agents. Can You Count Yours?(THE D·AI·LY BRIEF, 2026.9)