고객이 챗봇에 털어놓은 말도 AI 회사로 가나?

고객이 챗봇에 적은 말은 이름을 지웠다고 완전히 익명으로 바뀌지 않는다. 한 연구에서는 이름과 IP를 지운 대화만으로도 개발자 사용자의 50~75%, 일반 사용자의 최대 10%를 다시 찾았다. 그래서 가게 챗봇은 이름을 지우는 것보다 처음부터 고객에게 깊은 개인정보나 사정을 덜 묻는 쪽이 중요하다.

챗GPT는 정말 대화 내용을 보고 광고를 붙이나?

그렇다. 챗GPT는 광고 개인화가 켜져 있으면 지금 대화뿐 아니라 지난 대화와 답변에 쓰이는 맥락을 바탕으로 광고를 고를 수 있다. 오픈AI가 든 예처럼 레시피를 찾으면 밀키트나 장보기 배송 같은 광고가 나올 수 있다.

한국에서는 2026년 6월 19일부터 무료·Go 요금제의 성인을 대상으로 광고가 시범 도입됐다. 건강·정신건강·정치 대화에는 광고를 붙이지 않는다고 했고, 광고주에게는 노출 수와 클릭 수 같은 합계만 제공하며 개별 대화나 개인정보는 주지 않는다고 밝혔다.

여기서 구분할 것이 있다. 광고주가 고객의 대화를 볼 수 없다는 것과 AI 회사가 대화 내용을 처리하지 않는다는 것은 같은 말이 아니다.

개인화를 끄면 지난 대화는 광고 선택에서 빠지고 지금 대화만 반영된다. 광고 자체가 없어지는 것은 아니다.

이름만 지우면 AI 회사는 누군지 모르는 것 아닌가?

이름을 지워도 대화 내용은 남는다. 매사추세츠대 연구진은 실제 대화 17만 5,000여 건을 이용해, 이름과 IP 같은 꼬리표를 떼어 낸 대화가 과거의 누구 대화인지 다시 연결할 수 있는지를 시험했다.

개발자 대화는 146명이 남긴 3,989건, 일반 대화는 2만 5,357명이 남긴 17만 2,509건이었다. 과거 대화와 이후의 이름 없는 대화를 비교했을 때, 잘못 짝짓는 비율을 10%로 제한해도 개발자 사용자의 50~75%, 일반 사용자의 최대 10%에서 같은 사람의 대화를 다시 찾았다.

방법은 문장을 숫자로 바꿔 서로 비슷한 대화를 찾는 것이었다. 이름을 몰라도 같은 사람이 반복해서 말하는 고민과 관심사가 비슷하면 여러 대화를 한 사람의 것으로 연결할 수 있다는 뜻이다.

이름을 몰라도 같은 사람의 대화를 묶을 수 있나?

가능했다. 연구에서는 대화의 내용을 바탕으로 여러 대화를 같은 사람의 것으로 묶는 정확도도 따로 측정했다.

개발자 대화의 묶기 점수는 0.45~0.6, 일반 대화는 0.4~0.5였다. 아무렇게나 묶었을 때의 0.1~0.3보다 높았다.

중요한 점은 이름을 알아내는 것과 같은 사람의 대화를 모으는 것이 다른 문제라는 것이다. 이름을 끝내 확인하지 못해도 여러 대화를 한 사람의 기록으로 묶으면 그 사람의 관심사나 고민이 하나의 그림처럼 쌓일 수 있다.

말투를 바꾸거나 이름을 가리면 괜찮지 않나?

연구진은 말투를 격식체와 능동태로 바꾸기, 사람과 회사 이름을 가리고 말버릇과 이모티콘을 지우기, 대화 끝에 엉뚱한 주제의 문장을 덧붙이기 같은 방법도 시험했다.

결과는 사용자 다시 찾기 비율이 거의 줄지 않았다. 특히 이름과 말버릇을 가리는 방법도 효과가 크지 않았고, 엉뚱한 문장을 덧붙이는 방법은 대화 묶기에는 가장 큰 영향을 줬지만 사용자 다시 찾기 비율은 거의 그대로였다.

이 연구가 보여주는 핵심은 단순하다. 겉으로 보이는 이름이나 말투를 지우는 것보다 고객이 어떤 내용을 반복해서 말하는지가 더 중요할 수 있다는 것이다.

AI 회사는 대화를 광고에만 쓰나?

광고만의 문제는 아니다. 스탠퍼드대 연구진은 2025년 10월 아마존·앤스로픽·구글·메타·마이크로소프트·오픈AI 6곳의 개인정보 문서 28건을 살펴봤고, 6곳 모두 기본 설정에서 사용자 대화를 모델 학습에 사용한다고 정리했다.

일부 회사는 대화 보관 기한을 정하지 않은 것으로 조사됐다. 연구진은 대화가 모델 학습뿐 아니라 이용 행태 분석과 맞춤 광고에 쓰일 가능성도 지적했다.

다만 여기서 실제로 특정 고객의 대화가 광고주에게 넘어간다고 단정하면 안 된다. 오픈AI는 광고주에게 개별 대화와 개인정보를 제공하지 않는다고 밝혔고, 가게 챗봇의 대화가 바로 챗GPT 광고로 이어진다는 증거도 이 연구에는 없다.

그럼 우리 가게 챗봇에 적은 말은 어디로 가나?

가게 홈페이지에서 외부 AI를 연결해 챗봇을 만들면 고객이 입력한 문장이 그 AI 회사의 서버로 전송될 수 있다. 「무릎이 아파서 계단이 힘든데 어떤 시술이 맞나요」처럼 민감한 내용이나 가족 사정 같은 내용도 고객이 입력하면 그대로 전달될 수 있다.

개인정보보호위원회가 2025년 8월 6일 낸 생성형 AI 개인정보 처리 안내서도 외부 AI를 사용할 때 이용자가 입력한 내용이 해외 서버로 갈 수 있으므로 계약과 약관을 확인하라고 안내한다. 특히 챗봇이 고객에게 먼저 깊은 고민이나 병력, 가족 사정을 묻도록 만드는 것은 신중해야 한다.

기업용 계약이나 API는 대화를 학습에 사용하지 않는 조건이 붙는 경우가 많다. 따라서 가게 챗봇을 만든다면 어떤 AI를 쓰는지보다 먼저, 고객 입력이 어디로 가는지와 학습에 사용하지 않는다는 조건이 계약에 들어 있는지를 확인해야 한다.

결국 이름을 지우는 것보다 먼저 할 일은 무엇인가?

첫째는 챗봇이 고객에게 꼭 필요한 말만 묻게 하는 것이다. 고객의 고민이나 병력, 가족 사정처럼 답변에 꼭 필요하지 않은 정보까지 먼저 묻지 않는 편이 안전하다.

둘째는 외부 AI로 전송된다는 사실을 챗봇 첫 화면에서 알리는 것이다. 셋째는 깊은 상담이 필요한 내용은 전화나 방문 같은 사람 창구로 넘기는 것이다.

대화 기록을 얼마나 오래 보관할지도 정해야 한다. 고객에게 받은 말을 무조건 많이 모으는 것이 좋은 챗봇을 만드는 방법은 아니다.

같이 읽을 글

• 한국에서 챗GPT 광고를 해 볼 만할까?
• 챗봇 붙이기 전에 개인정보 점검, AI에게 맡겨도 될까요?
• 챗봇은 품절 상품을 바로 알까요?
• 협찬 글을 인용하면 AI가 고객에게 알려줄까?

자료 출처

• Can Prompt Anonymity Protect Your Identity From LLM Providers?(University of Massachusetts Amherst·arXiv 2609.33903·2026.9, 대화 17만 5,000여 건·2만 5,000명 이상)
• Ads in ChatGPT(오픈AI 도움말·2026, 광고 개인화·제외 주제·광고주 공유 범위)
• OpenAI ads(더레지스터·2026.2.10, 미국 시범·개인화 기본값·광고 금지 업종)
• 챗GPT, 한국에서도 광고 뜬다…무료·저가 요금제 성인 대상(뉴시스·2026.6.19)
• Be Careful What You Tell Your AI Chatbot(스탠퍼드 HAI·2025.10.15, 6개사 개인정보 문서 28건)
• User Privacy and Large Language Models: An Analysis of Frontier Developers' Privacy Policies(스탠퍼드 CIS·AIES 2025)
• AI 생애주기별 개인정보 처리기준 첫 공개(바이라인네트워크·2025.8, 개인정보보호위원회 생성형 AI 안내서 4단계)