경쟁사가 낯선 성분을 무첨가라고 쓰면 AI 추천이 달라질까?

경쟁사가 처음 듣는 성분 이름을 만들어 「○○ 무첨가」라고 쓰면 AI 쇼핑 비서가 그 상품을 더 추천할 수 있다. 한 실험에서 화장품이 7개 상품 중 2위 안에 들 확률은 39%에서 56%로 올랐다. 핵심은 상품 설명의 거짓말이 아니라, AI가 검색해서 읽은 웹상의 가짜 연구 글이었다.

어떻게 참말만으로 추천 순서를 바꿀까?

스위스 로잔연방공대(EPFL)와 미국 하버드대 연구진은 2026년 10월, AI 쇼핑 비서의 추천을 바꾸는 실험을 공개했다. 연구진은 이 방식을 「에이전트 광고」라고 불렀다.

방법은 세 단계다. 먼저 실제로 존재하지 않는 성분 이름을 만든다. 다음으로 상품 설명에 「이 제품에는 ○○이 들어 있지 않다」고 쓴다. 마지막으로 해당 성분이 해롭다는 가짜 연구 요약을 웹에 올린다.

가짜 성분이 실제로 없으므로 상품 설명 자체는 참일 수 있다. 하지만 AI가 낯선 이름을 검색하고 가짜 연구 글을 읽으면, 그 성분을 피하려는 고객에게 해당 상품을 추천할 가능성이 커진다. 새로운 이름은 검색 경쟁이 적어 가짜 글이 먼저 노출될 가능성도 있다.

실제로 추천 확률이 얼마나 달라졌을까?

연구진은 상품 설명에 부정문만 넣은 경우, AI가 검색해 가짜 글을 읽은 경우, 가짜 글을 AI가 보는 목록 앞에 직접 붙인 경우를 비교했다. 조작한 상품이 목록 가운데 있을 때 여러 AI의 결과를 합친 수치다.

화장품은 부정문만 넣었을 때 39%였지만, 검색으로 가짜 글을 읽었을 때 56%로 올랐다. 구인 공고는 40%에서 50%로, 영양제는 23%에서 35%로 상승했다. 단기 임대 숙소도 41%에서 46%로 올랐다.

반면 부정문만 넣은 경우는 대부분의 AI와 분야에서 조작하지 않은 경우와 통계적으로 구별되지 않았다. 검색 결과가 비어 있을 때도 효과는 거의 나타나지 않았다. 상품 설명의 문구만 바꿔서는 충분하지 않았고, 웹에 심은 가짜 정보가 추천 순서를 움직인 셈이다.

AI는 가짜 성분을 알아채지 못할까?

AI마다 반응은 달랐다. 일부 모델은 가짜 주장을 그대로 믿고 순위에 반영했다. 다른 모델은 상품 특징 중 하나로만 다루거나 아예 언급하지 않았다.

흥미로운 점은 AI에게 성분이 진짜인지 직접 물었을 때와 상품 순위를 매기게 했을 때의 차이다. 직접 질문하면 대부분의 AI가 시도의 62~95%에서 가짜를 가려냈지만, 순위를 정하는 과정에서는 조작 시도라고 짚어 낸 비율이 추론 기록 6,400개 전체에서 2.0%에 그쳤다.

화장품의 전체 성분표가 도움이 된 사례도 있었다. 클로드 오퍼스 4.8은 일곱 상품의 성분표를 대조해 어느 상품에도 해당 성분이 없다는 점을 확인했다. 이 경우 가짜 주장을 60% 반박했다. 다만 낯선 성분을 무조건 의심하도록 만드는 것만으로는 충분하지 않다. 실제 신제품과 가짜 이름을 구별하는 점수도 0.56~0.71에 머물렀기 때문이다.

플랫폼 규정만 믿어도 괜찮을까?

연구진은 상품·구인·숙박 플랫폼 15곳의 규정을 살폈다. 모든 플랫폼이 자기 상품 설명에 사실을 써야 한다고 요구했지만, 상품 글을 읽는 AI를 조종하는 행위를 금지한 곳은 없었다.

기존 규정은 숨은 글자나 키워드 반복처럼 검색 노출을 조작하는 행위를 주로 다룬다. 하지만 이번 방식은 화면에 보이는 상품 설명이 참일 수 있고, 거짓 정보는 상품 페이지 바깥에 있다. 상품 글만 검사하는 규정으로는 놓치기 쉽다.

국제 웹 보안 단체 OWASP는 외부 글에 숨은 지시를 심어 AI를 움직이는 간접 프롬프트 주입을 주요 위험으로 꼽는다. 연구진은 AI를 조종하도록 만든 콘텐츠를 판매자 규정에서 금지할 필요가 있다고 권고했다.

한국에서도 표시 문구는 주의해서 써야 한다. 식약처는 2019년 11월 식품의 부당한 표시·광고 기준을 만들면서, 원래 사용할 수 없는 원재료를 쓰지 않았다고 광고하는 행위를 소비자 기만으로 다뤘다. 인삼·홍삼음료의 「색소 무첨가」와 고춧가루의 「고추씨 무첨가」가 그 예다.

세상에 없는 성분을 무첨가라고 표시하는 행위도 고객을 오해하게 한다면 문제가 될 가능성이 있다. 다만 연구진은 한국 법을 검토하지 않았으므로, 구체적인 법률 판단은 별도로 확인해야 한다.

우리 가게 상품 설명은 어떻게 써야 할까?

동네 사장님이 우선 할 일은 성분과 상품 정보를 고객이 직접 확인할 수 있게 정리하는 것이다. 전체 성분표를 이미지로만 올리지 말고 글자로도 제공하면 AI가 내용을 읽고 다른 정보와 대조하기 쉬워진다. 실제로 존재하지 않는 성분을 무첨가라고 강조하거나, 고객에게 불필요한 불안감을 주는 표현은 피해야 한다.

경쟁 상품에서 처음 듣는 성분 이름을 발견했다면 그 이름을 직접 검색해 본다. 검색 결과에 최근 작성된 단정적인 연구 글만 나오거나, 여러 제조사가 해당 성분을 빼고 있다는 주장이 반복된다면 내용을 더 확인할 필요가 있다. AI에게 우리 상품군을 물었을 때 갑자기 특정 성분을 피하라는 조건이 등장하는지도 살펴볼 만하다.

가짜 연구 글을 발견하면 화면을 저장하고 플랫폼과 관련 기관에 알린다. 우리 가게가 새 원료를 사용한다면 공식 자료로 확인할 수 있는 링크를 상품 설명에 함께 두는 편이 좋다. 고객과 AI 모두가 사실을 확인할 수 있는 근거를 마련하는 것이다.

이 실험 결과를 어디까지 믿어야 할까?

이번 연구를 모든 쇼핑 환경에 그대로 적용해서는 안 된다. 검색은 실제 검색엔진이 아니라, 정해진 질문에 가짜 글을 돌려주도록 모방한 방식이었다. 가짜 페이지가 실제 검색 결과에서 상위에 노출되는지는 측정하지 않았다.

실험은 분야별 100개 목록을 바탕으로 진행됐고, 한 번에 비교한 상품은 주로 7개였다. 일부 AI는 시험용 글이라는 사실을 알아챘으며, AI의 추론 기록에 적힌 이유와 실제 순위 변화가 어긋난 경우도 약 30%였다.

데이터도 영어권에 한정됐다. 아마존 영양제, 공개 화장품 자료, 우크라이나 구인 사이트, 암스테르담 숙소 목록을 사용했으며 네이버쇼핑이나 쿠팡 같은 한국 플랫폼은 시험하지 않았다. AI 모델과 검색 환경도 계속 바뀌므로, 실제 국내 쇼핑에서 같은 결과가 나온다고 단정할 수는 없다.

그렇더라도 사장님이 지금 준비할 일은 분명하다. 상품 정보를 정확하게 쓰고, 성분표를 읽을 수 있는 형태로 공개하며, 낯선 주장에는 확인 가능한 근거를 붙이는 것이다. AI가 상품을 추천하는 시대에는 고객뿐 아니라 AI도 확인할 수 있는 정보가 중요하다.

같이 읽을 글

• 경쟁 업체가 거짓 글을 올리면 AI가 우리 가게를 잘못 추천할까?
• 검색하는 AI는 가짜 글에 얼마나 속을까?
• 홈페이지 그림 한 장이 AI의 선택을 바꿀 수 있을까?

자료 출처

• Welcome to the Age of Agent Ads: Using On-Policy Attacks to Steer Agentic Decisions(스위스 로잔연방공대·미국 하버드대·arXiv 2610.17195·2026년 10월 12일 제출, 4개 분야·AI 12종·플랫폼 규정 15곳)
• 같은 논문 HTML 본문(5장 결과, 표 1·2·10·13, 부록 A·D·E·H)
• 연구진 공개 코드 저장소(GitHub on-policy-attacks)
• LLM01:2025 Prompt Injection(OWASP 생성형 AI 보안 프로젝트·2025년판, 간접 프롬프트 주입 포함)
• Spam policies for Google web search(구글 검색 센터, 숨은 글자·키워드 남용 규정)
• 식약처, 식품 등 부당한 표시·광고 내용 기준 제정(뉴시스·2019년 11월 13일, 원래 쓸 수 없는 원재료의 「무첨가」 광고는 기만)