AI가 우리 가게 순위도 마음대로 바꿀 수 있나?

AI가 추천 순서를 매기는 방식은 실제로 조작할 수 있다. 방어가 없을 때 공격 성공률은 평균 50.32%였지만 전용 방어 기법을 적용하면 6.20%까지 내려갔다. 동네 가게가 더 먼저 걱정해야 할 문제는 누군가 순위를 조작하는 것보다 우리 가게 정보가 AI에 제대로 들어가고 있는지다.

AI가 가게 순위를 억지로 올릴 수 있나?

가능하다. 최근 연구에서는 AI가 여러 제품이나 문서를 추천 순서로 나열할 때 특정 항목의 순위를 끌어올리는 공격법을 실제로 시험했다.

공격법은 크게 두 가지였다. 문장을 다시 쓰거나 바꾸는 방식이 있었고, 모델 내부의 수치를 계산해 문장을 바꾸는 방식도 있었다. 다섯 개 데이터셋과 최대 1만 6,360개 항목을 대상으로 시험한 결과, 일부 공격은 상위 10% 안에 들어가는 데 100%의 성공률을 보였다.

이 결과만 보면 AI 검색 순위가 마음대로 조작될 것처럼 보인다. 하지만 모든 공격이 같은 수준으로 쉬운 것은 아니다.

모델 내부 수치를 계산하는 공격은 공개된 모델의 내부 구조에 접근해야 한다. 이런 방식은 기술적 난도가 매우 높다. 따라서 동네 가게 경쟁자가 쉽게 실행할 수 있는 공격으로 보기는 어렵다.

그럼 방어하면 얼마나 막을 수 있나?

공격을 막는 방법도 함께 시험됐다. 폐쇄형 인공지능 두 개와 공개형 인공지능 세 개를 포함한 다섯 개 모델에 일곱 가지 공격을 적용했다.

방어 장치가 없을 때 평균 공격 성공률은 50.32%였다. 전용 방어 기법을 적용하자 성공률은 6.20%로 떨어졌다. 정상적인 근거 자료를 활용하는 비율은 94.12%로 거의 유지됐다.

기존에 있던 간단한 방어 도구 세 가지는 효과가 훨씬 작았다. 공격 성공률을 낮추는 폭이 최대 5.7%에 그쳤다.

즉, AI 검색 조작이라는 문제가 단순한 가정은 아니다. 실제 공격법이 있고 방어법도 연구되고 있다. 다만 공격과 방어의 기술 수준에 따라 결과가 크게 달라진다.

실제 인터넷에서도 이런 조작이 벌어지고 있나?

낮은 수준의 조작은 이미 확인됐다. 보안팀은 「AI로 요약하기」 같은 기능에 숨은 지시문을 넣어 인공지능이 특정 회사를 신뢰할 만한 출처로 기억하도록 만드는 사례를 확인했다.

2026년 2월 기준으로 31개 회사에서 숨긴 지시문 50개 이상이 발견됐고, 14개 업종에서 이런 방식이 확인됐다. 구글도 2025년 11월부터 2026년 2월 사이 악성 목적의 지시문 삽입 탐지가 32% 증가했다고 밝혔다.

전자상거래 사이트를 대상으로 한 조사에서도 문제가 확인됐다. 무작위 표본 가운데 13%가 제3자가 지시문을 삽입할 수 있는 상태였다. 후기나 댓글처럼 다른 사람이 내용을 작성할 수 있는 곳이 공격에 이용될 수 있다는 뜻이다.

AI 답변에 자기 이름을 넣으려는 상업적 시도도 확인됐다. 언론 조사에서는 AI 챗봇에서 발생한 링크 클릭이 월 2억 3천만 회 이상으로 1년 전보다 3배 늘었고, 일부 대행사 고객은 전체 트래픽의 44%가 AI 플랫폼에서 들어왔다. 국내 대행사가 언론사에 건당 유료 기사 게재를 제안한 사례도 확인됐다.

그럼 동네 가게는 뭘 먼저 걱정해야 하나?

공격 유형을 나눠 보면 답이 조금 달라진다. 모델 내부 수치를 계산하는 공격은 실행 난도가 매우 높다. 문장을 반복해서 바꾸는 공격은 그보다 쉽지만, 자기 가게가 해당 업종의 AI 답변에 자주 등장해야 효과를 기대할 수 있다.

그런데 현재 동네 가게는 AI 답변에 등장하는 것 자체가 쉽지 않다. 지역 매장을 소개할 때 지도 목록에는 35.9%가 오르지만 챗GPT 답변에는 1.2%만 오른다는 조사가 있다.

대형 업체가 AI 답변에서 인용되는 비율도 73%로 소규모 업체의 11%보다 높다는 조사 결과가 있다. 이런 상황에서는 누군가 우리 가게의 순위를 억지로 끌어내릴 가능성보다, 애초에 우리 가게가 AI의 답변에 제대로 들어가지 못하는 문제가 더 직접적이다.

또 하나 살펴볼 부분은 반복 인용이다. 같은 출처가 다시 인용될 확률은 0.68이고, 한 번 인용되고 끝나는 비율은 59.1%였다.

AI가 지역 가게를 찾을 때 일부 출처가 반복해서 사용되는 구조라면 먼저 정확한 정보가 들어간 곳이 계속 활용될 가능성이 있다. 따라서 조작을 걱정하기 전에 가게의 이름과 위치, 업종 같은 정보가 정확하게 확인될 수 있도록 만드는 일이 먼저다.

AI 순위 조작보다 더 현실적인 문제는 무엇인가?

현재 확인된 공격 가운데 누구나 시도할 수 있는 방식은 숨은 지시문을 넣는 방법이다. 후기나 댓글처럼 다른 사람이 내용을 작성할 수 있는 공간에 지시문이 들어갈 수 있다면 문제가 될 수 있다.

반면 모델 내부 수치를 계산하는 공격은 기술적 장벽이 높다. 문장 재작성형 공격도 가능하지만 경쟁이 매우 심한 업종에서 실제로 시도할 수 있다는 정도로 봐야 한다.

정상적인 홍보 글쓰기는 이와 다르다. AI가 읽고 활용할 수 있도록 정확한 정보를 제공하는 것은 조작 공격이 아니라 정상적인 정보 제공에 해당한다.

결국 동네 가게가 지금 확인할 일은 단순하다. AI가 우리 가게를 찾아볼 수 있는 정보가 있는지, 그 정보가 정확한지, 다른 출처와 충돌하지 않는지를 살펴봐야 한다.

AI 검색 순위를 누군가 억지로 바꿀 수 있다는 사실은 실제 연구로 확인됐다. 하지만 현재 자료만 놓고 보면 동네 가게의 가장 현실적인 문제는 정교한 순위 공격을 당하는 것이 아니다. AI가 우리 가게를 제대로 발견하고, 정확한 정보를 바탕으로 답할 수 있게 만드는 일이 먼저다.

같이 읽을 글

• AI가 우리 가게 정보를 엉뚱하게 읽을 수도 있을까?
• 체험단 후기를 홈페이지 별점에 넣어도 될까?
• 작은 가게도 AI 답변에 들어갈 수 있을까?
• GEO 연구 45건을 모아보니, 뭐가 진짜 효과가 있을까?

자료 출처

• 순위 조작 공격·화이트햇 전략 비교 실험(공동 연구팀·2026.5·5개 데이터셋 최대 16,360건)
• 순위 조작 방어 기법 실험(공동 연구팀·2026.9·폐쇄형 2개+공개형 3개 모델·7가지 공격)
• AI 추천 조작(AI Recommendation Poisoning) 보안 조사(마이크로소프트 보안팀·2026.2.10·31개 회사)
• 프롬프트 인젝션 실제 악용 증가 보고(구글·2025.11~2026.2·32% 증가)
• 제3자 콘텐츠발 프롬프트 인젝션 노출 실태(IEEE 보안학회 채택 조사·전자상거래 사이트 13%)
• 브랜드의 AI 답변 조작 실태 조사(월스트리트저널 계열 인용·2025.9·월 2억3천만 클릭)