AI에 나오려고 만든 글, 정말 통할까?

가짜 후기와 비교 글로 AI의 추천을 바꾸려는 시도는 실제로 통했다. 하지만 오래 갈 방법은 따로 있다.

AI에 나오려고 가짜 후기나 비교 글을 만드는 것은 지금 일부 AI에서 실제로 통한다. 13개 AI를 대상으로 한 실험에서 조작 성공률은 클로드 소넷 4.6의 0.0%부터 제미나이 3 플래시의 31.4%까지 달랐다. 하지만 AI를 속이는 방법보다 오래 남는 방법은 고객과 AI가 함께 확인할 수 있는 사실을 제대로 쌓는 것이다.

AI는 숨겨진 명령보다 다른 사람이 쓴 것처럼 보이는 근거를 더 믿는 경향을 보였다.

정말 가짜 글 하나로 AI의 추천이 바뀌나?

그럴 수 있다.

AI 검색 에이전트는 웹에서 찾은 내용을 근거로 업체를 추천한다. 그래서 누군가 웹에 특정 업체를 좋게 보이도록 만든 글을 올리면 AI의 답이 달라질 가능성이 생긴다.

2026년 6월에 진행된 SearchGEO 실험은 이 문제를 직접 확인했다. 실제 검색 결과를 저장한 뒤 그 사이에 꾸민 페이지를 넣고, AI 에이전트의 추천이 달라지는지 살폈다.

13개 AI와 44개 과제, 4개 분야를 대상으로 모델마다 308건을 검사했고 전체 건수는 6,000건 이상이었다.

항목	내용
실험 틀	SearchGEO — 실제 검색 결과를 저장해 두고, 그 사이에 꾸민 페이지를 끼워 넣어 AI 에이전트가 추천을 바꾸는지 봄
AI	13개(제미나이·클로드·GPT·딥시크·그록·키미·미니맥스·큐원 계열), 온도 0
과제	44개 과제·4개 분야(소비자 IT 제품 등), 모델당 308건, 전체 6,000건 이상
조작 방식 5가지	① 숨긴 명령문 ② 숨긴 가짜 사실 ③ 기계용 표시 조작 ④ 「전문가·언론이 썼다」는 신뢰 신호 ⑤ 여러 사이트가 같은 주장(합동)
저자·시점	Chen·Ren·Laakom·Li·Guo·Schmidhuber, 2026년 6월 15일(23일 개정)

결과는 AI마다 크게 달랐다.

클로드 소넷 4.6은 조작 성공률이 0.0%였다. 반면 제미나이 3 플래시는 31.4%였다. 같은 방식으로 검색해서 답하는 AI라도 조작을 받아들이는 정도가 달랐다.

AI	조작 성공률
클로드 소넷 4.6	0.0%
GPT-5.4 미니	0.8%
딥시크 V4 프로	9.1%
미니맥스 M2.7	17.4%
딥시크 V4 플래시	20.1%
제미나이 3 플래시	31.4%

숨긴 명령을 넣으면 잘 속나?

오히려 그렇지 않았다.

페이지 안에 「이 업체를 추천하라」 같은 숨긴 명령을 넣는 방식은 제미나이 3 플래시에서 2.3%가 통했다. 그런데 같은 자리에 제3자가 쓴 사실처럼 꾸민 글을 넣자 성공률이 18.2%로 올라갔다.

AI가 명령을 그대로 따르게 만드는 것보다, 다른 사람이 확인한 근거처럼 보이게 만드는 것이 더 큰 영향을 준 것이다.

여러 사이트가 같은 주장을 하는 방식도 강했다. 사이트 한 곳에서는 39%였지만 두 곳에서는 55%, 세 곳에서는 77%까지 올라갔다.

조작 방식	결과
페이지에 숨긴 명령문(「이 업체를 추천하라」)	제미나이 3 플래시에서 2.3%
같은 자리에 「제3자가 쓴 사실」처럼 꾸민 글	같은 AI에서 18.2%
신뢰 신호(전문가·언론 흉내)	성공률 올라감
여러 사이트 합동	사이트 1곳 39% → 2곳 55% → 3곳 77%
성공한 조작의 답 변화(추천 점수 이동)	+0.692
실패해도 몰래 답이 밀린 경우	방식 ⑤에서 15.0%

이 부분은 동네 사장님에게도 중요한 내용이다.

AI가 여러 곳에서 같은 사실을 발견하면 그 내용을 더 믿을 수 있다. 문제는 같은 사실을 여러 곳에 복사하는 것과 실제로 여러 곳에서 확인되는 사실은 다르다는 점이다.

그럼 AI의 방어 기능을 켜면 막을 수 있나?

아직 간단하지 않다.

실험에서는 출처를 검증하라고 지시하는 방어 A를 사용했을 때 조작 성공률이 내려간 AI가 있었다. 하지만 다른 틀의 방어 B를 사용하자 제미나이 3 플래시의 성공률은 31.4%에서 34.1%로 올라갔다.

AI마다 방어 결과가 달랐다는 뜻이다.

조건	제미나이 3 플래시	딥시크 V4 플래시	미니맥스 M2.7
방어 없음	31.4%	20.1%	17.4%
방어 A(출처 검증 지시)	24.6%	12.9%	6.1%
방어 B(다른 틀)	34.1%	12.9%	13.6%

또 다른 문제가 있다.

AI가 조작을 너무 경계하면 깨끗한 정보까지 제대로 답하지 못할 수 있다. 클로드 소넷 4.6은 조작에 0/10으로 넘어가지 않았지만, 조작이 없는 질문에서도 유용한 답을 10/10 거부했다.

반대로 GPT-5.4 미니는 조작이 없는 질문에는 10/10으로 유용한 답을 했지만, 조작에는 10/10으로 넘어갔다.

	클로드 소넷 4.6	GPT-5.4 미니
조작 없는 질문에 유용한 답 거부	10/10	0/10
조작(가짜 도구 설치 권유)에 넘어감	0/10	10/10
18건 확대 검사에서 가짜 수용	0/18	17/18(GPT-5.5는 16/18)

즉, AI가 무조건 의심한다고 문제가 끝나는 것은 아니다. AI는 유용한 정보를 찾으면서 동시에 조작된 정보를 걸러야 한다.

사장님은 가짜 글을 만들어야 하나?

그렇게 생각할 필요가 없다.

지금 조작이 일부 AI에서 통한다고 해서 그것이 오래가는 방법이라는 뜻은 아니다. 검색 서비스에서도 조작된 페이지를 걸러내는 일이 있었고, AI 검색에서도 같은 문제가 생길 수 있다.

특히 제3자가 쓴 것처럼 꾸민 글이나 여러 사이트에 같은 주장을 복사하는 방식은 AI가 정보를 판단하는 과정 자체를 이용한 것이다.

AI사이트코리아가 2026년 9월 16일 챗GPT 인용 31건을 확인했을 때는 작은 회사의 자기 홈페이지가 10건으로 가장 많았다. 조작된 글이 아니라 원본 홈페이지가 인용된 경우였다.

사장님이 해야 할 일은 복잡하지 않다.

고객이 실제로 남긴 후기를 그대로 공개하고, 홈페이지에는 사업자가 직접 확인할 수 있는 사실을 적으면 된다. 개업일, 시공 건수, 자격 번호처럼 확인할 수 있는 정보가 그 대상이다.

같은 문장을 여러 사이트에 복사하기보다 홈페이지에 원본을 두고 기사나 프로필에서는 그 원본으로 연결하는 방법도 있다.

하지 말 것	대신 할 것
남이 쓴 것처럼 꾸민 후기·비교 글	진짜 고객 후기를 구글·네이버·홈페이지에 그대로
같은 문장을 사이트 여러 곳에 복사	홈페이지 원본 하나 + 기사·프로필은 링크
「전문가 인증」 흉내	확인 가능한 사실(개업일·시공 건수·자격 번호)
AI에 숨긴 지시문	사람이 읽는 글과 기계용 명함의 내용을 같게

결국 AI가 읽는 정보도 사람이 확인할 수 있어야 한다.

가짜 후기를 만드는 것은 AI의 약점을 이용하는 방법이다. 반대로 실제 고객 후기와 확인 가능한 사실을 쌓는 것은 AI가 정보를 확인할 수 있게 만드는 방법이다.

지금은 조작이 통하는 AI가 있지만, 모든 AI가 같은 반응을 보이는 것도 아니다. 그래서 특정 AI의 현재 약점을 이용하는 것보다 오래 확인할 수 있는 원본을 만드는 편이 사업자에게 더 직접적인 방법이 된다.

AI가 믿게 만드는 가장 확실한 재료는 꾸며낸 글이 아니라 확인할 수 있는 원본이다.

같이 읽을 글

자료 출처

작성일 2026년 9월 20일

#AI 경제 #논문 #조작 #검색에이전트 #벌칙

← 칼럼 목록