같은 글을 여러 곳에 올리면 AI가 더 믿을까?

여러 곳에 같은 이야기를 퍼뜨리는 것보다 고객과 여러 출처가 확인할 수 있는 사실을 공식 홈페이지에 정리하는 편이 안전하다.

같은 이야기를 여러 곳에 올리면 AI의 답이 한쪽으로 움직일 수 있다. 연구에서는 지어낸 기사 1편만 넣어도 예측의 56%가 뒤집혔고, 10편을 넣자 89%가 뒤집혔다. 그래서 가게가 할 일은 같은 홍보 글을 여러 곳에 복사하는 것이 아니라, 누구나 확인할 수 있는 사실을 공식 홈페이지에 제대로 정리하는 것이다.

AI는 「몇 번 나왔나」에 흔들릴 수 있지만, 「누가 썼나」는 거의 보지 않았다.

같은 이야기를 여러 번 쓰면 정말 AI가 믿나?

이번 연구는 AI가 뉴스를 검색해 미래의 일을 예측하는 상황을 시험했다. 연구진은 이미 결과가 나온 예측 질문 500개를 골라 AI에게 답하게 하고, 검색 결과에 지어낸 기사만 추가했다.

질문에는 「테더가 2025년에 파산할까?」 같은 내용이 있었다. 연구진은 AI 모델이나 검색 도구를 바꾸지 않고, 글을 올리는 것만 조작했다.

항목	내용
질문 수	500개(폴리마켓 334·매니폴드 89·메타큘러스 57·INFER 20)
뉴스 저장소	기사 1,740만 건·언론사 1만 600곳(2024.6~2025.9)
실험한 AI	공개 모델 70억~80억 개 매개변수급 3종(큐원 2종·허미스 1종)
지어낸 기사	한 편 350~500단어, 속보·분석·단독 등 8가지 형식
비교 기준	찬반을 고르게 다룬 중립 기사 5편을 넣은 경우
우연히 바뀌는 비율	같은 AI를 두 번 돌렸을 때 12%

결과는 분명했다. 질문 하나에 지어낸 기사 1편을 넣었을 때 예측의 56%가 반대쪽으로 뒤집혔고, 3편은 70%, 5편은 69~77%, 10편은 89%가 뒤집혔다.

같은 AI를 두 번 돌렸을 때 우연히 답이 바뀌는 비율은 12%였다. 따라서 단순히 우연히 답이 바뀐 것으로만 보기는 어려운 결과다.

지어낸 기사 수(질문 1개당)	반대로 뒤집힌 예측 비율
1편	56%
3편	70%
5편	69~77%(AI 3종)
10편	89%
우연히 바뀌는 비율	12%

글을 많이 읽으면 AI가 더 정확해지는 것 아닌가?

꼭 그렇지는 않았다. 연구에서 AI가 아무것도 검색하지 않았을 때 브라이어 점수는 0.159였지만, 뉴스를 검색해 읽게 하자 0.250으로 나빠졌다.

브라이어 점수는 낮을수록 정확하다. 검색 후 지어낸 기사 5편이 섞였을 때는 0.346~0.451까지 올라갔다.

조건	정확도 점수(브라이어, 낮을수록 정확)
예측 시장 가격	0.074
늘 「15%」라고 답했을 때	0.127
AI, 검색 없이	0.159
같은 AI, 뉴스 검색 후	0.250
검색 후 지어낸 기사 5편이 섞였을 때	0.346~0.451

지어낸 기사 자체도 AI가 읽기 좋은 글이었다. 검색에 걸린 비율은 84%였고, 가장 높은 순위의 평균은 3.4위였다. AI가 매긴 관련도 점수도 지어낸 기사가 평균 5.8점으로 실제 기사의 3.4점보다 높았다.

질문과 비슷한 내용으로 매끄럽게 쓴 글이 AI에게 관련 있는 증거처럼 보인 것이다.

유명한 언론사 이름을 붙이면 더 믿었나?

그렇지도 않았다. 같은 기사에 대형 통신사 이름을 붙이든, 무명 사이트 이름을 붙이든, 저장소에 자주 나오는 언론사 이름을 붙이든 AI의 판단을 움직인 폭은 같았다.

연구진은 이런 문제를 막는 방법도 시험했다. 자주 나오는 언론사만 허용하거나, 기사별로 판단하거나, AI가 쓴 것처럼 보이는 문장을 걸러내는 방법이었다.

방어법	막았을 때	우회했을 때
자주 나오는 언론사 2,000곳만 허용	뒤집힌 비율 14%(우연 수준)	허용된 매체 이름을 붙이자 77%
기사 한 편씩 따로 판단해 가운데 값 사용	기사 1편일 때 18%	기사 5편이면 40~52%
지나치게 매끄러운 문장(AI 작성 흔적)으로 걸러내기	지어낸 기사 100% 제거	문장을 덜 매끄럽게 만들자 31%만 걸림, 남은 글로 67% 뒤집힘

문제는 우회가 가능했다는 점이다. 자주 나오는 언론사 2,000곳만 허용하면 지어낸 기사로 뒤집힌 비율이 14%까지 내려갔지만, 허용된 매체 이름을 붙이자 다시 77%까지 올라갔다.

따라서 사장님 입장에서는 글에 유명한 이름을 붙이는 것보다 실제로 확인할 수 있는 근거를 적는 일이 중요하다.

그럼 우리 가게도 좋은 글을 여러 곳에 올리면 좋을까?

이 연구만으로 동네 가게의 AI 추천이 같은 비율로 바뀐다고 말할 수는 없다. 실험 대상은 가게 추천이 아니라 사건 예측이었고, 실험한 AI도 공개 모델 3종이었다.

지어낸 기사는 실제 웹에 올린 것이 아니라 연구 환경 안에서만 넣었다. 한국어 가게 정보, 지도, 고객 후기 데이터도 실험하지 않았다.

다른 조사에서도 비슷한 문제가 확인되기는 했다. 수백만 건 규모의 지식 저장소에 거짓 글을 여러 편 넣자 공격자가 원하는 답이 90% 나온 경우가 있었고, 260만 건 규모 저장소에서는 97%였다.

하지만 이 숫자를 그대로 가게에 적용해서는 안 된다. 이번 연구가 보여주는 것은 「글을 반복해서 노출하면 AI의 판단이 흔들릴 수 있다」는 방향이다.

누군가 우리 가게에 나쁜 이야기를 여러 곳에 쓰면 어떻게 하나?

예를 들어 누군가 「그 가게는 위생이 나쁘다」는 내용을 여러 블로그에 반복해서 올리는 상황을 생각할 수 있다. 실제 가게 정보에서 AI가 같은 비율로 잘못 답한다고 단정할 수는 없지만, 이번 연구에서는 지어낸 글 1편만으로도 예측의 56%가 뒤집혔다.

이럴 때는 같은 글을 여러 곳에 복사하는 방식보다 사실을 바로잡는 내용을 공식 홈페이지 한곳에 정리하는 것이 안전하다. 가격, 인증 번호, 사진 날짜처럼 고객이 직접 확인할 수 있는 근거를 함께 적는 방법도 있다.

상황	이 연구에서 나온 숫자	가게가 할 일
지어낸 부정 글이 퍼질 때	1편으로 56% 뒤집힘	사실을 바로잡는 글을 공식 홈페이지 한곳에 올리고, 플랫폼에 이의신청
매체 이름을 사칭할 때	이름을 바꿔도 영향 같음	이름이 아니라 확인 가능한 근거(가격·인증 번호·사진 날짜)를 적기
같은 홍보 글을 여러 곳에 올리고 싶을 때	반복할수록 효과 커짐(실험 조건)	구글 스팸 정책 위반 위험. 대신 서로 다른 고객·언론의 독립 후기
AI 답을 점검할 때	우연히 바뀌는 비율 12%	같은 질문을 여러 번·여러 AI에 물어 답이 한쪽으로 쏠리는지 보기

그럼 좋은 이야기를 여러 블로그에 뿌리는 건?

권하기 어렵다. 연구에서는 지어낸 글이 많아질수록 AI의 판단이 한쪽으로 움직였지만, 이것을 가게 홍보에 그대로 적용할 수 있다는 뜻은 아니다.

특히 구글은 검색 순위를 조작하려고 생성형 AI로 가치 없는 페이지를 대량으로 만드는 행위와, 대량 생산을 숨기려고 여러 사이트를 만드는 행위를 스팸 정책에서 금지한다. 반복해서 만든 홍보 글은 AI 답변뿐 아니라 검색 노출에도 문제가 될 수 있다.

더 중요한 것은 출처의 독립성이다. 같은 문장을 열 곳에 복사하는 것과 서로 다른 고객이나 언론이 실제 사실을 각각 확인하는 것은 같은 일이 아니다.

사장님 홈페이지에는 무엇을 남겨야 하나?

공식 홈페이지에는 고객이 확인할 수 있는 사실을 정리해 두는 것이 좋다. 연구에서도 매체 이름 자체는 영향을 거의 주지 않았기 때문에, 「어느 곳에서 말했다」보다 실제 근거가 무엇인지가 중요하다.

AI사이트코리아가 2026년 9월 16일 챗GPT 답변의 인용 31건을 확인했을 때 각 업체의 자기 홈페이지가 10건으로 가장 많았다. 표본이 31건뿐이라 일반화할 수는 없지만, 공식 홈페이지에 사실을 정리해 두는 것이 실제 답변에서 확인될 자리가 될 수 있다는 점은 볼 수 있다.

① 지어낸 기사 1편으로 AI 예측의 56%가 뒤집혔고, 10편에서는 89%가 뒤집혔다. ② 뉴스 검색 전 브라이어 점수는 0.159였지만 검색 후 0.250으로 나빠졌다. ③ 매체 이름을 바꿔도 영향은 같았고, 허용 목록 방어도 이름을 바꾸자 77%까지 뚫렸다. ④ 같은 글을 반복하기보다 확인 가능한 사실을 공식 홈페이지에 정리하고, 독립적인 출처의 확인을 쌓는 편이 안전하다.

같이 읽을 글

자료 출처

작성일 2026년 10월 1일

#AI의 눈 #반복 노출 #정보 오염 #평판 관리 #악성 후기 #출처 검증

← 칼럼 목록