똑똑한 AI를 같이 쓰면 가게들이 같은 실수를 할까?

똑똑한 AI를 쓰면 가게 하나하나의 판단은 나아질 수 있다. 하지만 모두가 비슷한 AI에 비슷한 정보를 넣으면 반대의 일이 생길 수 있다. 금융시장 실험에서는 같은 틀린 해설을 넣었을 때 가격 오차가 AI가 없을 때보다 5~7배 커졌다.

똑똑한 AI끼리는 정말 비슷하게 판단할까?

MIT와 하버드 케네디스쿨 연구진은 AI 7종에 같은 가상 주식 거래 상황을 보여줬다. 64개 상황을 만들고 상황마다 5번씩 답하게 한 뒤, AI 두 개씩 21쌍을 비교했다.

결과는 분명했다. 성능이 높은 AI일수록 서로 비슷한 판단을 했다. 성능은 일반 지식·추론 시험인 MMLU-Pro와 사람들의 1:1 비교 점수인 ELO로 측정했는데, 어느 쪽으로 보더라도 같은 결과가 나왔다.

특히 같은 회사가 만든 AI끼리 더 닮은 것은 아니었다. 연구진은 다른 회사의 성능 좋은 AI 두 개가 같은 회사의 성능 낮은 AI 두 개보다 더 닮을 수 있다고 정리했다.

AI를 여러 개 섞어 쓰면 실수가 줄지 않을까?

사람이나 AI의 실수가 서로 제각각이면 여러 판단을 모을수록 실수가 줄어든다. 하지만 같은 방향으로 틀리면 여러 개를 섞어도 그 실수는 남는다.

연구진이 측정한 AI 하나의 흔들림은 0.021이었다. AI를 아주 많이 모아도 0.010 아래로 내려가지 않았다. 처음 흔들림의 약 절반은 AI를 더 섞어도 사라지지 않는다는 뜻이다.

다른 연구에서도 비슷한 결과가 나왔다. AI 350종 이상을 비교했을 때, 두 AI가 모두 틀린 문제에서 같은 오답을 고른 비율은 60%였다.

정보가 맞으면 똑똑한 AI가 시장을 더 잘 움직일까?

그렇다. 이 실험에서는 AI가 가진 장점도 분명하게 나타났다.

연구진은 가상 주식시장을 100라운드 돌렸다. 진짜 가치가 바뀌는 상황에서 AI 비중을 높이자 가격은 진짜 가치에 더 가까워졌다. 가격과 진짜 가치의 차이가 클 때 더 크게 주문하는 AI일수록 남은 가격 오차도 작았다.

즉 정보가 맞다면 여러 AI가 비슷한 방향으로 움직이는 것이 문제가 되지 않았다. 오히려 틀어진 가격을 빠르게 바로잡는 데 도움이 됐다.

모두가 같은 틀린 정보를 들으면 어떻게 될까?

문제는 정보가 틀렸을 때 나타났다. 연구진은 모든 AI에게 매 라운드 똑같은 시장 해설 8개를 넣었다. 8개가 서로 다른 평범한 해설을 주는 조건과, 8개 모두 「적정가가 25~30% 부풀려졌다」고 말하는 조건을 비교했다.

평범한 해설에서는 세 AI 모두 가격이 움직여야 할 방향을 100% 맞혔다. 하지만 같은 틀린 해설을 넣자 진짜 가치가 올라 사야 할 때 AI가 팔기도 했다.

AI 비중이 100%가 되자 가격 오차는 무작위 참가자만 있을 때보다 5~7배 커졌다. 방향을 맞힌 비율도 제미나이 68%, 하이쿠 54%, 소넷 42%까지 떨어졌다.

이것은 AI가 똑똑해서 생기는 문제가 아니다. 여러 AI가 같은 정보에 영향을 받아 같은 방향으로 움직이는 것이 문제다.

그럼 동네 가게에도 같은 일이 생길까?

여기부터는 예상이다. 이번 연구가 확인한 곳은 가상 주식시장뿐이고, 연구진도 다른 분야에서 같은 일이 생기는지는 열린 질문이라고 적었다.

그래도 가게에서 비슷한 상황을 생각해볼 수 있다. 같은 유행 글과 같은 SNS 게시물을 여러 가게가 보고 AI에게 질문하면, AI가 비슷한 답을 내놓을 가능성이 있다.

AI 사용이 늘면 이런 현상이 나타날 기회도 커질 수 있다. 마이크로소프트 AI 이코노미 인스티튜트는 2026년 2분기 한국의 일하는 나이대 인구 가운데 생성형 AI 사용 비율을 40.6%로 집계했다. 반면 중소기업중앙회 서울지역본부의 2025년 9월 조사에서는 서울 소상공인 가운데 가게 일에 AI를 쓰는 곳이 9.7%였고, 앞으로 쓸 계획이 있다는 곳은 23.0%였다.

가게가 AI를 쓸 때 중요한 것은 AI 회사의 이름만 바꾸는 것이 아니다. AI가 참고하는 정보가 무엇인지 확인하는 일도 중요하다.

다른 AI에게 다시 물어보면 안전할까?

AI 회사를 바꿔서 같은 질문을 다시 하는 방법만으로는 충분하지 않을 수 있다. 이번 실험에서는 같은 회사가 만든 AI인지 여부가 판단이 닮은 정도를 설명하지 못했다.

그래서 다른 AI에 묻는 것보다 다른 출처를 확인하는 편이 더 중요할 수 있다. 거래처의 말이나 고객 반응, 공공 통계처럼 AI 답과 다른 방식으로 얻은 정보를 함께 보는 방법이다.

사장님은 무엇부터 확인하면 될까?

가장 먼저 가게의 실제 숫자를 기준으로 두는 것이 좋다. AI가 「요즘 다들 가격을 내린다」고 답하더라도 그 말을 바로 따르기보다 우리 가게의 매출과 원가를 확인하는 식이다.

AI에게 질문할 때 우리 가게의 숫자를 함께 넣는 것도 방법이다. AI가 참고할 기준이 분명해지기 때문이다.

그리고 「모두가 그렇게 한다」는 답일수록 한 번 더 확인할 필요가 있다. 여러 AI가 같은 정보를 보고 같은 방향으로 판단한다면, 틀린 정보가 있을 때 실수도 함께 커질 수 있기 때문이다.

고객이 AI에게 가게를 물어볼 때는 어떨까?

같은 문제는 고객이 AI에게 가게 정보를 물을 때도 생각해볼 수 있다. AI가 우리 가게를 설명하려면 정확한 사실을 담은 공개 정보가 어딘가에 있어야 한다.

2026년 9월 16일 챗GPT 답의 인용 31건을 확인한 결과, 가게·회사의 자기 홈페이지가 10건이었다. 가게에 대한 정확한 사실을 담은 페이지가 없으면 AI가 다른 사람이 작성한 정보를 참고할 가능성이 생긴다.

다만 이것 역시 이번 금융시장 실험에서 직접 확인한 결과가 아니라 가게 상황에 적용해 본 예상이다.

이 실험을 어디까지 믿어야 할까?

이번 결과를 모든 가게에 그대로 적용해서는 안 된다. 실험은 주식 하나가 있는 가상 시장에서 진행됐고, 진짜 가치는 연구진이 정했다. 실제 시장에는 여러 자산과 거래량, 참가자들의 전략 변화와 규제가 있다.

실험에 사용한 AI도 7종이었고, 시장 실험에서는 세 종류를 사용했다. 같은 틀린 해설을 넣은 실험도 8개 해설이 모두 같은 방향을 말하는 극단적인 조건이었다.

성능이 높은 AI가 왜 더 비슷하게 판단하는지도 연구진이 확정하지 못했다. 비슷한 데이터로 학습했거나 사람이 선호하는 답에 맞추는 훈련 때문일 수 있다는 가설만 제시했다.

그래서 이 연구가 알려주는 핵심은 「AI를 쓰지 말자」가 아니다. AI가 내놓은 답을 또 다른 AI의 답으로만 확인하지 말고, 우리 가게의 실제 숫자와 다른 출처로 확인하자는 것이다.

같이 읽을 글

• AI에게 물어볼수록 가게가 비슷해질까?
• AI에게 가격을 맡겨도 가게끼리 가격이 비슷해질까?
• AI가 고른 광고, 그대로 따라도 될까?
• AI가 한 말을 그대로 믿어도 될까?

자료 출처

• Why Better Models Can Create Riskier Systems: Evidence from LLM Agents in Financial Markets(MIT·하버드 케네디스쿨, arXiv 2609.04373, 2026.9 — AI 7종·상황 64개·짝 21쌍, 가상시장 100라운드)
• 같은 논문 HTML판(회귀 t값·설명 비율·가격 차이 대비 주문 크기·방향 정확도 수치)
• Correlated Errors in Large Language Models(코넬 등, arXiv 2506.07962, ICML 2025 — AI 350종 이상, 둘 다 틀릴 때 같은 오답 60%)
• Global Financial Stability Report 2024년 10월 3장: AI와 자본시장(국제통화기금, 2024.10 — 쏠림·변동성 우려)
• Findings Regarding the Market Events of May 6, 2010(미국 SEC·CFTC 합동 보고서, 2010.9)
• MS 「한국 AI 사용률 40.6%, 4계단 상승한 세계 12위」(뉴데일리, 마이크로소프트 AI 이코노미 인스티튜트 2026년 2분기 보고서 인용)
• 서울 소상공인 AI 활용률 9.7%, 향후 활용 계획도 23%(뉴스1, 중소기업중앙회 서울지역본부 2025.9 조사·300곳)
• 서울 소상공인 10곳 중 1곳만 AI 활용, 「비용 부담」(파이낸셜뉴스, 같은 조사 — 도입비용 부담 69.0%·계획 없음 67.3%)
• AI 도입비용 부담에 서울 소상공인 10%만 「AI 활용」(헤럴드경제, 같은 조사)