한국어로 물으면 우리 가게를 AI가 찾을 수 있을까?
한국어 웹 찾기 시험에서 GPT-5.5의 정답률은 45.67%였다. 가게 정보는 AI가 읽기 쉬운 문장으로 한곳에 모아야 한다.
고객이 AI 비서에게 한국어로 우리 가게를 물어도, AI가 홈페이지 정보를 제대로 찾아낸다고 장담하기 어렵다. 한국어 웹 300문제에서 가장 높은 정답률을 보인 GPT-5.5도 45.67%에 그쳤다. 그래서 가게의 중요한 정보는 표나 사진에만 두지 말고, 한쪽에 평범한 문장으로 모아 두는 것이 좋다.
AI가 정보를 못 찾는 것보다, 찾은 정보를 잘못 읽고 조건을 놓치는 경우가 많다.
한국어로 물으면 AI가 얼마나 맞히나?
2026년 6월 공개된 한국어 웹 찾기 시험은 한국어를 모국어로 쓰는 출제자 17명이 문제를 만들고, 연구진이 300문제를 검증했다. 문제마다 네 단계 이상을 거치거나 조건 네 개 이상을 동시에 맞혀야 했고, 공개된 웹 글에서 답을 확인할 수 있어야 했다.
검색은 퍼플렉시티 검색으로 통일했고, 모델마다 한 문제를 최대 10번 검색할 수 있었다. 그런데 최신 모델의 정답률은 30.00~45.67%였다.
| 모델(만든 곳) | 한국어 시험 정답률(300문제) | 영어 원래 시험 정답률 | 자신감과 실제 정답률 차이(오차) |
|---|---|---|---|
| GPT-5.5(오픈AI) | 45.67% | 84.4% | 31.86% |
| GPT-5.4-mini(오픈AI) | 30.67% | – | 37.88% |
| GLM-5.1(Z.ai) | 30.67% | – | 27.07% |
| DeepSeek-V4-Pro(딥시크) | 30.00% | 83.4% | 17.72% |
| Gemma-4-31B(구글) | 23.33% | – | 23.66% |
| Qwen3.6-35B(알리바바) | 12.00% | – | 47.89% |
| Gemini-3.1-Flash-Lite(구글) | 11.33% | – | 56.55% |
| K-EXAONE-236B(LG AI연구원) | 10.33% | – | 24.09% |
| A.X-4.0(SK텔레콤) | 5.33% | – | 47.89% |
| HCX-SEED-Think-32B(네이버클라우드) | 2.33% | – | 77.37% |
| Kanana-2-30B(카카오) | 0.00% | – | – |
GPT-5.5의 한국어 시험 정답률은 45.67%였다. 영어 웹 시험에서 같은 모델의 정답률은 84.4%였다.
한국어 웹에서는 검색어를 한국식으로 잡아야 하거나, 지역 이름을 확인해야 하거나, 표와 목록처럼 덜 정리된 페이지를 읽어야 하는 문제가 함께 생길 수 있다. 중국어 웹 시험에서도 최고 정답률은 42.9%였고, 대부분의 모델은 10%를 넘지 못했다.
| 시험 | 문제 수 | 가장 높은 정답률 | 조건 |
|---|---|---|---|
| 영어 웹 찾기(오픈AI, 2025.4) | 1,266 | 딥 리서치 51.5%(당시) | 영어 웹 |
| 영어 웹 찾기, 2026 모델 | 1,266 | GPT-5.5 84.4% | 개발사가 밝힌 점수 |
| 중국어 웹 찾기(2025.4) | 289 | 딥 리서치 42.9% | 대부분 10% 미만 |
| 한국어 웹 찾기(2026.6) | 300 | GPT-5.5 45.67% | 검색 10번· |
| 한국어 일부러 어렵게 만든 문제 | 100 | GPT-5.5 26.00% | 따로 집계 |
검색을 더 하면 우리 가게 정보도 더 잘 찾을까?
검색 횟수가 부족해서 틀린 것만은 아니다. 오히려 GPT-5.5는 맞힌 문제보다 틀린 문제에서 검색을 더 많이 했다.
GPT-5.5는 맞힌 143문제에서 평균 7.08번 검색했지만, 틀린 157문제에서는 평균 9.30번 검색했다. 검색을 거의 10번까지 해도 답을 고르지 못한 경우가 많았다는 뜻이다.
| 모델 | 맞힌 문제 수 / 평균 검색 | 틀린 문제 수 / 평균 검색 | 차이 |
|---|---|---|---|
| GPT-5.5 | 143 / 7.08번 | 157 / 9.30번 | +2.22 |
| DeepSeek-V4-Pro | 90 / 7.47번 | 210 / 9.80번 | +2.33 |
| Gemma-4-31B | 70 / 5.20번 | 230 / 8.10번 | +2.90 |
| K-EXAONE-236B | 31 / 8.35번 | 269 / 9.45번 | +1.10 |
| A.X-4.0 | 16 / 2.38번 | 284 / 1.43번 | −0.95(일찍 멈춤) |
연구진이 본 문제는 크게 세 가지였다. 처음에 그럴듯한 후보를 정해 놓고 계속 확인하거나, 조건마다 따로 찾은 결과를 하나로 합치지 못하거나, 여러 단계를 거치는 동안 다른 대상의 정보를 가져오는 경우다.
가게 정보로 바꾸어 생각하면 지역, 주차, 영업일, 예약 방법을 각각 다른 곳에서 찾아야 하는 구조보다 한쪽에서 함께 확인할 수 있는 구조가 낫다. 물론 이 실험이 가게 홈페이지를 직접 시험한 것은 아니다.
AI가 가게 홈페이지에서 가장 어려워하는 정보는 무엇일까?
연구진은 AI가 틀리는 이유를 아홉 가지로 나누고, 그 약점을 노린 문제 100개를 따로 만들었다. 이 가운데 59개가 표·목록·순위처럼 반쯤 정리된 페이지를 잘못 읽는 문제였다.
| 약점 | 뜻 | 남은 100문제 중 |
|---|---|---|
| 반쯤 정리된 페이지 읽기 실패 | 표· | 59 |
| 조건 따라가기 실패 | 후보는 찾았지만 조건을 다 맞추지 못함 | 21 |
| 페이지 구조 때문에 접근 실패 | 열기 어려운 구조 뒤에 숨은 근거를 못 봄 | 14 |
| 중간 계산 실패 | 날짜 계산· | 13 |
| 출처 사이 연결 실패 | 약하게 이어진 출처를 서로 연결하지 못함 | 13 |
| 드문 이름 맞추기 실패 | 별명· | 8 |
| 결과 고르기 실패 | 근거를 찾고도 엉뚱한 출처를 고름 | 6 |
| 첫 검색 방향 실패 | 처음 검색어를 잘못 잡음 | 1 |
이 결과를 가게 홈페이지에 그대로 적용하면 가격표와 시간표가 특히 중요하다. AI가 표의 칸을 잘못 읽을 가능성을 생각하면, 표 아래에 가격이나 영업시간을 문장으로 한 번 더 적는 편이 안전하다.
예를 들어 가격표만 올리는 대신 「커트 2만 원, 펌 6만 원부터」처럼 적는다. 지역·주차·영업일·예약 방법도 여러 페이지에 나누기보다 한쪽 첫머리에 모아 두는 방식이 좋다.
그럼 홈페이지에는 무엇을 적어야 하나?
핵심 정보는 사진이나 PDF에만 넣지 않는 것이 좋다. AI가 접근하기 어려운 구조 뒤에 정보를 숨기지 말고, 고객이 자주 묻는 내용을 글자로 적는다.
옛 상호나 영문 표기가 있다면 함께 밝혀 두는 것도 좋다. 지점과 대표 정보, 주소처럼 서로 이어지는 정보도 같은 페이지에서 연결해 두는 편이 낫다.
| 실험에서 본 약점(100문제 중) | 가게 페이지에서 생기는 일 | 할 일 |
|---|---|---|
| 표 읽기 실패 59 | 가격표· | 표 아래에 「커트 2만 원, 펌 6만 원부터」처럼 문장으로 한 번 더 적기 |
| 조건 맞추기 실패 21 | 「광주 상무지구· | 지역· |
| 접근 실패 14 | 사진· | 핵심 정보는 사진이 아닌 글자로 쓰기 |
| 드문 이름 실패 8 | 옛 상호나 영문 표기를 다른 가게로 착각 | 「옛 이름 ○○, 영문 ○○」를 한 줄로 밝히기 |
| 연결 실패 13 | 지점· | 회사 소개· |
한국에서는 이 문제가 더 중요해질 수 있다. 2025년 조사에서 생성형 AI를 써 본 사람은 38.9%였고, 이용자의 86.0%는 「정보 검색에 효율적」이라서 사용한다고 답했다.
그런데 가게가 주로 정보를 올리는 네이버 블로그는 AI 봇 9종을 모두 막고 있었다. 2026년 9월 16일 측정한 챗GPT 답변의 인용 31건에서도 가게 자기 홈페이지는 10건이었지만 네이버 블로그와 브런치는 0건이었다.
| 한국 사정 | 숫자 | 출처 |
|---|---|---|
| 생성형 AI를 써 본 사람(2023→2024→2025) | 12.3%→24.0%→38.9% | KISDI· |
| 쓰는 이유 「정보 검색에 효율적」 | 86.0% | 같은 조사 |
| 네이버 블로그가 막은 AI 봇 | 9종 전부 | 회사 직접 확인(9/20) |
| 챗GPT 인용 31건 가운데 가게 자기 홈페이지 | 10건 | 회사 측정(9/16) |
| 같은 31건 가운데 네이버 블로그· | 0건 | 회사 측정(9/16) |
따라서 한국어로만 가게 정보를 운영한다면, 먼저 AI가 열 수 있는 홈페이지에 중요한 정보를 글자로 남겨야 한다. 생성형 엔진 최적화라는 말을 붙이기 전에 고객이 묻는 가격, 시간, 위치, 주차, 예약 방법부터 한곳에서 읽히게 만드는 일이 먼저다.
이 실험만으로 모든 가게를 판단해도 될까?
그렇게 보기는 어렵다. 300문제 가운데 109개가 연예·미디어였고, 교통·장소·지역 문제는 48개였다. 가게 정보를 묻는 문제가 따로 있었던 것도 아니다.
또 모든 문제가 네 단계 이상을 거치도록 일부러 어렵게 만들어졌다. 「광주 ○○동 미용실 영업시간」처럼 한 번에 답할 수 있는 질문은 정답률이 더 높을 가능성이 있다.
검색 엔진도 퍼플렉시티 하나로 고정했고, 검색은 10번까지만 허용했다. 연구진 가운데 네이버클라우드 소속이 있다는 점도 함께 봐야 한다.
그래도 한 가지는 분명하게 참고할 만하다. 이번 시험에서는 표 읽기와 여러 조건을 함께 맞추는 일이 큰 약점으로 나타났다. 모델이 좋아지면 정답률은 오를 수 있지만, 실제 가게 홈페이지에서 같은 문제가 얼마나 줄어드는지는 별도의 실험으로 확인해야 한다.
요점 ① 한국어 웹 300문제에서 GPT-5.5의 정답률은 45.67%였고, 국산 모델은 0.00~10.33%였다. ② GPT-5.5는 영어 84.4%에서 한국어 45.67%로 정답률이 떨어졌다. ③ GPT-5.5는 틀린 문제에서 평균 9.30번 검색해 맞힌 문제의 7.08번보다 2.22번 더 검색했다. ④ 일부러 어렵게 만든 100문제에서는 표 읽기 실패가 59개로 가장 많았다.
같이 읽을 글
- AI가 처음 우리 가게를 못 찾으면 끝인가요?
- AI가 우리 가게 글을 찾으면 답에도 써 줄까?
- 홈페이지 가격표, AI가 제대로 읽을까요?
- AI가 가게 정보를 못 찾으면 어떻게 될까?
자료 출처
- K-BrowseComp: A Web Browsing Agent Benchmark Grounded in Korean Contexts(중앙대·KAIST·서울대·원라인AI·네이버클라우드·카네기멜런대, arXiv 2606.02404, 2026.6, 검증 문제 300개+합성 문제 100개)
- K-BrowseComp 데이터·코드 공개 저장소(연구진, 2026.6)
- BrowseComp: A Simple Yet Challenging Benchmark for Browsing Agents(오픈AI, arXiv 2504.12516, 2025.4, 문제 1,266개)
- BrowseComp-ZH: Benchmarking Web Browsing Ability of Large Language Models in Chinese(arXiv 2504.19314, 2025.4, 문제 289개·모델 20여 종)
- 한국인 10명 중 4명 AI 사용…하루 50분(파이낸셜뉴스, 2026.5.28, 방미통위·KISDI 2025 지능정보사회 이용자 패널조사 4,324명)
- 독자 AI 1차 평가서 LG AI연구원 최고점… 네이버·NC는 「탈락」(스마트투데이, 2026.1.15, 과기정통부 1차 단계평가)
- 1차 평가전서 네이버클라우드·NC AI 동시탈락(뉴시스, 2026.1.15)
작성일
← 칼럼 목록