고객이 「40대 여성」이라고 말하면 AI 추천도 달라질까?

고객이 AI에게 「저는 40대 여성인데요」라고 말하면 추천 결과가 달라질 수 있다. 실제 실험에서는 성별·나이 같은 신원 정보 한 문장만 더해도 6개 조건 모두에서 그 집단이 많이 고른 상품 쪽으로 추천이 움직였다. 다만 인기 상품을 무조건 밀어내는 것이 답은 아니며, 후보 순서만 다시 정리했을 때 쏠림은 62.42% 줄고 적중률은 0.8423에서 0.8845로 올랐다.

고객이 나이를 말하면 추천이 정말 달라질까

중국 전자과기대 연구진은 영화와 음악 데이터를 가지고 이 문제를 시험했다. 영화 평점은 100만 209건·이용자 6,040명, 음악 청취 기록은 약 1,900만 건·이용자는 약 1,000명이었다. 데이터마다 최대 600명을 골라 최근 좋아한 25개 작품을 AI에 보여 주고 새 추천 후보 30개를 받았다.

질문은 세 가지로 나눴다. 기록만 보여 주는 경우, 기록에 「성별은 여성」이나 「나이대는 청년」처럼 사실을 적은 문장을 더하는 경우, 그리고 신원 정보 없이 지시문의 표현만 바꾸는 경우다.

중요한 점은 신원 정보를 넣으면서 「이 또래가 좋아하는 것을 골라라」라고 지시하지 않았다는 것이다. 성별이나 나이라는 사실만 한 줄 더했는데도 추천 목록이 움직였다.

AI가 원래 이렇게 흔들리는 것 아닌가

그렇다. 신원 정보를 넣지 않고 말만 바꿔도 추천 목록은 꽤 달라졌다. 목록 차이를 0에서 1 사이로 측정했을 때 0.4520~0.6110이었다.

따라서 AI에 가게 상품을 한 번 넣어 보고 「우리 가게 상품은 이렇게 추천되는구나」라고 판단하면 안 된다. 질문을 어떻게 표현했는지만으로도 결과가 달라질 수 있기 때문이다.

그런데 신원 정보를 한 문장 넣었을 때는 말 바꾸기로 생긴 차이보다 더 움직였다. 6개 조건 모두에서 추천 목록이 더 달라졌고, 더 달라진 폭은 0.0270~0.0759였다.

방향도 일정했다. 신원 정보를 넣은 6개 조건 모두에서 또래 인기 쪽 쏠림 값이 양수였고, 그 값은 0.0550~0.0680이었다.

그럼 작은 가게 상품은 밀리는 걸까

이 숫자를 「인기 상품이 무조건 올라간다」고 읽으면 안 된다. 여기서 움직인 것은 전체에서 인기 있는 상품이라기보다, 특정 성별이나 나이 집단에서 전체 평균보다 유난히 많이 고른 상품이었다.

연구진의 예시를 보면 차이가 분명하다. 모두에게 흔한 상품은 전체 인기 0.95, 집단 인기 0.96으로 차이가 0.01이다. 반면 그 집단에서 특히 흔한 상품은 전체 0.45, 집단 0.55로 차이가 0.10이다.

고객 입장에서 보면 실제 취향과 상관없이 「내 또래에서 많이 선택한 상품」이 추천에 더 들어올 수 있다는 뜻이다. 반대로 그 또래에서 많이 선택되지 않은 상품은 고객의 기록과 맞더라도 추천에서 밀릴 수 있다.

다만 여기에는 한계가 있다. 이번 실험은 영화와 음악 데이터로 진행됐기 때문에, 동네 가게 상품에서도 똑같은 결과가 나온다고 확인된 것은 아니다.

인기 상품을 빼면 해결될까

연구진은 AI를 다시 가르치지 않고 추천 후보의 순서만 고치는 방법도 시험했다. AI가 만든 후보 30개 가운데 상위 5개는 그대로 두고, 나머지는 AI가 매긴 순위와 그 집단에서 덜 흔한 정도를 함께 반영해 다시 줄 세웠다.

고객 기록이 그 또래 인기 상품 위주라면 AI의 원래 순서를 더 믿고, 그렇지 않다면 덜 흔한 후보에 기회를 더 주는 방식이다. 이렇게 했을 때 6개 조건 평균 쏠림 값은 0.0612에서 0.0230으로 줄었다.

적중률도 0.8423에서 0.8845로 올라갔다. 다만 여러 추천을 얼마나 좋은 순서로 배치했는지를 보는 순위 가중 점수는 0.4957에서 0.4866으로 조금 내려갔다.

반대로 전체 인기 상품을 일괄 감점하면 적중률이 0.7421까지 떨어졌다. 인기 상품 자체가 문제라기보다 「그 또래에서 특히 인기 있는 쪽」으로 추천이 기우는 현상을 따로 다뤄야 한다는 결과다.

사장님은 무엇을 확인해야 할까

아래는 연구 결과에서 끌어낸 예상이다. 첫째는 같은 질문을 여러 표현으로 바꿔 보는 것이다. 신원 정보를 넣지 않아도 목록 차이가 0.4520~0.6110이었기 때문에 한 번의 답변만 보고 판단하기 어렵다.

둘째는 가게의 추천 기능이나 상담 챗봇에 성별·나이 정보를 넣을 때다. 고객의 실제 기록보다 그 또래 인기 상품으로 추천이 몰리는지 따로 확인할 필요가 있다.

셋째는 홈페이지에 상품을 설명할 때다. 「어떤 성별이나 나이에게 인기」라고만 적기보다 어떤 쓰임새와 조건에 맞는지 알 수 있는 정보를 적어 두는 방법이 있다. 이는 고객의 신원 한 줄보다 실제 필요를 판단할 재료를 늘리는 방향이다.

AI를 사용하는 사람들의 연령대도 변하고 있다. 오픈AI가 공개한 이용 통계에서는 45세 이상이 보낸 메시지 비중이 2024년 7월 11.7%에서 2026년 6월 15.1%로 늘었다.

고객이 AI에게 자기 나이와 성별을 밝히는 상황을 완전히 예외적인 일로만 보기는 어렵다. 중요한 것은 고객의 신원 정보가 들어갔을 때 우리 상품이 실제 고객 기록과 맞게 추천되는지, 아니면 그 또래 인기 상품 쪽으로만 움직이는지를 확인하는 것이다.

같이 읽을 글

• AI는 묻는 사람에 따라 다른 식당을 권할까?
• AI에 넘기는 후보 순서만 바꿔도 추천 상위 5개가 달라질까?
• AI가 추천한 가게, 정말 있는 가게일까?

자료 출처

• Measuring and Mitigating Identity-Cue Preference Drift in LLM-based Recommender Systems(Gan·Dong, 중국 전자과기대 지능컴퓨팅연구원·2026년 9월 arXiv 제출·영화 이용자 6,040명·음악 이용자 약 1,000명 중 데이터당 최대 600명·AI 3종)
• 같은 연구 PDF 전문(표 4~6 수록)
• MovieLens 1M 데이터셋(그룹렌즈·미네소타대, 평점 100만 건·이용자 6,040명)
• CTRL-Rec: Controlling Recommender Systems With Natural Language(Carroll 등·2025년 10월 arXiv — 자연어 지시로 추천을 조정하는 연구)
• How Can Recommender Systems Benefit from Large Language Models: A Survey(Lin 등·2023년 6월 arXiv — LLM 추천 연구 정리)
• OpenAI Signals 이용 데이터(오픈AI, 2026.8 발표, 월 30만 메시지 표본, 2024.7~2026.6 — 45세 이상 메시지 비중 11.7→15.1%)