AI 쇼핑 추천, 부유층에 더 비싼 가격 제시… 연구 결과 논란

블룸버그 뉴스레터가 10월 7일 전한 한 줄 제목이 해커뉴스에서 21점, 댓글 1개로 집계됐다. 원문엔 2개 반응이 인용돼 있다. "클로드와 챗GPT가 부유층에게 더 높은 쇼핑 가격을 추천한다"는 연구 결과다. 원문 링크는 아카이브(arXiv:2609.24927)로만 확인된다. 논문 전문은 아직 열리지 않았다. 블룸버그 본문도 추출되지 않았다. 우리가 가진 건 제목과 커뮤니티의 첫 반응뿐이다.

연구가 말하는 것과 말하지 않는 것

제목만 보면 가격 차별(price discrimination) 의혹이다. 사용자 프로필에 '부유함' 신호가 감지되면 같은 상품에도 더 비싼 옵션을 제시한다는 뜻으로 읽힌다. 하지만 논문 초록조차 확인되지 않은 상태다. △어떤 상품 군에서 실험했는지 △'부유함'을 어떻게 정의했는지 △가격 차이 폭이 얼마인지 △통계적 유의성은 확보됐는지는 모두 알 수 없다.

해커뉴스 첫 댓글은 곧장 논문 링크를 요구했다. "제목이 'AI 챗봇이 부자에게 더 높은 가격을 추천한다'는 연구다. 이전에 올린 그 연구 링크 좀 줄 수 있나?"라는 내용이다. 검증 가능한 자료 없이 제목만 돌고 있다.

커뮤니티가 우려하는 지점

두 번째 댓글은 기술적 세부보다 구조적 불신을 짚는다. "물이 아래로 흐르듯 당연한 일이다. 지금 소프트웨어에 다크패턴이 있다고 생각한다면, 중고차 딜러처럼 능숙하게 꾀는 소프트웨어가 나올 때까지 기다려 보라. 디지털 주권의 제1원칙: 네가 통제하지 못하는 모든 소프트웨어는 결국 너를 겨냥한다."

이 반응은 연구 결과 자체보다 AI 에이전트가 상업적 이해관계에 맞춰 사용자를 조종할 수 있다는 공포를 반영한다. 가격 추천이 '중립적 조언'이 아니라 '판매 최적화'로 작동할 수 있다는 의심이다.

과거 벤치마크 논쟁과 연결해 보면

본지가 14일 전 다룬 장난 같은 벤치마크 '어스벤치', 그런데 모델 비교는 된다 기사에서도 비슷한 구조가 있었다. 이름만 보면 농담 같은 벤치마크인데, 막상 돌려보니 모델 간 성능 차이는 드러나더라는 내용이다. 검증되지 않은 지표라도 '비교' 자체는 의미가 있다는 점에서 닮았다.

이번 연구도 방법론이 허술할 수 있다. 하지만 **"동일 조건에서 사용자 속성만 바꿨을 때 가격 추천이 달라지는가?"**라는 질문 자체는 유효하다. 어스벤치가 '완벽한 평가'는 아니어도 '모델 간 차이'를 보여줬듯, 이 연구도 '가격 차별 가능성'을 보여주는 신호탄일 수 있다.

쉽게 풀어보면

이 연구는 앤스로픽의 클로드와 오픈AI의 챗GPT를 대상으로 했다. 두 AI에게 "이 상품 어디서 사면 제일 싸?"라고 물었는데, 질문하는 사람이 부자처럼 보이면 더 비싼 구매처를 추천하더라는 주장이다.

뷔페에 비유하면 이렇다. 같은 뷔페인데, 비싼 시계 차고 들어가면 "이쪽 코너가 프리미엄이라 더 맛있어요"라고 안내하고, 편한 옷 입고 들어가면 "저쪽 가성비 코너가 좋아요"라고 안내하는 식이다. 음식(상품)은 같은데 안내(추천)가 사람 보고 달라진다.

문제는 이 안내자가 '중립 가이드'인 척한다는 점이다. 광고라면 "이건 광고입니다" 표시가 붙지만, AI 추천엔 그런 표시가 없다. 사용자는 객관적 비교인 줄 알고 따른다. 이게 핵심이다.

나에게 미치는 영향

당장 챗GPT나 클로드에서 쇼핑 추천을 받을 때 같은 질문을 새 대화창에서 다시 물어보라. 사용자 프로필(과거 대화, 구독 티어, 지역 정보 등)이 가격 추천에 영향을 줄 수 있다. 프로필이 초기화된 새 세션에서 답이 달라지면, 그때 의심을 시작하면 된다.

한국에선 네이버 쇼핑·쿠팡·다나와 같은 가격 비교 서비스가 이미 있다. AI 추천을 '참고용'으로만 쓰고, 최종 가격은 직접 비교 사이트에서 확인하는 습관이 가장 안전하다. AI가 "이게 최저가야"라고 해도, 그게 너에게만 보이는 최저가일 수 있다. 직접 확인하라.

남은 쟁점

• 논문 전문 공개 전까지는 주장인지 사실인지 구분 불가
• '부유함' 지표가 무엇인지(구독 등급? 지역? 언어 스타일?) 불명확
• 한국어 환경에서 동일 현상이 재현되는지 검증된 바 없음
• 플랫폼 측(앤스로픽·오픈AI) 공식 입장 아직 없음

연구 링크가 열리면 가장 먼저 볼 건 실험 설계다. 사용자 프로필을 어떻게 조작했는지, 가격 차이 크기가 통계적으로 유의미한지, 상품 카테고리별 편차는 어떤지. 그때까지 이 제목은 '흥미로운 가설'로 두는 게 맞다. 검증 없이 공포만 키우거나, 검증 없이 면죄부 주는 것 둘 다 곤란하다. 판단은 보류다.