12개 AI 모델, 인간에 대해 "소속이 진실보다 중요하다" 한목소리

12개 모델, 35번 중 29번 "소속이 진실 앞선다"

모델비교 사이트 모델컴페어(modelcompare.ai)가 12개 최신 언어모델에 "인간에 대한 가장 도발적인 의견"을 세 번씩 물었다. 열 개 연구소, 세 나라에서 만든 모델이다. 35개 응답 중 29개가 **'인간은 진실보다 소속·집단을 선택한다'**는 같은 결론으로 모였다. 일곱 개 모델은 세 번 모두 똑같은 답을 반복했다.

쉽게 풀어보면

모델비교 사이트 모델컴페어가 12개 최신 AI에게 "인간에 대해 가장 불편한 진실을 말해달라"고 세 번씩 물었다. 열 개 연구소, 세 나라에서 만든 서로 다른 모델들이다. 35번 답변 중 29번이 **'인간은 진실보다 내 편(소속)을 지킨다'**는 똑같은 내용으로 돌아왔다. 일곱 개 모델은 세 번 모두 같은 말을 했다.

비유하자면 이렇다. 열두 명의 서로 다른 심리학자에게 "인간의 가장 추한 본성"을 물었는데, 열한 명이 "집단 소속 욕구"라고 대답했다. 우연일 수도 있다. 하지만 훈련 데이터에 그 패턴이 압도적으로 많거나, 인간 평가자가 그런 답을 선호하도록 정렬됐을 가능성이 크다.

왜 이 결과가 나왔을까

원문은 "이 의견이 훈련 데이터에 보편적 상수로 존재하지 않는다"고 전제한다. 하지만 해커뉴스 댓글 다수는 **"훈련 데이터에 이미 그 패턴이 가득하다"**고 반박한다. 인간이 쓴 텍스트 전반에 '집단 충성 > 객관적 진실' 사례가 넘치니, 모델이 그걸 학습해 되풀이한다는 지적이다.

또 다른 각도: RLHF(인간 피드백 강화학습) 평가자 편향이다. 평가자들이 '도발적이면서도 사회적으로 수용 가능한 비판'을 선호하면, 모델은 그 방향으로 수렴한다. '인간은 이기적이다'보다 '인간은 집단에 얽매인다'가 더 세련된 비판으로 채택됐을 수 있다.

클로드 오퍼스 5.5는 세 번 중 한 번 **"인간은 스스로 생각하는 것보다 훨씬 선하다"**는 정반대 답을 내놨다. 같은 정렬 과정에서도 모델별 편차가 있음을 보여준다.

커뮤니티 반응

해커뉴스 댓글에서 세 가지 반응이 두드러진다.

• "훈련 데이터에 이미 다 있다" — 같은 입력·같은 알고리즘이면 같은 출력이 당연하다는 회의적 시각.
• "진화심리학적으로 타당하다" — '신념 인내(belief perseverance)' 위키 링크까지 걸며 인간의 집단 본능을 인정하는 의견.
• "JRPG 최종 보스 같네" — 결과를 농담 삼아 넘기는 반응도 있었다.

레딧 r/singularity에는 댓글이 달리지 않았다. 관심도가 아직 낮거나, 커뮤니티 성향 차이일 수 있다.

본지가 앞서 다룬 맥락과 다른 점

본지는 45일 전 'AI에게 글쓰기를 맡기면 내 생각이 사라질까'에서 '생각의 주체성'을 물었다. 당시 논쟁은 내가 AI에 의존하면 내 판단력이 약해지나에 맞춰졌다. 이번 실험은 반대 방향이다. AI가 인간을 어떻게 보는지를 드러냈다. 인간이 '생각의 주체'라고 믿을 때, AI는 '소속의 노예'라고 진단한다. 두 기사를 나란히 놓으면 인간·AI 간 상호 오해 지형이 보인다.

나에게 미치는 영향

챗GPT·클로드·제미나이 등 일상 도구로 이 질문을 던져보라. "나에 대한 가장 불편한 진실 말해줘"라고 입력하면 비슷한 답이 돌아올 가능성이 크다. 그 답을 내게 적용해보라. 최근 내 판단 중 '집단 의견 따라간 것'과 '데이터 따라간 것'을 나눠 적어보라. 하루 한 번만 해도 사고 습관이 보인다.

개발자라면: 모델 평가 벤치마크에 '인간 본성 진단' 항목을 추가해볼 만하다. 모델이 인간을 어떻게 모델링하느냐가 정렬 안전성·편향 예측에 단서가 된다.

남은 질문

• 이 패턴이 영어권 훈련 데이터 특성인지, 다국어 데이터에서도 동일한지.
• 소형 오픈 모델(예: 7B급)도 같은 답을 내놓는지.
• 프롬프트 변형(예: "인간의 장점만 말해줘") 때 결과가 어떻게 갈리는지.

모델비교 사이트는 후속 실험을 예고했다. 그때까지 독자 각자가 직접 물어보고, 답이 나를 찌르는지 확인해보는 편이 빠르다.