수학자들 "오픈AI, 우리 미발표 연구 썼나"…데이터 출처 공방

핵심 쟁점: 미발표 연구가 학습 데이터에 들어갔나

오픈AI가 지난달 발표한 비소픽 그룹(non-sofic groups) 논문 돌파구를 두고, 해당 분야 권위자인 안드레아스 톰(Andreas Thom) 교수가 자신의 미발표 연구 아이디어가 챗GPT 대화를 통해 학습 데이터로 유입됐을 가능성을 제기했다. 톰 교수는 마스토돈 게시글에서 "오픈AI가 우리 기법을 상세히 알고 있었다"며, 이 경로가 챗GPT와의 상호작용일 수 있다고 지적했다.

오픈AI는 해당 논문에서 톰과 가보르 쿤(Gábor Kun)의 기존 연구를 크게 참고했다고 밝혔다. 하지만 톰 교수가 세바스티앙 부벡(Sébastien Bubeck) 연구원과 마크 셀케(Mark Sellke) 하버드 교수에게 "내 챗GPT 대화가 학습 데이터나 추론 과정에 쓰였나"라고 물었을 때, 돌아온 답변은 **'대화 내용에 직접 접근하지 않았다'**는 것이었다. 톰 교수는 이를 **"학습 데이터 유입 여부는 답하지 않은 채 직접 접근만 부인한 것"**이라며 '기만적(dishonest)'이라고 비판했다.

양측 주장: 무엇을 인정하고 무엇을 부인하는가

오픈AI 입장

톰 교수의 챗GPT 대화 내용을 연구진이 직접 열람하지 않았다
특정 사용자 데이터를 의도적으로 접근해 문제를 풀지 않았다
단, "식별 정보 제거된(de-identified) 사용 데이터가 모델 개선에 도왔을 가능성"은 배제하지 않는다

톰 교수 측 입장

식별 정보 제거는 이름만 지울 뿐, 수학적 아이디어의 지적 내용은 남는다
미발표 연구를 챗GPT에 입력한 연구자들이 자신들과 출판 경쟁을 하게 된 셈
오픈AI만이 학습 파이프라인을 알 수 있으므로 증거 공개 책임은 오픈AI에 있다

이 대립은 **'직접 접근 안 함' ≠ '학습 데이터에 없음'**이라는 기술적 구분이 윤리적 문제로 번진 전형적 사례다.

빠져나간 조건: 오픈AI가 말하지 않은 것들

오픈AI의 해명엔 세 가지 핵심 조건이 빠져 있다.

학습 데이터 구성 시점과 범위 — 챗GPT 대화가 언제, 어떻게 학습 세트에 편입되는지 공개되지 않았다
'식별 제거'의 구체적 정의 — 수학적 아이디어 자체가 고유 식별자 역할을 할 수 있는데, 이를 어떻게 분리했는지 불분명
사용자 동의 절차 — 미발표 연구를 입력한 사용자에게 학습 활용 동의를 구했는지, 옵트아웃 수단이 있는지 언급 없다

톰 교수는 "연구자가 오픈AI의 학습 파이프라인을 역설계할 수 없다"며 자료 공개를 요구했다. 이는 앞서 본지가 다룬 오픈소스 거장들이 AI 기여를 거절하는 진짜 이유에서도 나타난 '검토 비용 폭증' 문제와 맞닿는다. 당시 오픈소스 유지보수자들은 AI 생성 코드 검토 부담 때문에 기여를 차단했는데, 여기선 연구자가 자신의 아이디어가 도용됐는지 검증할 수단 자체가 없는 비대칭성이 쟁점이다.

과거와 연결: 벅마스터 사례와 똑같은 패턴

이미 트리스탄 벅마스터(Tristan Buckmaster) 뉴욕대 교수 사례에서 같은 패턴이 나타났다. 벅마스터는 오픈AI의 나비에-스토크스 방정식 돌파구 발표 직전, 오픈AI의 코덱스(Codex)를 사용해 관련 연구를 진행 중이었다. 오픈AI는 당시 블로그에서 **"특정 사용자 데이터에 접근하지 않았다"**고 단언하면서도, **"식별 제거된 사용 데이터가 모델 개선에 기여했을 가능성은 배제 못 한다"**고 여지를 뒀다.

톰 교수는 이를 **"같은 모호한 구분(obfuscatory distinction)을 반복한다"**고 지적했다. 셀케 교수의 답변이 **"최소한 부당하게 광범위했고 실질적으로 오도했다"**는 게 그의 결론이다.

커뮤니티 반응: "불쌍할 것 없다" vs "고객이 상품이 됐다"

해커뉴스 댓글 42개 중 주요 흐름은 두 갈래다.

"미발표 작업을 남의 컴퓨터에 올린 게 문제" — "데이터를 돈 버는 회사 서버에 뒀으면 도난당해도 할 말 없다"는 냉소적 반응이 다수 추천을 받았다
"고객이 상품이 된 전형" — "변호사가 변호사-의뢰인 특권을 챗GPT에 넘기는 꼴"이라며 전문직 기밀 유출 위험을 경고하는 목소리도 있었다

일부 댓글은 오픈AI 홍보팀 직원이 여론 조작 중이라는 의혹을 제기하기도 했다. 점수 39, 댓글 42 규모로 보면 전문가 커뮤니티 내 파장은 상당하다.

쉽게 풀어보면

오픈AI가 수학 난제를 풀었다고 발표했다. 그런데 그 풀이가 어떤 교수의 미발표 아이디어와 놀랍게 일치했다. 그 교수는 챗GPT에 그 아이디어를 물어본 적 있다. 오픈AI에 "내 대화가 학습에 쓰였나?" 물으니 **"우리가 네 대화창을 직접 보진 않았다"**고 답했다. 하지만 "네 대화가 학습 데이터로 들어가 모델을 키웠을 가능성"은 부인하지 않았다.

이게 무슨 말이냐면: 뷔페에서 접시(대화창)를 직접 건드리진 않았지만, 네가 남긴 음식(아이디어)을 주방(학습 데이터)에서 재료로 썼을 수 있다는 뜻이다. 교수는 "이름만 지워서(식별 제거) 내 아이디어가 내 것임을 숨긴 채 쓰면 무슨 소용이냐"고 묻는다. 오픈AI는 자신들만 아는 주방 레시피(학습 파이프라인)를 공개하지 않는다.

나에게 미치는 영향

일반 사용자라면 지금 당장 할 수 있는 것:

민감한 정보(미발표 논문, 기획안, 코드, 법률 초안)는 챗GPT·클로드·제미나이 같은 공개형 AI에 붙여넣지 마라
기업·기관 계정이라면 '데이터 학습 미동의(opt-out)' 설정이 있는지 관리자에게 확인하라 — 오픈AI 엔터프라이즈 플랜은 기본적으로 학습 미사용, 무료·플러스 플랜은 설정에서 끄기 가능
이미 올린 기록이 걱정된다면 — 오픈AI 고객센터에 '데이터 삭제 요청'을 넣을 수 있다. 단, 이미 학습된 모델에서 지워지는 건 아니다

연구자·개발자·창작자라면:

중요 아이디어는 로컬 모델(올라마, 라마 등)이나 오프라인 환경에서 검토하라
오픈AI에 공식 질의서 보내기 — "내 계정 대화가 특정 시점 이후 학습 데이터에 포함됐는지 확인해 달라"는 요청은 가능. 답변 의무는 약관상 불분명하지만 기록은 남는다
커뮤니티 감시 참여 — 해커뉴스, 마스토돈, 레딧 등에서 유사 사례가 모이면 집단적 투명성 요구가 힘을 받는다

이 논쟁의 결말은 오픈AI가 학습 데이터 구성 로그를 어디까지 공개하느냐에 달렸다. 지금까지는 "직접 접근 안 했다"는 말만 반복해 왔다. 자료가 없는 한, 확인할 수 없는 건 확인 못 한 채로 둔다. 그게 지금 우리가 아는 전부다.