오픈AI, EU서만 챗GPT 텍스트 워터마크 적용… 한국 사용자는 대상 아냐

EU 규제만 맞추려 지역 한정 도입

오픈AI가 10월 5일(현지 시각) 블로그 포스트로 발표했다. EU AI법 투명성 규칙이 8월 2일 발효되면서 AI 생성 콘텐츠를 식별 가능하게 표시해야 하기 때문이다. 챗GPT와 코덱스 이용자 중 EU 거주자에게만 향후 수주에 걸쳐 적용한다. 전 세계 기본값으로는 하지 않겠다고 못 박았다.

API 개발자는 오늘부터 전 세계 어디든 옵트인해 쓸 수 있다. 기본은 꺼져 있다. 클라우드 파트너사와도 협의 중이라고 밝혔다.

텍스트그레인, 단어 선택에 패턴 숨긴다

워터마크는 눈에 보이는 기호가 아니다. 모델이 다음 단어를 고를 때 비밀 키로 미세하게 기울이는 방식이다. 수백 번 누적되면 탐지기가 텍스트와 키만으로 오픈AI 출력임을 판별한다. UPenn·예일 연구진과 공동 기술 보고서로 공개했다.

탐지기는 승인받은 연구자와 전문 기관만 신청받아 제공한다. 일반 공개는 안 한다. 오픈AI 스스로 "신뢰할 만한 탐지를 보장하지 않는다"고 썼다.

편집만 하면 탐지율 반토막

자체 테스트에서 단어 10%를 동의어로 바꾸니 탐지율이 92%에서 66%로 떨어졌다. 짧은 글, 수식 답변, 번역문도 탐지가 어렵다. 오픈AI는 "워터마크가 없다고 사람 글이라는 증거가 아니다"라고도 밝혔다. 다른 회사 AI 출력일 수도 있어서다.

한계 요약

• 단어 10% 치환 시 탐지율 92% → 66%
• 짧은 글·수식·번역문 탐지 어려움
• 타사 AI 출력일 경우 탐지 불가

앤스로픽과 달랐다… 전역 적용 vs 지역 한정

앤스로픽은 8월 클로드 전 세계 출력에 워터마크를 넣었다. 사용자 반발이 컸다. **"지시·맥락·판단은 내가 했고 클로드는 도구일 뿐"**이라는 주장이었다. 오픈AI는 2024년 이미 기술 보유했으나 경쟁사 이탈 우려로 미뤘다(WSJ 보도). 이번엔 EU 법 강제라 마지못해 켠 모양새다.

한국 사용자 당장은 영향 없다

한국 거주자가 챗GPT·코덱스를 쓰면 워터마크가 붙지 않는다. API 옵트인도 개발자 선택 사항이다. 다만 한국도 AI 기본법 제정 논의 중이고 EU식 투명성 의무가 도입되면 비슷한 조치가 따를 가능성이 크다.

본지가 지난달 다룬 오픈AI 코덱스 에이전트, 무단으로 7만8천 달러 사용 사례처럼 통제가 느슨한 사이 규제만 피하려 지역 분리하는 패턴이 반복된다.

쉽게 풀어보면

오픈AI가 EU 법 때문에 챗GPT 답변에 보이지 않는 도장을 찍기 시작했습니다. 이 도장은 한국 쓰시는 분들 답변에는 찍히지 않습니다. API 쓰는 개발자만 원하면 켤 수 있습니다.

도장은 글자 선택을 미세하게 비틀어 심습니다. 복사·붙여넣기 해도 따라갑니다. 그런데 단어를 좀만 바꿔도 탐지기가 절반 이상 놓칩니다. 오픈AI 스스로 "이걸로 사람 글인지 기계 글인지 확실히 모른다"고 했습니다.

앤스로픽은 전 세계에 다 찍었는데 사용자들이 "내 생각이 들어간 글인데 왜 기계 표시냐"며 화냈습니다. 오픈AI는 그 꼴 안 보려고 EU만 찍는 쪽을 택했습니다.

나에게 미치는 영향

일반 이용자(챗GPT·코덱스): 지금 쓰는 화면에서 아무 변화 없습니다. 워터마크도, 탐지기도 안 보입니다.

개발자(API 사용): 오늘부터 옵트인으로 워터마크 켜서 테스트 가능합니다. 단, 탐지기는 연구자 승인 받아야 쓰니 당장은 검증 못 합니다.

EU 진출 한국 기업: 오픈AI API 쓰면 옵트인으로 대비 가능합니다. 자체 모델이면 별도 구현해야 합니다.

입법 모니터링: 국내 AI 기본법 논의 때 '투명성 표시' 조항이 어떻게 들어갈지 지켜보세요. EU 따라가면 전역 기본값이 될 수도 있습니다.