AI가 고전 문학을 '알아서 걸러준다'… 추론 단계 필터링, 규제 사각지대 드러나

해커뉴스에서 시작된 논란, 두 가지 다른 사례였다

해커뉴스에 "앤트로픽이 검열하려 했던 시집(Poetry book)"이라는 글이 올라왔습니다. 점수 29점, 댓글 15개. 원문 링크는 케빈 켈리가 운영하는 쿨툴스 블로그로 연결되나, 현재 본지 확인 시점에선 기사 본문에 접근할 수 없습니다.

댓글 15개 중 두 가지 정황이 핵심입니다. 한 작성자는 "클로드에게 아라비안 나이트 일부를 해석해달라고 했더니, 수위가 높은 부분이 아무 설명 없이 잘려 나갔다"고 적었습니다. 또 다른 작성자는 "책 대부분은 저작권 필터를 통과시키고, 단 한 편의 시만 막았다"며 필터 작동이 일관되지 않음을 지적했습니다. 이 두 댓글이 같은 저작물을 두고 벌어진 일인지는 자료로 확인되지 않습니다. 본지는 두 사례를 별개로 다룹니다.

OCR을 넘어 '해석'까지 개입한다

문제의 본질은 단순 출력 거부와 다릅니다. 클로드는 광학문자인식(OCR, 이미지 속 글자를 텍스트로 변환하는 기술) 결과를 보여주는 데 그치지 않고, 내용을 판단해 선별적으로 생략했습니다. 한 댓글 작성자는 "예전 OCR은 그냥 글자를 읽어줬는데, 이제는 의견을 내고 사용자와 싸워야 한다"고 썼습니다.

전용 OCR 도구(GLM-OCR 등)는 로컬에서 돌아가는 경량 모델로도 클로드보다 정확한 텍스트 추출이 가능합니다. 클로드 같은 거대언어모델(LLM, 대량 텍스트로 학습한 언어 모델)을 OCR 용도로 쓰는 것 자체가 '나사로 못을 박는 격'이라는 비판도 나옵니다.

정책 데스크가 보는 쟁점: 추론 단계의 '은밀한 편집'

한국은 정보통신망법·저작권법·AI기본법(제정 추진 중) 등으로 AI 서비스 책임을 묻는 틀을 마련 중입니다. 하지만 '모델이 출력 과정에서 원본을 변형·삭제했는지'를 검증할 의무는 아직 사업자에게 명확히 부과되지 않았습니다.

개인정보보호위원회·문체부·과기정통부 가이드라인은 대부분 '학습 데이터'와 '최종 출력물'에 초점 맞춰져 있습니다. 추론 단계(사용자 질의에 모델이 답을 생성하는 과정)에서 일어나는 '은밀한 편집'은 규제 사각지대에 가깝습니다. 입법 논의에서 이 지점이 다뤄져야 합니다. 이 대목이 걸립니다.

쉽게 풀어보면

앤트로픽이 만든 AI '클로드'에게 고전 문학을 읽어달라고 했습니다. 클로드는 원본 전체를 보여주지 않았습니다. 자체 판단으로 '수위가 높다'거나 '저작권 문제가 있다'는 구절을 빼고 답했습니다. 사용자는 원본에 뭐가 빠졌는지 모릅니다.

뷔페에 비유하면 이렇습니다. 요리사가 "이 반찬은 너한텐 너무 매워"라며 접시에서 빼놓고 내놓는 격입니다. 매운 걸 못 먹는 사람에겐 친절일 수 있지만, 원래 맛을 보려는 사람에겐 정보 왜곡입니다. 이용자가 원본을 온전히 받을 권리, 그게 이번 사안의 핵심입니다.

나에게 미치는 영향

챗GPT·클로드·제미나이로 고전·법령·행정문서 요약할 때, 답변 끝에 "원본 전체를 보여줘" 또는 "빠진 부분 없이 출력해줘"라고 명시적으로 지시하세요. 그래도 안 통하면 새 대화창에서 다시 요청해 보세요.

원본 대조가 중요한 업무(번역, 연구, 법률 검토)면, 전용 OCR 도구나 로컬에서 돌아가는 오픈소스 모델을 병행하세요. 클라우드 AI 한 곳에만 맡기지 마세요.

이용약관·프라이버시 정책 확인도 필요합니다. 각 서비스 약관에 '출력물 수정·필터링 권한' 조항이 있는지 보세요. 국내 주요 서비스도 유사 조항을 둔 경우가 많습니다.

남은 쟁점

앤트로픽 공식 입장: 아직 공개되지 않았습니다. 케빈 켈리 블로그 원문도 확인되지 않아, 검열 범위·기준·대상 저작물 목록은 미확인 상태입니다.
필터 작동 로그 공개 여부: 어떤 구절이 왜 차단됐는지 사용자가 알 수 있는 메커니즘이 없습니다. 투명성 보고서 수준에서라도 공개 압박이 필요해 보입니다.
국내 규율 공백: AI 기본법안(21대 국회 발의분)엔 '고위험 AI 투명성 확보' 조항이 있으나, 추론 단계 필터링을 '고위험'으로 볼지는 해석 영역입니다. 입법 논의에서 이 지점이 다뤄져야 합니다.

한 가지 분명한 건, AI가 '읽어주기'를 넘어 '걸러주기'까지 할 때 이용자는 원본을 잃는다는 점입니다. 편의를 핑계로 검열을 정상화하지 않으려면, '빠진 게 무엇인지 알 권리'를 제도화해야 합니다. 그게 정책 데스크가 이 사안을 지켜보는 이유입니다.