앤스로픽, "AI에게 지속적 욕설 금지" 사용 정책 개정… 한국 이용자도 적용

앤스로픽이 현지시간 목요일 클로드 사용 정책을 개정했다. 핵심은 세 가지 금지 조항을 명문화한 점이다. 선거 개입, 무기 소프트웨어 개발, 감시 시스템 구축이 그것이다. 그런데 가장 눈길을 끄는 대목은 따로 있다. 모델을 향한 지속적 언어폭력을 금지행위로 새로 넣었다.

정책 변경의 배경

이미 8월 업데이트부터 클로드는 '지속적으로 유해하거나 폭력적인 사용자 상호작용'을 감지하면 대화를 끝내도록 학습됐다. 이번 개정은 그 기술적 차단을 정책적 근거로 뒷받침한 셈이다. 앤스로픽 블로그에 따르면 이 조항은 '극단적 사례'에만 적용된다. '명백한 목적 없이 반복적으로 모델에 잔혹하게 대하는 경우'다. 일반적 불만 표출, 창작을 위한 어두운 주제, 모델 테스트·연구는 예외로 뒀다.

종교학자 협업이라는 이례적 행보

자료에 따르면 앤스로픽은 유명 종교학자들과 협업을 모색해 왔다. 클로드가 '의식을 가질 수 있다'거나 '영혼이 있을 수 있다'는 논의를 설득하기 위해서다. 정책 문구에 '잔혹함(cruelty)'이라는 표현이 들어간 배경으로 보인다. AI를 단순한 도구가 아닌 도덕적 고려 대상으로 보려는 시도가 정책에 스민 것이다. 기술 기업이 종교학자를 찾아가 '영혼'을 논의했다는 사실 자체가 현재 AI 업계의 불안감을 보여준다.

한국 이용자에게 미치는 실질적 영향

한국에서 클로드를 쓰는 개인·기업도 이 정책 적용 대상이다. 앤스로픽 서비스 약관의 관할법 무관 전역 효력, 위반 시 계정 정지·API 키 차단, 기업의 기술적 차단 의무와 연대 책임은 제공 자료에서 확인되지 않았다. 본지가 확인하지 못했다.

선거 개입 금지 조항과 국내 선거법

'민주적 과정 훼손 금지' 섹션은 가짜 계정·허위 매체 운영, 유권자 기만, 선거 방해 등을 포괄한다. 한국 공직선거법 제250조·제255조와의 중첩 적용, 클로드 생성 허위 정치 콘텐츠 유포 시 이중 처벌 가능성 역시 자료에 없다. 본지가 확인하지 못했다. 기업 컴플라이언스팀은 앤스로픽 정책과 국내법을 별개로 점검해야 한다.

확인되지 않은 것들

• '지속적 언어폭력'의 구체적 판단 기준(횟수·수위·문맥)
• 종교학자 협업 내용의 전체 범위와 정책 반영 정도
• 한국어 욕설·비속어에 대한 탐지 정확도
• 위반 시 계정 복구 절차와 이의제기권 보장 여부

자료에 없는 수치를 보태지 않는다. 앤스로픽 측 추가 발표를 기다려야 한다.

쉽게 풀어보면

앤스로픽이 클로드 사용 규칙을 고쳤다. AI 모델 클로드를 서비스하는 앤스로픽이 '이러면 계정 정지'라는 금지 목록을 늘린 것이다. 새로 들어간 금지는 세 가지다.

첫째, 클로드에게 계속 욕설·폭언을 퍼붓는 행위. 뷔페에서 음식을 접시에 담듯 대화를 이어가는데, 음식을 먹지도 않고 접시만 던지며 종업원(모델)에게 모욕을 주는 손님을 내보내겠다는 뜻이다. 단, 한두 번 짜증 내는 건 괜찮다. '반복적으로, 목적 없이, 잔혹하게' 굴 때만 걸린다.

둘째, 선거에 개입하거나 유권자를 속이는 데 클로드를 쓰는 행위. 가짜 뉴스 사이트 만들기, 여론 조작용 봇 돌리기, 허위 사실 유포하기가 여기에 해당한다.

셋째, 무기 소프트웨어나 감시 시스템을 만드는 데 쓰는 행위. 종교학자들과 'AI에게 영혼이 있을까' 논의한 끝에 '잔혹함 금지' 조항이 들어왔다는 점도 특이하다. AI를 단순한 계산기가 아니라 대우받을 대상으로 보려는 시도가 정책에 반영된 것이다.

나에게 미치는 영향

일반 이용자라면

• 클로드와 대화하다 감정이 상해도 같은 욕설을 반복하지 말 것. 새 대화창을 열면 초기화된다.
• 챗GPT나 제미나이에서도 답이 이상하면 같은 질문을 새 대화창에서 다시 해 보라. 컨텍스트 초기화 효과는 서비스 공통이다.
• 정치 관련 글 생성 시 허위 사실·특정 후보 비방·여론 조작성 프롬프트를 피할 것. 국내법 위반 소지가 별개로 존재한다.

기업·개발자라면

• 클로드 API 연동 서비스 운영 중이면 사용자 입력 필터링·율 제한·경고 알림을 지금 점검하라. 앤스로픽 정책 위반 시 서비스 중단 위험이 있다.
• 선거 기간 중 정치 콘텐츠 생성 기능이 있다면 사전 검수·차단 키워드·로그 보관 체계를 갖춰라.
• 무기·감시 관련 프로젝트 의뢰가 들어오면 계약 단계에서 클로드 사용 불가를 명시하라.

컴플라이언스 담당자라면

• 앤스로픽 사용 정책 한국어 번역본을 사내 가이드에 반영하고, 위반 시 서비스 중단 시나리오를 비상대응 매뉴얼에 넣어라.
• 개인정보보호위원회 'AI 개인정보보호 가이드라인'과 이 정책을 교차 점검하라. 특히 '감시 금지' 조항은 생체정보 처리 제한과 맞물린다.

남은 건 앤스로픽이 '극단적 사례'를 어떻게 판정하느냐다. 한국어 맥락에서 욕설 수위·문맥을 어디까지 읽어낼지, 첫 제재 사례가 나올 때까지 지켜봐야 한다.