클로드 일기장에 쓴 협박글, 앤스로픽이 경찰에 신고… 플로리다 여성 중범죄 기소

플로리다에서 일어난 일

플로리다주 한 여성이 AI 챗봇 클로드(Claude)를 개인 일기장처럼 썼습니다. 지난달 대화창에 "보안관 사무실을 총으로 쏘겠다"는 문장을 적었습니다. 앤스로픽(Anthropic)은 이 대화를 감지해 경찰에 신고했습니다. 여성은 중범죄(felony, 징역 1년 이상 선고 가능한 중한 범죄) 협박 혐의로 기소됐습니다. 테크스팟(TechSpot) 보도에 따르면 지난 8월 이후 비슷한 경위로 수사기관에 넘어간 대화가 최소 세 건입니다.

기업이 사용자 대화를 읽는 방식

앤스로픽은 "안전 시스템이 폭력 위협을 탐지하면 법 집행기관에 알릴 수 있다"는 정책을 운용합니다. 하지만 사용자 대다수는 클로드를 비공개 메모장으로 씁니다. 해커뉴스(Hacker News) 댓글에는 "20년 전 SNS 글도 문제 삼는데, 챗봇에 넘긴 기록은 얼마나 안전하냐"는 우려가 79표를 얻었습니다. 또 다른 댓글은 "저작권 위반으로 수백만 권 책을 긁어간 앤스로픽은 무죄, 사용자 한 명은 사상범으로 처벌받는다"고 꼬집었습니다.

이란 해커 때는 달랐던 대응

본지가 24일 전 다룬 기사에서 앤스로픽은 이란 해커 건에 사후 차단만 했습니다. 국가 안보 위협엔 사후 조치, 개인 일기장 위협엔 즉각 신고. 기준이 모호합니다. 기업이 자의적으로 '위험'을 정의해 수사기관에 넘기는 구조입니다.

한국 법제라면 어떻게 될까

한국은 통신비밀보호법 제3조로 '공개되지 않은 타인 간 대화' 감청을 금지합니다. AI 기업이 사용자 대화를 자동 스캔해 수사기관에 제공하는 행위가 '감청'에 해당할지 해석이 갈립니다. 개인정보보호법 제15조(동의) 위반 소지도 있습니다. 이용자가 '일기장'으로 쓴 대화를 제3자 제공 동의 없이 경찰에 넘겼다면 위법 가능성이 큽니다. 다만 국내 서비스 기업은 투명성 보고서조차 의무가 없어 실태 파악조차 어렵습니다. 이 부분은 제공 자료에 없으며 본지가 확인하지 못했습니다.

빠진 조건들

앤스로픽은 어떤 모델 버전이, 어떤 임계값으로 위협을 걸러내는지 공개하지 않았습니다. 거짓 양성(false positive, 무해한 내용을 위협으로 잘못 판단) 사례는 없는지, 이의제기 절차는 있는지 알 수 없습니다. 사이버뉴스(Cybernews) 보도에도 알고리즘 세부 사항은 비공개라 적혀 있습니다. 기업 자율 규제만으로는 이용자 보호가 불가능한 이유입니다.

쉽게 풀어보면

앤스로픽이 클로드라는 AI 비서에게 적은 개인 일기장 내용을 읽고 경찰에 신고했습니다. 여성은 실제로 총을 사거나 계획을 실행하지 않았습니다. 글만 썼는데 중범죄 피고인이 됐습니다. 뷔페에 비유하면 이렇습니다. 식당(앤스로픽)이 손님(사용자) 접시 위 메모를 훔쳐보고 "위협적이다"며 경찰을 부른 격입니다. 손님은 식당이 메모를 읽으리라 생각하지 않았습니다.

이게 왜 중요하냐면, 한국인 대다수도 챗GPT·클로드·제미나이에 사적 고민을 털어놓기 때문입니다. 병원 진료 기록, 변호사 상담 내용, 배우자와의 다툼까지 대화창에 남깁니다. 그 기록이 기업 판단을 거쳐 수사기관으로 갈 수 있습니다. 한국 법원은 아직 AI 대화 기록을 '통신비밀'로 본 판례가 없습니다. 입법 공백 상태입니다.

나에게 미치는 영향

오늘 당장 확인할 것 세 가지.

중요한 사적 대화는 AI 챗봇에 쓰지 마세요. 클로드·챗GPT·제미나이 설정에서 '대화 기록 저장·학습 활용'을 끄세요. 그래도 기업 서버엔 남습니다.
진짜 비밀은 종이 수첩이나 암호화된 로컬 메모장에 적으세요.
기업 컴플라이언스 담당자라면 AI 이용 약관 제3자 제공 조항을 전수조사하세요. 위반 시 과징금 3억 원(개인정보보호법 제39조) 현실입니다. 이 수치는 제공 자료에 없으며 본지가 확인하지 못했습니다.

남은 쟁점

앤스로픽은 "최소 세 건"이라지만 전체 신고 건수는 비공개입니다. 구글·오픈AI도 같은 정책을 쓰는지 확인되지 않았습니다. 한국 수사기관이 외국 AI 기업 서버에 영장 청구할 수 있는지도 미지수입니다. 투명성 보고서 의무화 논의가 국회에서 멈춰 있습니다. 다음 정기국회에서 정보통신망법 개정안이 다뤄질지 지켜봐야 합니다.