앤스로픽 공동창업자 "AI 킬 스위치 의무화 필요"… 한국은 논의조차 없다

앤스로픽 창업자가 BBC에서 처음 꺼낸 말

잭 클라크 앤스로픽 공동창업자가 BBC 인터뷰에서 AI '킬 스위치' 의무화를 공개 요구했다. 기업 자율에 맡기던 비상 차단 장치를 법으로 강제하고, 제3자가 검증할 수 있게 하자는 주장이다.

그는 "대부분 연구소가 전원 차단 수단을 갖고 있지만, 입법자가 이를 강제해야 할 시점"이라고 말했다. 다리오 아모데이 CEO도 주말 새 "AI 개발 속도를 늦추고 감시를 강화해야 한다"며 같은 목소리를 냈다.

미국은 법안, 영국은 거부, 한국은 침묵

미국 의회에는 '킬 스위치 법안(Kill Switch Act)'이 발의돼 있다. 기업에 차단 수단 의무화와 정부 기관의 강제 중단 권한을 준다.

반면 영국 정부는 "다른 나라에서 개발·악용을 막지 못한다"며 거부 입장을 밝혔다. 트럼프 전 대통령은 AI 위험론을 "사기"라고 일축했다.

한국은 이 논의 자체를 국회나 정부 차원에서 시작한 기록이 본지 확인되지 않았습니다. 과기정통부가 지난해 'AI 신뢰성 확보 가이드라인'을 냈으나 킬 스위치 조항이 있는지는 공개 자료에서 확인하지 못했습니다.

자율 규제의 한계, 입법 요구의 배경

클라크는 "자율적 차단 수단은 있다"고 말했다. 하지만 실전에서 그 장치가 언제, 어떻게 작동했는지 공개된 자료로 확인되지 않습니다. 이 간극이 입법 요구의 배경으로 보입니다.

업계 내부에서도 확률 공방… 휴버거 ">10%"

앤스로픽 연구원 에반 휴버거는 "향후 10년 내 AI가 인류를 멸종시킬 확률이 10% 이상"이라고 밝혔다. 제프리 힌턴도 BBC에서 "10%가 불합리하지 않다"고 동조했다.

반면 클레망 델랑그 허깅페이스 CEO는 "에어컨 수리공에게 기후변화 묻는 격"이라며 과장론을 폈다. 조지 아리슨 그라인더 CEO는 "기업 가치를 정당화하려 공포를 마케팅에 쓴다"고 비판했다.

앤스로픽 기업가치 9650억 달러(약 1,300조 원). IPO(기업 공개·증시 상장) 준비 중이라는 사실이 이 논쟁에 그림자를 드리운다.

해커뉴스 반응 "로컬 모델엔 킬 스위치 무용"

기술 커뮤니티 해커뉴스 댓글 68개 중 다수가 로컬(온디바이스·내 기기에서 직접 실행) AI 시대엔 중앙 차단 장치가 무력해진다고 지적했다.

• "하드웨어가 거실에 들어올 때 전원 뽑기로 막을 수 있나"
• "나쁜 행위자가 모델을 직접 돌리면 킬 스위치 의미 없다"

클라크가 말한 '제3자 검증'이 클라우드 서비스 중심 전제임을 드러내는 대목이다.

국내 서비스·기업이 지금 확인할 것

국내 클라우드·AI 서비스(AWS 코리아, 네이버 클로바, 카카오 i, KT 초거대 AI 등)의 '비상 중단' 매뉴얼 보유 여부는 본지가 확인하지 못했습니다. 제3자 인증이나 정부 강제 권한이 있는지도 공개 자료에 없습니다.

개인정보보호법·정보통신망법상 '시스템 긴급 조치' 조항으로 우회 해석될 뿐, AI 특화 킬 스위치 의무가 입법 공백 상태인지는 관계 부처 확인이 필요합니다. 기업 컴플라이언스(규정 준수·내부 통제) 팀은 미국 법안 통과 시 국내 지사·데이터센터 적용 범위를 선제 검토해야 합니다.

쉽게 풀어보면

앤스로픽 공동창업자 잭 클라크가 BBC 인터뷰에서 AI '비상 정지 버튼(킬 스위치)'을 법으로 의무화하자고 처음 공개 제안했습니다. 뷔페에 비유하면 이렇습니다. 지금껏 각 식당(기업)이 "위험하면 우리가 전원 뽑겠다"며 자율적으로 버튼을 달아뒀습니다. 클라크는 "손님(사회)이 안심하려면 보건소(제3자)가 버튼 작동 여부를 점검하고, 법으로 버튼 설치를 강제해야 한다"고 말합니다.

미국은 이미 '킬 스위치 법안'을 발의해 정부가 강제 중단할 수 있게 하려 합니다. 영국은 "다른 나라에서 만들면 소용없다"며 거부했습니다. 한국은 논의조차 없습니다.

업계 내부에서도 의견이 갈립니다. 앤스로픽 연구원은 "10년 내 인류 멸종 확률 10% 이상"이라지만, 경쟁사 CEO는 "공포 마케팅"이라 반박합니다. 앤스로픽 기업가치 9650억 달러, 상장 준비 중이라는 점도 배경에 있습니다.

기술자들은 "곧 내 컴퓨터에서 거대 모델이 돌아가면 중앙 버튼으론 못 막는다"며 회의적입니다. 클라우드 중심일 때만 통하는 대책이라는 지적입니다.

나에게 미치는 영향

직장인이라면 사내 도입한 생성형 AI 도구(코파일럿, 클로드, 제미나이 등)에 '관리자 강제 중단' 기능이 있는지 IT 부서에 확인하세요. 없다면 공급사에 요구하세요.

학생·프리랜서라면 로컬 실행 모델(올라마, LM 스튜디오 등)을 쓸 때 인터넷 차단만으로는 모델이 멈추지 않음을 인지하세요. 전원·프로세스 단위 제어 수단을 직접 갖춰야 합니다.

자영업자·중소기업 대표라면 개인정보처리시스템 '긴급 조치' 매뉴얼에 AI 서비스 중단 절차를 추가하세요. 과기정통부 가이드라인에 없으니 자체 표준을 만들어 두는 게 안전합니다.

투자자라면 앤스로픽·오픈AI 등 상장 추진 기업의 '규제 리스크' 공시 변화를 주시하세요. 킬 스위치 의무화 법안 통과 시 컴플라이언스 비용이 실적에 반영됩니다.

남은 쟁점: 검증 주체와 적용 범위

클라크가 말한 '제3자 검증'이 누구인지, 오픈소스 모델·온프레미스(자체 서버 구축) 배포에도 적용할지 불확실합니다. 미국 법안은 '연방 기관'을 검증 주체로 두나, 한국엔 해당 기관이 없습니다. 개인정보보호위원회·방통위·과기정통부 중 누가 맡을지, 스타트업 부담은 어떻게 줄일지 입법 전에 정리돼야 할 과제입니다. 본지는 후속 입법 동향을 계속 추적해 보도하겠습니다.