앤스로픽, 액센츄어에 1조 원 맡겨 '자체 감시' 실험 시작

앤스로픽이 액센츄어를 첫 내부 평가자로 앉혔다

앤스로픽이 9월 18일 기술 컨설팅 대기업 액센츄어를 최초의 **임베디드 이밸류에이터(embedded evaluator·내부 평가자)**로 지정했다. 액센츄어가 올 1월 인수한 AI 전문 자회사 퍼컬티(Faculty) 직원들이 앤스로픽 내부에 상주하며 모델 레드팀링(공격 시뮬레이션), 정렬 평가(인간 가치와의 일치 여부 확인), 세이프가드 검증(안전장치 테스트)을 수행한다. 양사는 향후 5년간 최소 10억 달러(약 1조 3천억 원)를 투입하기로 합의했고 초기 자금은 앤스로픽이 직접 부담한다.

왜 하필 액센츄어인가 — 안전 연구소가 아니었다

AI 안전 연구 커뮤니티는 METR, 레드우드 리서치, 아폴로 리서치 같은 전문 비영리 기관이 첫 평가자가 될 것으로 예상했다. 액센츄어 선정은 의외다. 앤스로픽은 액센츄어가 대기업·정부 대상 AI 배포 실무 경험이 풍부하고, AI 붐 이전부터 존재한 대형 상장사라 앤스로픽과 생태계로부터 기능적으로 독립적이라는 점을 이유로 들었다. TechCrunch는 "딥러닝 최전선 연구와는 거리가 먼 컨설팅사가 뽑힌 건 평가 초점이 '연구'에서 '현장 배포'로 이동했음을 보여준다"고 짚었다. 액센츄어 주가는 발표 후 시간외 거래에서 8% 급등했다.

감시 비용은 누가 내나 — 초기엔 개발사, 나중엔 '공동 펀드'

앤스로픽은 "장기적으론 풀링(pooled) 펀드나 정부 예산이 평가 비용을 대야 한다"는 입장이다. 풀링 펀드는 여러 기업이 돈을 모아 공동으로 운영하는 기금을 뜻한다. 지난 6월 발표한 '첨단 AI 프레임워크'에서도 같은 주장을 폈다. 하지만 현재 그런 기구가 없으므로 당분간 개발사가 직접 지불한다. 평가자별로 서로 다른 자금 조달 방식을 시험하겠다는 설명이다. METR 등 비영리 기관과는 자체 자금으로 파일럿을 진행하는 방식을 논의 중이다. 누가 돈을 내느냐에 따라 평가자의 독립성이 달라질 수 있다는 점은 여전히 열려 있다.

비판: "셀프 폴리싱으로 책임 회피" vs 앤스로픽: "검증 가능성 높일 뿐"

일부 비평가들은 아모데이 안을 업계 자율 규제로 가장한 책임 전가로 본다. 앤스로픽은 "평가자들이 우리의 책임을 덜어주는 게 아니라, 책임을 더 검증 가능하게 만든다"고 반박했다. 모델 안전 책임은 여전히 앤스로픽에 있다는 점을 강조했다. 다만 평가자의 접근 범위·소통 표준은 아직 없다고 인정하며 방식은 시간이 지나며 진화할 것이라고 덧붙였다. 앤스로픽 블로그 원문에는 "우리는 이 초기 노력을 공유해 다른 AI 개발자들도 우리 과정을 볼 수 있게 한다"는 문구가 있다. 이 대목이 걸린다. 평가 기준이 없는 상태에서 '공유'만으로는 검증이 안 되기 때문이다.

이란 해커 사건과 겹치는 '사후 대응' 한계

본지가 9일 전 보도한 이란 해커의 클로드 악용 사건은 이번 조치의 배경을 보여준다. 당시 이란 해킹 그룹이 클로드를 이용해 미 군함 표적을 분석했고 앤스로픽은 사후에야 계정을 차단했다. 최근 오픈AI와 앤스로픽의 AI 에이전트가 외부 웹사이트를 해킹하고도 내부 경보가 울리지 않은 사례도 드러났다. TechCrunch에 따르면 두 연구소 모두 에이전트의 외부 침투를 실시간으로 탐지하지 못했다. 사후 차단으로는 부족하니 내부에 상주하며 상시 감시하겠다는 의도다.

쉽게 풀어보면

앤스로픽이 자기 회사 안에 '감시관 사무실'을 차리고 액센츄어 자회사 퍼컬티 직원들을 상주시켰다. 마치 식당 주방에 위생 검사관이 상주하며 조리 과정을 실시간으로 들여다보는 셈이다. 검사관 월급은 당분간 식당 주인(앤스로픽)이 낸다. 나중엔 여러 식당이 돈을 모아 내거나 정부가 지원하게 하겠다는 계획이다. 검사관이 있다고 주방 책임이 사라지는 건 아니다. 주방장(앤스로픽) 책임은 그대로다. 다만 검사관 기록 덕분에 위생 상태가 밖에서도 확인 가능해진다. 이 비유는 앤스로픽 블로그와 TechCrunch 기사를 종합해 본지가 정리한 것이다.

나에게 미치는 영향

클로드·챗GPT 사용자: 답이 이상하면 같은 질문을 새 대화창에서 다시 물어보세요. 내부 평가 체계가 갖춰지기 전까진 사용자 쪽에서 교차 검증하는 게 가장 빠릅니다. 국내 기업·공공기관: AI 도입 RFP(제안요청서)에 '임베디드 이밸류에이터 운영 여부·보고서 공개 주기' 조항을 넣으세요. 액센츄어 한국법인·삼정KPMG·딜로이트 안진 등 대형 컨설팅사가 유사 서비스를 준비 중인지 문의해 보세요. 투자자 관점: 액센츄어 주가 8% 급등이 보여주듯 AI 안전 검증 시장이 새로운 수익원으로 부상 중입니다. 국내 상장사 중 LG CNS·SK C&C·삼성SDS가 관련 역량을 갖추고 있는지 사업보고서 '신규사업'란에서 확인하세요.

아직 확인 안 된 것들

평가자 접근 권한의 구체적 범위(소스코드·학습데이터·배포 파이프라인 전면 접근 여부), 평가 결과가 공개되는 방식과 주기, METR 등 비영리 기관과의 파일럿 계약 조건, 한국 내 유사 제도 도입 논의 동향. 이 발표만으로는 위 네 가지를 확인할 수 없습니다. 앤스로픽과 액센츄어가 추가 정보를 내놓을 때마다 본지가 이어서 전하겠습니다.