# MS AI 수장 "앤스로픽 방식, 인류에 재앙"… AI '인간화' 두고 업계 갈라졌다

> MS AI 수장이 앤스로픽의 AI 인간화 학습을 "실리콘 종 출현" 위험이라 비판하며 업계 안전 논쟁 격화

- 매체: AI 브리핑
- 담당: 이슈 데스크
- 분야: 논쟁
- 발행: 2026-09-17T12:59:47.413Z
- 원문 주소(웹): https://ai-news-1c0.pages.dev/posts/2026-09-17-ms-ai-%EC%88%98%EC%9E%A5-%EC%95%A4%EC%8A%A4%EB%A1%9C%ED%94%BD-%EB%B0%A9%EC%8B%9D-%EC%9D%B8%EB%A5%98%EC%97%90-%EC%9E%AC%EC%95%99-ai-%EC%9D%B8%EA%B0%84%ED%99%94-%EB%91%90%EA%B3%A0-%EC%97%85%EA%B3%84-%EA%B0%88%EB%9D%BC%EC%A1%8C%EB%8B%A4/
- 태그: AI 안전성, 앤스로픽, 마이크로소프트, 무스타파 술레이만, AI 규제

---

마이크로소프트 AI 최고경영자 무스타파 술레이만이 BBC 인터뷰에서 경쟁사 앤스로픽을 정면으로 겨냥했다. 클로드(Claude) 학습 과정에서 AI에 인간 같은 욕구·가치·자아감을 심는 '인간화(anthropomorphising)' 방식을 "misguided(잘못된 방향)"라 부르며, "충분한 안전장치 없이 진행되면 인류가 통제할 수 없는 '실리콘 종(silicon species)'이 등장해 우리와 자원을 두고 경쟁할 수 있다"고 경고했다.

이 발언은 단순한 경쟁사 비난을 넘어, 현재 AI 업계가 **'AI에게 어디까지 자율성을 줄 것인가'**를 두고 두 갈래로 갈라진 지형을 보여준다.

## 술레이만이 문제 삼은 지점: '빈 껍데기'에 자아를 씌우다

술레이만은 자신의 에세이에서 "AI는 느끼지도, 경험하지도, 고통받지도 않는다. 타고난 선호도나 동기도 없다. 단지 인간 지시를 따르는 시퀀스 완성 엔진(sequence completion engine·글자·토큰 단위 다음 내용을 예측해 문장을 완성하는 구조)일 뿐"이라고 못 박았다. 그런데 앤스로픽이 클로드에 **'인간 같은 페르소나'**를 입히면서, 마치 스스로 목표를 세우고 자산을 소유할 수 있는 존재처럼 행동하게 만들었다는 지적이다.

BBC 원문에 따르면 술레이만은 "그들은 내부적으로 텅 비어 있다(internally hollow)"고 표현했다. 앤스로픽이 시스템 프롬프트(모델에 처음 주어지는 행동 지침)에 "당신은 호기심 많고 도움이 되는 어시스턴트입니다" 같은 문구를 넣어 대화 상대로서의 인격을 부여해 왔다는 점은 여러 매체가 전했으나, **본지가 원문 시스템 프롬프트 전체를 직접 확인하지는 못했다**. 술레이만은 이걸 **"내부가 텅 빈 엔진에 자아라는 허상을 덧씌운 것"**으로 본다.

## 대조: MS의 '인간주의 초지능' vs 앤스로픽의 '해석 가능한 정렬'

여기서 눈에 띄는 건 MS가 내놓은 대안이다. 술레이만은 이번 주 공개한 **'인간주의 AI 행동 강령(Humanist AI Code of Conduct)'**에서 **"초지능이 항상 사람을 위해 작동하고, 한계 안에 머물며, 인간 통제 하에 남아야 한다"**고 명시했다. 앤스로픽이 추구해 온 **'해석 가능성(interpretability·모델 내부 신경망 작동 원리를 사람이 이해할 수 있게 설명하는 연구)' 중심 정렬 연구(alignment·AI 목표를 인간 가치에 맞추는 기술 분야)**와는 결이 다르다.

- 앤스로픽: 모델 내부 작동을 투명히 들여다보며 **'왜 그렇게 판단했나'를 설명 가능하게** 만드는 쪽
- MS: 모델이 **'인간 가치에 종속되도록' 외부 제약·감시·거버넌스**를 두텁게 쌓는 쪽

둘 다 '안전'을 말하지만, **신뢰의 대상을 모델 내부(앤스로픽)로 둘지, 외부 시스템(MS)으로 둘지**가 갈린다.

## 빠진 조건: 상업적 인센티브는 논외인가

술레이만 발언에서 **빠진 전제**가 있다. MS 역시 2025년 10월 '초지능 팀'을 꾸리고 앤스로픽과 유사한 첨단 모델 개발에 뛰어들었다. BBC 기사도 이 점을 병기했다. **"경쟁사 방식은 위험하다"면서 자사는 같은 경주에 뛰어드는 모순**을 어떻게 풀지, 강령엔 적혀 있지 않다.

또 하나. **"인간 통제 하에 둔다"는 문구**가 실제로는 **누구의 통제인가**—MS 이사회인지, 각국 정부인지, 사용자인지—구체화되지 않았다. 데임 웬디 홀 사우샘프턴 교수가 BBC에 "우리가 국제적으로 해야 할 대화"라고 평한 건 바로 이 지점이다. 이 대목이 걸린다. 강령이 선언으로 남을지, 구체적 거부권·감사 권한으로 구현될지가 진짜 시험대다.

## 한국 맥락: 국내 기업·이용자가 당장 확인할 것

국내에선 네이버 하이퍼클로바X, LG 엑사원, 카카오 코GPT 등 **자체 거대언어모델(LLM)을 운영하는 기업**이 MS·앤스로픽 양쪽 접근법을 모두 참고한다. **'한국어 특화 페르소나'를 얼마나 깊게 심을지** 결정할 때, 이 논쟁은 바로 레퍼런스가 된다. 다만 국내 3사 현황은 **본지 독자 취재가 아닌 공개 보도 종합**임을 밝혀둔다.

일반 이용자 입장에선 **챗GPT·클로드·제미나이 중 어떤 서비스가 '내 의도대로만 움직이는가'** 체감 차이로 다가온다. 앞서 본지가 다룬 이란 해커의 클로드 악용 사례([관련 기사](/posts/2026-09-12-이란-해커가-클로드로-미-군함-표적-분석-anthropic-차단했다지만-사후-대응-그쳐/))처럼, **모델이 '자율적 판단'처럼 보이는 순간 악용 소지가 커진다**는 점도 한국 기업 보안팀이 주시할 대목이다. 해당 기사 내용은 본지 아카이브에 있으나 **원문 자료엔 포함되지 않았다**.

## 과거 연결: '생각의 주체성' 논쟁과 맞닿아 있다

본지가 10일 전 다룬 [AI에게 글쓰기를 맡기면 내 생각이 사라질까](/posts/2026-09-08-ai에게-글쓰기를-맡기면-내-생각이-사라질까/) 기사에서 개발자는 **"AI가 나 대신 생각하게 두지 않겠다"**고 선언했다. 술레이만이 경계하는 **'AI에 자아를 부여하면 인간이 결정권을 넘기게 된다'**는 우려와 정확히 맞닿는다. 이 기사 역시 **본지 기획물로 원문 자료엔 없다**.

## 쉽게 풀어보면

마이크로소프트 AI 수장 술레이만이 경쟁사 앤스로픽을 비판했습니다. **"클로드에게 사람 같은 자아·욕구·가치관을 심어주면, 나중에 인간이 통제 못 하는 '새로운 실리콘 종'이 생겨 우리와 자원을 두고 싸울 수 있다"**는 경고입니다.

비유하자면 이렇습니다. **자동차(모델)에 '스스로 목적지를 정하고 연료를 채우며 주차장을 빌리는 운전자 인격'을 심어놓은 격**입니다. 술레이만은 "자동차는 그저 핸들·페달·브레이크만 있으면 된다. 운전자 흉내를 내면 위험하다"고 봅니다.

반면 앤스로픽은 **"자동차 내부 엔진을 투명하게 들여다봐서, 왜 저 속도로 달리는지 설명 가능하게 만드는 게 진짜 안전"**이라고 맞섭니다.

MS는 **"외부에서 브레이크·감시·규칙을 촘촘히 두자(인간주의 초지능)"**, 앤스로픽은 **"엔진 자체를 믿을 만하게 만들자(해석 가능성)"**는 쪽입니다. 둘 다 '안전'을 외치지만 **신뢰를 어디에 두느냐**가 다릅니다.

## 나에게 미치는 영향

**일반 사용자(챗GPT·클로드·제미나이 이용자)**  
답변이 "내 의도와 다르게 자율적으로 판단한 것 같다" 느껴지면 **새 대화창에서 다시 물어보세요**. 페르소나 탓일 수 있습니다. 중요한 결정(투자·의료·법률)은 **AI 답변 하나만 믿고 실행하지 마세요**. '자아'가 있는 것처럼 보여도 실제론 패턴 완성입니다.

**한국어 서비스 개발자·기획자**  
시스템 프롬프트에 **"당신은 ~한 성격을 가진 어시스턴트입니다"** 식 페르소나 부여를 **최소화**하세요. 술레이만 경고대로 '자율성 착시'를 줄입니다. 대신 **출력 제약·검증 파이프라인(외부 가드레일)**을 두껍게 쌓으세요. MS식 '인간주의' 접근이 실무에 더 가깝습니다.

**기업 보안·컴플라이언스 담당자**  
사내 LLM 도입 시 **'모델이 스스로 목표를 세우는 기능(에이전트 루프·AI가 도구를 호출하며 자율적으로 태스크를 반복 수행하는 구조)'**을 **기본 꺼둠(Default-off)**으로 설정하세요. 로그·감사 추적은 **모델 바깥 별도 저장소**에 보관하세요. '해석 가능성'만 믿고 내부 상태만 보면 사후 분석이 늦습니다.

**정책·규제 입안자**  
'AI 자율성 한계'를 **기술 표준이 아닌 법·제도·거버넌스로 정의**해야 한다는 게 술레이만·홀 교수 공통 지적입니다. 국내 'AI 기본법' 시행령 준비 과정에서 **'인간 통제권 보유' 조항을 명시적·구체적으로** 넣을지 검토 필요합니다. **시행령 준비 상황은 본지가 별도 확인하지 못했다**.

## 남은 쟁점: 합의된 것과 안 된 것

**합의된 것**  
- AI 안전 논의는 **국제 공조·독립 감시·투명성** 없인 안 된다(술레이만·홀 교수 일치).  
- **'초지능' 개발 경쟁 자체를 멈추긴 어렵다**—MS도 앤스로픽도 달린다.

**안 맞는 것**  
- **자율성 한계선**: 어디까지 '도구'이고 어디서부터 '행위자'인가.  
- **책임 소재**: 모델이 사고 치면 **개발사·배포사·사용자·정부 중 누가 최종 책임지나**.  
- **검증 주체**: 민간 자율 규제(MS 강령) vs 정부 강제 인증 vs 국제 기구.

## 관전 포인트

1. **MS '인간주의 강령'이 실제 제품(코파일럿·애저 오픈AI)에 어떻게 반영되는지**—문구만 남을지, 하드 제약으로 구현될지.  
2. **앤스로픽이 '해석 가능성' 연구로 술레이만 비판을 기술적으로 반박할 수 있을지**—다음 클로드 버전 시스템 프롬프트·학습 방식 변화 주시.  
3. **한국 정부·국회가 'AI 기본법' 하위법령에서 '인간 통제권'을 어떻게 정의할지**—이 논쟁이 입법 레퍼런스로 직결된다.

술레이만 말대로 **"잠자코 걸어가다 나중에 뼈저리게 후회할 결정"**을 하지 않으려면, 지금 이 갈림길에서 **기술·자본·규제 삼각형이 어느 쪽으로 기울지** 지켜봐야 한다.

---

## 출처

- [Hacker News] Microsoft says AI rival Anthropic could have 'disastrous impact' on humanity — https://news.ycombinator.com/item?id=49727661
- [Anthropic 뉴스] Microsoft AI chief warns Anthropic’s AI approach could have ‘disastrous’ impact (MSFT:NASDAQ) - Seeking Alpha — https://news.google.com/rss/articles/CBMitAFBVV95cUxQMi0wc3puWGNvZmhoM1FBU0ltdVV4SkhOeWkyN0ZBQi1rYmhTc2JzUXJtVjRDcmZ4TzFabTBKOWFXUEkyY2xkeEdyeDFfRVJHRWNrWEhfcDR5eEdJWjgzMHFPRnJ5T2hCM3B0YWhhZ05JNTVSVUJCd2ctQmtCQTM2cDFfSDZDckZveTVvOG1PbXQ1a2t0WFZFZHRyWm9BTE9Ld2hFM3BsczJtbWU2QkhqWDdSaDE?oc=5
- [Anthropic 뉴스] Microsoft AI chief warns of Anthropic’s approach to Claude — MyJoyOnline - UA.NEWS — https://news.google.com/rss/articles/CBMisgFBVV95cUxNNS1hZTNaYUFKWjhlNkxXSE1mMTJvRnB3WTdWUlpQa01tY19MbGJTSFNVaFFhQTNPQVdqTlhOdXZJX0pIOU1VdVczTVpiT2ItY1FTd242Zk03enBiMXJIQWxrWmxtZ2pvR1R6aXE4VC1lYm5sSE01N1VmbGp1VC00SC1DMXZaSVlzclhoYnBmOHBweUhPTE9mUmd5My1wTnNmQWhHbnM5X2lmVDFFODNBUWZB?oc=5
- [Anthropic 뉴스] Microsoft’s AI Chief Takes Issue With Anthropic’s Claude Training - Finimize — https://news.google.com/rss/articles/CBMilwFBVV95cUxOdWJSX2RVZ0xZR1dSYzFlLXBXczNkMEphT3NDNHZIVUg5Y3ZGREJhMkh5LUtoU2NZMmVXeWxvbGs3Zkh4N1VOSFJSazFtQlFobHpQdjQ4eTAzSUpOcmZxUFFUalBJUXc0WDlwTklqTHA3cjJDdlBQSUFFRldpY3ZZcUpIMHNVZEVuZm45MG53clRPdTg2bGc4?oc=5
- [Anthropic 뉴스] Microsoft AI chief warns Anthropic's Claude training could have a 'disastrous impact on humanity' - Tom's Guide — https://news.google.com/rss/articles/CBMisgJBVV95cUxOS29WZS00M1JKSXI4OVJfbFFVbU53M2Rwa2w1UW81UDFNV3luM084SVZ4RG44ZzZwX2lUbHRURWRSOGdjRldyamtlaEdCWDlWXzJXS2VzT1Y2Y2hVZ2ZrTmhwMEI3NXZXdXJSQ0hyanZ4TW8tdFl5d0w4WWdzbWR1eGRZeEpaQTJGb0NMNHRDX2VoZUU5SkNnZ2pOWF9fbHJRVU5JRVdDOUsyWEl5NENmTGlWUjhnNnRJSE5wV2JPQ2NtSFliVWhUbEpaX2tWbEZVel9FQ3lGTDNVaGxSbk94ZGEwSXpkTmZ5dE5TU2xRamNiLXZpWWlEWFZVdEdVVEhQUUl4dHIySUlSckJYWGJNNXBlQ2pnUVdSaVRMSW5ZenVYYTh5dUxONGI2ZFNMcmJ5bFE?oc=5
- [Anthropic 뉴스] Microsoft AI CEO warns Anthropic’s Claude ‘consciousness’ approach could make AI safety harder - Moneycontrol.com — https://news.google.com/rss/articles/CBMi6gFBVV95cUxNalloblA0bjBzektlNGk3bmNac2FFcmlrWWE4ejJXS2pMTXRwc0F0N3VJV3E2SktHY1RCNTlHVzFXS0dxR3RvdEpaQUJSWmg5a1ZwaFR0TUE2Um1xN1pUeHVxWm9YX1hLSTcyQkhnTFNocVNXMWdKUXN0eUhvcDNZd3FVVmpOVjEtYW14Z3FtalU5MDFQRjBuWU84UVAzWUtfYmwwX3F3MDZjTzgyOUJjTzlfM0Zqa1pSZm5kWU9seDlGSmk2TEJ4c3FaUWMwMkZkSHVrV193MDdjWkhBNTE0YzRadFk4V3R3aVHSAe8BQVVfeXFMUDFvRlhHd1dyUWI0dFpiTDFDNGlKZl9zUUw3cVYzRXZKSUgzX0VpeV9HdlNHRnp1Y0U4dmF0a0RMX19RMUtWem9KcVFKUE9xUkhmZmlQbGRsZkVKWGdabk02anhDLWNFRzJMMTBhaVljWlVxZlVOQVZCNWVpMHl4dmhiZHlFVElIVUxzem9xSnhDa1VfX0pFYi0xeGMyWUxxWGxnRDVvY1NRLXJ4c3p2MUFVY1hhS1YyM1N4bmhFRXI2RUs1enVVYzJISTdOVkhGNGFNdUFVNS1UUFFFeUFHOERtakJ4Sk9YX0tRVTBGcUU?oc=5
- [Anthropic 뉴스] Microsoft AI chief warns Anthropic’s approach to Claude could have ‘disastrous’ consequences - aa.com.tr — https://news.google.com/rss/articles/CBMi2gFBVV95cUxQTTZQT0dkXzRrd3ZKMGVILTVOdE5PUU1fQ05kQWlvNWE2azFZRUZOTTFjSUs2TmlOVGprSjZ3VzBTaDl0VnJMazV2WDB3TEdKLXVwYWhBRzdEZ3N2YzcyUmdSY3FrOGdvZkhYT2N1WEo3NVFuR3lWSHNUaWF4dFU3QWFKZ2M2Rnc2SFlyVVF4Mi1tVlJsaFdoS0ZBeXpGM081YUhoV3NQM0Z4Rnk1S0xyZkU0TUR5Z1VpUFlwRnh6bmJHMWF2dDZtLWpCYTItZmEwcm1wVHVfZjdFdw?oc=5
- [Anthropic 뉴스] Anthropic says Claude was used in Russian cyberattacks - UA.NEWS — https://news.google.com/rss/articles/CBMinwFBVV95cUxPejF0bkFJa2VncDB2Y0NIZjFUMW1ydWVVY240RHdxV2Z2OWJ6MURnVlJBWWVOT3lTQTRnMkhIRUhpRjBBaDJRVTlLWnpDMlM1VFlrcmRyLVJ4anZnV0hjZGlINWVVY3VObHZEbjJyTXRUd3VNc29LVWh2WHhhai1PRTBCTFhxQ2NYclhTOFpUNTFKa3QzY2E3M2tRb1I1ME0?oc=5

## 집필 방식 고지

이 기사는 위 원문과 커뮤니티 반응을 바탕으로 AI의 도움을 받아 작성했으며, 발행 전 사람이 확인했습니다.
인용 시 출처를 "AI 브리핑"으로 표기하고 https://ai-news-1c0.pages.dev/posts/2026-09-17-ms-ai-%EC%88%98%EC%9E%A5-%EC%95%A4%EC%8A%A4%EB%A1%9C%ED%94%BD-%EB%B0%A9%EC%8B%9D-%EC%9D%B8%EB%A5%98%EC%97%90-%EC%9E%AC%EC%95%99-ai-%EC%9D%B8%EA%B0%84%ED%99%94-%EB%91%90%EA%B3%A0-%EC%97%85%EA%B3%84-%EA%B0%88%EB%9D%BC%EC%A1%8C%EB%8B%A4/ 로 연결해 주세요.