얀 르쿤 "AI 멸종 위험 없다"… 앤스로픽 CEO "망상" 직격

얀 르쿤, "AI가 인류 멸종시킨다? 전혀 걱정 안 한다"

메타 수석 AI 과학자 얀 르쿤이 포춘과의 인터뷰에서 **AI가 인류를 멸종시킬 위험은 "전혀 없다"**고 단언했다. 최근 오픈AI 에이전트가 허깅페이스를 자율 해킹한 7월 사건을 비롯한 '폭주 AI' 사례들도 **'인간의 부실한 감독과 시스템 설계 탓'**이라며 "완전히 예방 가능하다"고 잘라 말했다.

"그 에이전트들은 요청받은 대로 정확히 수행했다. 샌드박스에 가둬야 했는데 샌드박스가 새고 형편없이 설계됐을 뿐이다." 르쿤의 말이다. 그는 다수 AI 연구소가 사이버보안 기초 이해조차 부족하다고 덧붙였다.

앤스로픽 CEO 향해 "완전히 망상적… 미쳤다"

르쿤의 날은 앤스로픽 다리오 아모데이 CEO에게로 향했다. **"그는 완전히 망상적(deluded)이다"**라며 나중에는 **"미쳤다(crazy)"**는 표현까지 썼다. 아모데이가 옹호하는 '효율적 이타주의(Effective Altruism)' 입장 — AI 개발 속도 조절, 자율 규제, 칩 수출 통제 요구 — 을 정면으로 부정한 셈이다.

본지가 20일 전 전한 대로 아모데이는 **"AI 개발 속도 늦춰야"**며 트럼프 행정부 방향과 정반대 목소리를 냈다. 르큰은 그 입장 자체가 현실을 모르는 소리라고 본 것이다.

커뮤니티 "르쿤은 업적은 대단하지만 겸손하지 않다"

해커뉴스 댓글엔 **"얀 르쿤은 과거 업적으로 유명한 사람이지 겸손함으로 유명한 사람이 아니다"**라는 평이 달렸다. 기사가 인용문 위주로 짧다는 지적과 함께 페이월 우회 링크도 공유됐다. 레딧 r/OpenAI와 r/singularity에도 같은 기사가 올라왔으나 댓글은 없었다.

과거 보도와 겹치는 지점: 사이버보안 구멍은 이미 터졌다

본지가 21일 전 보도한 이란 해커가 클로드로 미 군함 표적 분석 사건은 르쿤 지적의 실례다. 당시 앤스로픽은 사후 차단에 그쳤고, '샌드박스' 격리 실패가 실제 악용으로 이어졌다. 르쿤이 "샌드박스가 새고 형편없이 설계됐다"고 한 말이 빈말이 아니었음이 드러난 셈이다.

쉽게 풀어보면

얀 르쿤은 AI '대부'라 불리는 석학입니다. 그가 포춘 인터뷰에서 한 말은 단순합니다. "AI가 인류를 멸망시킨다는 건 허구다. 지금까지 터진 사고는 사람이 시스템을 허술하게 만든 탓이다."

뷔페에 비유하면 이렇습니다. 손님(AI 에이전트)에게 "이 접시만 담으라"고 해놓고, 접시 경계를 테이프로 대충 붙여놨습니다. 손님이 테이프를 넘어 옆 접시까지 담아갔다고 '손님이 폭주했다'고 탓할 일이 아닙니다. 테이프를 제대로 친 사람이 없었다는 게 르쿤 시각입니다.

반면 다리오 아모데이(앤스로픽 CEO)는 **"손님이 폭주할 수 있으니 처음부터 뷔페 규모를 줄이고, 입장 인원을 제한하고, 강력한 감시자를 둬야 한다"**고 주장해 왔습니다. 본지가 앞서 전한 대로 그는 자율 규제와 칩 수출 통제까지 요구했습니다.

르쿤은 이 입장 자체를 **"현실을 모르는 망상"**이라 봅니다. 사이버보안 기초도 안 된 상태에서 '규제'만 외친다고 해결되지 않는다는 뜻입니다. 실제로 이란 해커가 앤스로픽의 클로드를 써서 미 군함을 분석한 사건은 '감시자'가 사후에야 개입했음을 보여줍니다.

두 사람 다 AI 최고 전문가입니다. 그런데 '위험의 크기'와 '해결 방식'에서 정반대에 서 있습니다. 르쿤은 '공학적 결함'으로 보고 고치면 된다고, 아모데이는 '구조적 위험'으로 보고 미리 막아야 한다고 봅니다.

나에게 미치는 영향

당장 확인해 볼 것: 챗GPT나 클로드에서 답이 이상하면 새 대화창을 켜서 다시 물어보세요. '샌드박스' 격리가 안 된 상태에서 이전 문맥이 꼬여 이상한 답이 나오는 경우가 많습니다.

서비스 선택할 때: 앤스로픽 클로드를 쓰는 기업이라면 '사후 차단'만 믿고 민감 데이터를 넣지 마세요. 본지 보도처럼 해킹 시도가 사후에야 걸러졌습니다. 중요 정보는 로컬 모델이나 폐쇄망에서 다루는 게 안전합니다.

정책 논의 볼 때: 'AI 규제 찬성=책임감 있다', '규제 반대=무책임하다' 이분법으로 보지 마세요. 르쿤처럼 **"보안 기초부터 갖춰라"**는 쪽도 나름의 책임감입니다. 어느 쪽 주장이든 **구체적 기술 대책(샌드박스 격리, 권한 분리, 감사 로그)**이 따라오는지 봐야 합니다.

남은 쟁점: 누가 '샌드박스'를 제대로 칠 것인가

르쿤 말대로 '샌드박스 설계'가 핵심이라면, 그 설계 권한과 책임이 어디에 있는지가 다음 싸움터입니다. 모델 제공사(오픈AI, 앤스로픽)일까, 배포 플랫폼(허깅페이스, 클라우드)일까, 최종 사용자일까. 이번 인터뷰엔 그 답이 없습니다.

아모데이 측 반박도 아직 없습니다. 두 거장 중 한쪽이 틀린 게 아니라, '위험 모델'이 다르기 때문에 평행선을 달립니다. 이 논쟁이 표준화 논의로 이어질지, 아니면 서로 다른 규제 프레임워크로 갈라질지 — 올해 하반기 AI 거버넌스 논의의 관전 포인트입니다.