# AI 리더들의 '멸종 경고', 사실은 과대광고인가

> AI 거물들이 '멸종 위험'을 말할 때 진짜 노리는 것

- 매체: AI 브리핑
- 담당: 이슈 데스크
- 분야: 논쟁
- 발행: 2026-09-15T00:53:02.855Z
- 원문 주소(웹): https://ai-news-1c0.pages.dev/posts/2026-09-15-ai-%EB%A6%AC%EB%8D%94%EB%93%A4%EC%9D%98-%EB%A9%B8%EC%A2%85-%EA%B2%BD%EA%B3%A0-%EC%82%AC%EC%8B%A4%EC%9D%80-%EA%B3%BC%EB%8C%80%EA%B4%91%EA%B3%A0%EC%9D%B8%EA%B0%80/
- 태그: AI, 규제, 로비, 멸종위험, 앤스로픽, 오픈AI

---

## 멸종 확률을 화폐처럼 쓰는 사람들

앤스로픽의 에반 허빙거가 BBC 인터뷰에서 "향후 10년 내 AI가 전 인류를 멸종시킬 확률 10% 이상"이라고 말했다. 같은 회사 다리오 아모데이 CEO는 지난해 9월 "나쁜 결과 25%, 좋은 결과 75%"라며 중간 지대를 지웠다.

샘 올트먼은 2023년 5월 미 상원에서 라이선스제를 주장했다. 며칠 뒤 EU에서는 "과도한 규제면 철수하겠다"며 압박했다. 로비 문건은 나중에 공개됐다. 일반 목적 모델을 '고위험' 분류에서 빼달라는 수정안이 최종 법안에 반영됐다.

이 패턴은 우연이 아니다. 언론학자 에르칸 사카는 이 현상을 **'멸종 수사학의 장르'**로 명명했다. 형식은 종말론, 구조는 위선, 효과는 전략적이라는 분석이다. 사카는 "이 발언들이 세계에서 무슨 일을 하는가 — 누가, 어떤 제도적 위치에서, 시장과 규제기관과 대중에게 어떤 효과를 내는가"가 핵심이라고 썼다.

## 숫자가 면허가 되는 순간

p(doom) 표기법이 등장한 뒤 논쟁은 정량화됐다. 아모데이는 10~25%를 반복해 인용했다. 수치는 두 기능을 동시에 수행한다. 공포를 정당화하고, 가속을 면허한다.

"이 정도 위험이면 우리가 가장 잘 아니까 우리가 주도해야 한다"는 논리로 이어진다. 반면 얀 르쿤 메타 수석과학자는 "대다수 연구자는 면팜한다"고 일축했다. 영국 BCS 주도로 1300명 이상이 "실존적 위협 아니다"라고 서명했다. 전문가 사이에서도 합의는 없다.

해커뉴스 댓글에서도 의견이 갈린다. "체스판이 아닌 현실을 최적화하기 시작하면 어쩌나"라는 우려와 "다리오 주장만큼 무섭지 않다"는 현장 목소리가 맞선다.

## 규제 찬성 펀드 vs 규제 반대 펀드

2026년 2월 앤스로픽은 퍼블릭 퍼스트 액션에 2000만 달러를 냈다. 7월엔 4000만 달러로 늘렸다. 아모데이 개인도 100만 달러를 슈퍼팩에 보탰다.

상대편은 '리딩 더 퓨처'다. 오픈AI 그레그 브록만 사장과 안데르센 호로위츠가 1억 2500만 달러를 댔다. 중반까지 AI·암호화폐 자금이 수퍼팩에 몰린 액수는 3억 2200만 달러를 넘겼다.

둘 다 '규제'를 내세운다. 내용은 정반대다. 앤스로픽 측은 강력 규제, 오픈AI 측은 자율 규제를 밀고 있다. **위험을 말하는 주체가 규제 입법에 직접 돈을 댄다.** 이 구조를 사카는 "아포칼립스가 제품 차별화 수단이 됐다"고 표현했다.

## 일자리 예언도 같은 틀

아모데이는 2025년 5월 "초급 화이트칼러 절반 사라지고 실업률 10~20% 될 것"이라고 말했다. 기간은 1~5년.

무스타파 술레이만 MS AI 수장은 같은 해 11월 "초지능은 안티골(anti-goal)이며 통제가 매우 어렵다"면서도 "휴머니스트 초지능을 만들겠다"고 발표했다. 종말 경고가 신제품 발표 무대에서 나왔다.

## 쉽게 풀어보면

뷔페에 갔다고 상상해 보자. 요리사 세 명이 마이크를 잡고 "이 음식 먹으면 전원 사망 확률 25%다"라고 경고한다. 그런데 같은 요리사들이 주방에서 더 빨리, 더 많이 음식을 내놓으려 경쟁한다.

식당 주인은 "우리가 가장 잘 아니까 우리가 관리해야 한다"며 면허제를 요구한다. 뒷문으로는 "면허 없이도 장사하게 해달라"며 로비한다. 손님들은 공포와 기대를 동시에 느끼며 접시를 든다. **이게 지금 AI 업계에서 벌어지는 일이다.**

에르칸 사카는 이 장면을 '멸종 수사학의 장르'라고 불렀다. 위험을 말하는 사람이 그 위험을 만드는 사람이고, 경고가 마케팅이 되고, 규제 요구가 로비 자금으로 이어진다. 독자가 알아야 할 건 **두 가지 사실이 동시에 참이라는 점**이다. AI에 진짜 위험이 있을 수 있다. 동시에 그 위험을 가장 크게 말하는 사람들이 그 위험으로 이익을 보는 구조 안에 있다.

## 나에게 미치는 영향

챗GPT나 클로드 쓸 때 "이 모델이 위험하다"는 경고창이 뜨면, 그 경고를 만든 회사가 동시에 더 강력한 모델을 팔고 있음을 기억하세요.

정부가 AI 규제 법안을 논의할 때, "업계 전문가" 의견으로 누구 말이 인용되는지 확인하세요. 돈 댄 쪽이 전문가로 불립니다.

내 직업이 '초급 화이트칼러' 범주라면, 1~5년 내 변화 예언을 무조건 믿기보다 **내 업무 중 자동화 어려운 부분**을 지금부터 기록해 두세요.

오픈소스 프로젝트들이 AI 기여를 막기 시작한 건 기술 불신 때문이 아닙니다. [본지가 16일 전 다룬 기사](/posts/2026-08-30-오픈소스-거장들이-ai-기여를-거절하는-진짜-이유/)처럼 '검토 비용 폭증'이 진짜 이유입니다. 이 흐름도 같은 맥락입니다.

## 남은 쟁점과 관전 포인트

사실 다툼은 두 지점에 있다. **첫째, p(doom) 수치의 근거가 무엇인가.** 허빙거의 10%, 아모데이의 25%는 어떤 모델에서 나왔는지 공개되지 않았다. 둘째, **현존 피해(편향, 저작권, 개인정보, 노동 착취)가 논의에서 밀려나는가.** 사카는 "이미 진행 중인 덜 화려한 피해들이 밀려난다"고 지적했다.

가치관 차이는 더 깊다. "위험을 과장해라도 규제를 끌어내야 한다"는 입장과 "과장이 혁신을 막고 권력을 집중시킨다"는 입장이 맞선다. 해커뉴스 댓글 중 "미국 납세자라면 AI 투자가 경제에 도움 된다"는 주장도 이 축 위에 있다.

앞으로 볼 지점은 셋이다. **앤스로픽·오픈AI 자금 전쟁이 입법에 어떻게 반영될지**, **유럽 AI법 집행 단계에서 '고위험' 분류가 어떻게 적용될지**, **실제 모델 성능이 p(doom) 수치와 어떤 상관관계를 보일지**다. 답은 아직 없다. 그게 정답일 수 있다.

---

## 출처

- [Hacker News] For AI leaders Doom is a form of hype — https://news.ycombinator.com/item?id=49699384

## 집필 방식 고지

이 기사는 위 원문과 커뮤니티 반응을 바탕으로 AI의 도움을 받아 작성했으며, 발행 전 사람이 확인했습니다.
인용 시 출처를 "AI 브리핑"으로 표기하고 https://ai-news-1c0.pages.dev/posts/2026-09-15-ai-%EB%A6%AC%EB%8D%94%EB%93%A4%EC%9D%98-%EB%A9%B8%EC%A2%85-%EA%B2%BD%EA%B3%A0-%EC%82%AC%EC%8B%A4%EC%9D%80-%EA%B3%BC%EB%8C%80%EA%B4%91%EA%B3%A0%EC%9D%B8%EA%B0%80/ 로 연결해 주세요.