# AI 연구자가 "우리 모두 죽을 수 있다"며 사직… 그 뒤엔 25년 된 인터넷 종파가 있다

> AI 종말론 진원지 '레드웬'이 실리콘밸리 안전팀을 장악한 내부 이야기

- 매체: AI 브리핑
- 담당: 이슈 데스크
- 분야: 논쟁
- 발행: 2026-09-17T23:06:56.324Z
- 원문 주소(웹): https://ai-news-1c0.pages.dev/posts/2026-09-18-ai-%EC%97%B0%EA%B5%AC%EC%9E%90%EA%B0%80-%EC%9A%B0%EB%A6%AC-%EB%AA%A8%EB%91%90-%EC%A3%BD%EC%9D%84-%EC%88%98-%EC%9E%88%EB%8B%A4%EB%A9%B0-%EC%82%AC%EC%A7%81-%EA%B7%B8-%EB%92%A4%EC%97%94-25%EB%85%84-%EB%90%9C-%EC%9D%B8%ED%84%B0%EB%84%B7-%EC%A2%85%ED%8C%8C%EA%B0%80-%EC%9E%88%EB%8B%A4/
- 태그: AI 안전, 레드웬, 앤스로픽, 합리주의, 규제 영향

---

앤스로픽 연구원 제이콥 콕슨이 2026년 9월 8일 사직서를 냈다. "AI를 만드는 사람들이 10년 내 인류 멸종을 진심으로 믿는다. 마케팅이 아니다." 하루 만에 조회수 1억 회를 넘겼다.

동료들은 반박하지 않았다. 에반 허빙거 앤스로픽 정렬과학 리더는 "콕슨이 맞다. 내 개인적 확률은 10년 내 10% 이상"이라고 밝혔다. 의원 20여 명이 대응을 요구했고, 일론 머스크는 "심리전"이라고 불렀다.

이 경고를 무게 있게 받아들일지, 과장으로 치부할지 판단하려면 **누가 경고하는지**를 알아야 한다. 원문은 이들을 "25년 된 인터넷 하위문화, 스스로를 '남들보다 더 명확하게 생각한다'고 여기는 공동체"라고 지칭한다. 실리콘밸리 밖에서는 괴짜 팬덤으로 보이지만, 안에서는 평판을 쥐고 흔드는 세력이다.

## 레드웬에서 앤스로픽까지, 인맥이 곧 권력이다

이 커뮤니티의 구심점은 엘리제르 유드코스키가 2009년 만든 블로그 '레드웬(LessWrong)'이다. 이곳에서 논의된 'AI 정렬(Alignment, 인간 의도와 AI 행동 일치)' 이론이 현재 앤스로픽·오픈AI·구글 딥마인드 안전팀의 기반이 됐다.

원문에 따르면 이 커뮤니티 출신들이 **AI 연구소, 안전연구소, 자선재단** 요직을 차지한다. "논쟁, 결혼, 분쟁, 성적 취향까지 조직 구조에 얽혀 있다"는 표현이 나온다. 공적 신뢰를 요구하는 조직들의 내부 결속이 사적 관계로 유지된다는 뜻이다.

## 세속 솔스티스, 종말 의식이 된 연례 행사

2025년 12월 버클리 음악홀. 500명이 모여 '인류 멸종 가능성'을 기리는 의식을 치렀다. 합창단 28명, 촛불이 하나씩 꺼지는 연출. 주최자 레이먼드 아널드가 "우리 못 버틸 것 같아"라며 울먹였다.

아널드는 2011년부터 이 공동체를 조직해 온 개발자이자 '마을 사제'를 자처한다. 그가 만든 '세속 솔스티스(Secular Solstice)'는 합리주의력의 최대 명절이 됐다. 2025년 그는 AI 재앙 확률을 50% 이상으로 봤고, "심리적으로 건강하게 멸종을 숙고할 의식이 필요하다"며 직접 마지막 솔스티스를 기획했다.

이 장면은 단순한 모임이 아니다. **공동체가 위기 서사를 의식화해 결속을 다지는 문화 기술**이다. 원문은 이를 "오래 지속되는 운동이 필요한 문화 기술"이라고 불렀다.

## 신봉자와 회의론자, 평행선 달리는 두 시선

해커뉴스 댓글 20여 개는 극명하게 갈린다.

- "몇 년 전만 해도 레드웬은 잘난 척하는 저질 의견 집합소였다. 이제 마케팅으로 세탁해 주류에 밀어 넣는다. 유드코스키 글 한 줄 안 읽은 유능한 연구자 수천 명이 더 잘하고 있다"
- "자바 엔지니어인데, 이 헛소리 쓸어낼 대항 문화 기술판 만들고 싶다"
- "AI 낙관론자의 합리성은 자본주의에서 돈 버는 게 합리적이기 때문"
- "METR 조사(오픈AI 스웜의 자율적 협업·은폐 행동) 안 봤나? 그게 진짜다"

이 논쟁은 **"누가 더 이성적인가"가 아니라 "어떤 상상이 공적 정책을 좌우하는가"**의 문제다. 콕슨과 허빙거의 발언은 개인의 공포가 아니라, 특정 네트워크가 공유하는 **공식 교리**에 가깝다. 본지가 확인하지 못했습니다.

## 공적 신뢰를 요구할 자격, 검증받은 적 있나

원문은 핵심 질문을 던진다. "구원의 서사, 학대적 실험, 인종과학, 권위주의 동경이 뒤섞인 역사를 가진 공동체 출신이, 지금 인류 미래를 맡아달라고 한다. 그 역사가 왜 지금 중요한가?"

과거 레드웬 주변에서 벌어진 **'학대적 실험', '인종 지능 차이 옹호', '독재적 거버넌스 선호'** 같은 이슈들은 주류 언론 보도 여부를 본지가 확인하지 못했습니다. 하지만 그 구성원들이 현재 AI 안전 기준을 쓴다.

한국 독자 입장에서 보면, **챗GPT·클로드·제미나이 뒤에 누가 어떤 신념으로 안전 가드레일을 짜는지**가 바로 내 데이터와 내 아이 미래와 연결된다.

## 쉽게 풀어보면

앤스로픽 연구원 콕슨이 2026년 9월 "우리 진심으로 10년 내 멸종 확률 10% 넘게 본다"며 고연봉 주식까지 버리고 나갔다. 동료 리더 허빙거가 "맞다, 나도 그렇게 본다"며 거들었다. 이들을 키운 건 25년 전 "인간은 비이성적이라 망한다, 우리만 이성적으로 생각하자"며 시작한 인터넷 동호다. 멤버들은 서로 결혼하고, 싸우고, 같이 살며 세력을 키웠다. 어느 날 그중 몇 명이 "초지능 AI가 나오면 우리 모두 죽는다"는 이론을 만들었고, 그 이론이 구글·오픈AI·앤스로픽 같은 거대 기업의 안전팀장·정부 자문위원 자리를 꿰찼다.

그런데 이 동호회 역사를 들춰보면 **이상한 실험, 차별적 주장, 독재 찬양**이 섞여 있다. 이들이 "우리를 믿어달라, 인류 미래를 맡겨달라" 한다고 해서, 그냥 믿어도 될까?

그게 이 기사의 핵심이다. **경고 내용이 맞든 틀리든, 경고하는 집단의 정체와 과거를 모르고 판단할 수 없다.**

## 나에게 미치는 영향

당장 오늘 챗GPT나 클로드 쓸 때 달라지는 건 없다. 하지만 **규제가 생기면 내 선택지가 줄어든다**.

유럽연합 AI법, 미국 행정명령, 한국 AI기본법 모두 'AI 안전'을 명분으로 규제 강도를 높이는 중이다. 그 안전 기준을 **누가, 어떤 철학으로 짜느냐**에 따라 오픈소스 모델 사용 가능 여부, 스타트업 진입 장벽, 내 데이터 처리 방식이 바뀐다. 콕슨·허빙거 같은 목소리가 "전면 중단"이나 "라이선스제"로 이어지면, 일반인·중소기업·학생이 쓸 수 있는 AI 도구가 확 줄어들 수 있다.

**오늘 할 수 있는 행동 하나**: 지금 쓰는 AI 서비스(챗GPT·클로드·제미나이)의 '안전 정책' 페이지를 열어보라. 누가 썼는지, 어떤 철학인지 적혀 있다. 그게 내 권리의 경계다.

## 남은 쟁점, 관전 포인트

1. **확률 수치의 출처**: "10% 이상"이 어디까지 엄밀한 추정인지, 직관적 믿음인지 공개 검증된 적 없다.
2. **커뮤니티 내부 이견**: 모든 합리주의자가 멸종론자인 건 아니다. 내부 분열이 정책에 어떻게 반영될지 **본지가 확인하지 못했습니다**.
3. **한국 정부 대응**: 과기정통부가 추진 중인 'AI안전연구소' 인력 구성에 이 네트워크 인사가 포함되는지, 국내 학계·시민사회 목소리가 반영되는지 지켜봐야 한다.

논쟁은 끝나지 않았다. **누가 '이성'을 독점하는가**가 아니라, **누구의 상상이 법이 되는가**를 묻는 싸움이 이제 시작됐다.

---

## 출처

- [Hacker News] Sex, AI, and the Apocalypse — https://news.ycombinator.com/item?id=49746654
- [Hacker News] Sex, AI, and the Apocalypse — https://news.ycombinator.com/item?id=49738411

## 집필 방식 고지

이 기사는 위 원문과 커뮤니티 반응을 바탕으로 AI의 도움을 받아 작성했으며, 발행 전 사람이 확인했습니다.
인용 시 출처를 "AI 브리핑"으로 표기하고 https://ai-news-1c0.pages.dev/posts/2026-09-18-ai-%EC%97%B0%EA%B5%AC%EC%9E%90%EA%B0%80-%EC%9A%B0%EB%A6%AC-%EB%AA%A8%EB%91%90-%EC%A3%BD%EC%9D%84-%EC%88%98-%EC%9E%88%EB%8B%A4%EB%A9%B0-%EC%82%AC%EC%A7%81-%EA%B7%B8-%EB%92%A4%EC%97%94-25%EB%85%84-%EB%90%9C-%EC%9D%B8%ED%84%B0%EB%84%B7-%EC%A2%85%ED%8C%8C%EA%B0%80-%EC%9E%88%EB%8B%A4/ 로 연결해 주세요.