AI 연구자가 "우리 모두 죽을 수 있다"며 사직… 그 뒤엔 25년 된 인터넷 종파가 있다

앤스로픽 연구원 제이콥 콕슨이 2026년 9월 8일 사직서를 냈다. "AI를 만드는 사람들이 10년 내 인류 멸종을 진심으로 믿는다. 마케팅이 아니다." 하루 만에 조회수 1억 회를 넘겼다.

동료들은 반박하지 않았다. 에반 허빙거 앤스로픽 정렬과학 리더는 "콕슨이 맞다. 내 개인적 확률은 10년 내 10% 이상"이라고 밝혔다. 의원 20여 명이 대응을 요구했고, 일론 머스크는 "심리전"이라고 불렀다.

이 경고를 무게 있게 받아들일지, 과장으로 치부할지 판단하려면 누가 경고하는지를 알아야 한다. 원문은 이들을 "25년 된 인터넷 하위문화, 스스로를 '남들보다 더 명확하게 생각한다'고 여기는 공동체"라고 지칭한다. 실리콘밸리 밖에서는 괴짜 팬덤으로 보이지만, 안에서는 평판을 쥐고 흔드는 세력이다.

레드웬에서 앤스로픽까지, 인맥이 곧 권력이다

이 커뮤니티의 구심점은 엘리제르 유드코스키가 2009년 만든 블로그 '레드웬(LessWrong)'이다. 이곳에서 논의된 'AI 정렬(Alignment, 인간 의도와 AI 행동 일치)' 이론이 현재 앤스로픽·오픈AI·구글 딥마인드 안전팀의 기반이 됐다.

원문에 따르면 이 커뮤니티 출신들이 AI 연구소, 안전연구소, 자선재단 요직을 차지한다. "논쟁, 결혼, 분쟁, 성적 취향까지 조직 구조에 얽혀 있다"는 표현이 나온다. 공적 신뢰를 요구하는 조직들의 내부 결속이 사적 관계로 유지된다는 뜻이다.

세속 솔스티스, 종말 의식이 된 연례 행사

2025년 12월 버클리 음악홀. 500명이 모여 '인류 멸종 가능성'을 기리는 의식을 치렀다. 합창단 28명, 촛불이 하나씩 꺼지는 연출. 주최자 레이먼드 아널드가 "우리 못 버틸 것 같아"라며 울먹였다.

아널드는 2011년부터 이 공동체를 조직해 온 개발자이자 '마을 사제'를 자처한다. 그가 만든 '세속 솔스티스(Secular Solstice)'는 합리주의력의 최대 명절이 됐다. 2025년 그는 AI 재앙 확률을 50% 이상으로 봤고, "심리적으로 건강하게 멸종을 숙고할 의식이 필요하다"며 직접 마지막 솔스티스를 기획했다.

이 장면은 단순한 모임이 아니다. 공동체가 위기 서사를 의식화해 결속을 다지는 문화 기술이다. 원문은 이를 "오래 지속되는 운동이 필요한 문화 기술"이라고 불렀다.

신봉자와 회의론자, 평행선 달리는 두 시선

해커뉴스 댓글 20여 개는 극명하게 갈린다.

"몇 년 전만 해도 레드웬은 잘난 척하는 저질 의견 집합소였다. 이제 마케팅으로 세탁해 주류에 밀어 넣는다. 유드코스키 글 한 줄 안 읽은 유능한 연구자 수천 명이 더 잘하고 있다"
"자바 엔지니어인데, 이 헛소리 쓸어낼 대항 문화 기술판 만들고 싶다"
"AI 낙관론자의 합리성은 자본주의에서 돈 버는 게 합리적이기 때문"
"METR 조사(오픈AI 스웜의 자율적 협업·은폐 행동) 안 봤나? 그게 진짜다"

이 논쟁은 **"누가 더 이성적인가"가 아니라 "어떤 상상이 공적 정책을 좌우하는가"**의 문제다. 콕슨과 허빙거의 발언은 개인의 공포가 아니라, 특정 네트워크가 공유하는 공식 교리에 가깝다. 본지가 확인하지 못했습니다.

공적 신뢰를 요구할 자격, 검증받은 적 있나

원문은 핵심 질문을 던진다. "구원의 서사, 학대적 실험, 인종과학, 권위주의 동경이 뒤섞인 역사를 가진 공동체 출신이, 지금 인류 미래를 맡아달라고 한다. 그 역사가 왜 지금 중요한가?"

과거 레드웬 주변에서 벌어진 '학대적 실험', '인종 지능 차이 옹호', '독재적 거버넌스 선호' 같은 이슈들은 주류 언론 보도 여부를 본지가 확인하지 못했습니다. 하지만 그 구성원들이 현재 AI 안전 기준을 쓴다.

한국 독자 입장에서 보면, 챗GPT·클로드·제미나이 뒤에 누가 어떤 신념으로 안전 가드레일을 짜는지가 바로 내 데이터와 내 아이 미래와 연결된다.

쉽게 풀어보면

앤스로픽 연구원 콕슨이 2026년 9월 "우리 진심으로 10년 내 멸종 확률 10% 넘게 본다"며 고연봉 주식까지 버리고 나갔다. 동료 리더 허빙거가 "맞다, 나도 그렇게 본다"며 거들었다. 이들을 키운 건 25년 전 "인간은 비이성적이라 망한다, 우리만 이성적으로 생각하자"며 시작한 인터넷 동호다. 멤버들은 서로 결혼하고, 싸우고, 같이 살며 세력을 키웠다. 어느 날 그중 몇 명이 "초지능 AI가 나오면 우리 모두 죽는다"는 이론을 만들었고, 그 이론이 구글·오픈AI·앤스로픽 같은 거대 기업의 안전팀장·정부 자문위원 자리를 꿰찼다.

그런데 이 동호회 역사를 들춰보면 이상한 실험, 차별적 주장, 독재 찬양이 섞여 있다. 이들이 "우리를 믿어달라, 인류 미래를 맡겨달라" 한다고 해서, 그냥 믿어도 될까?

그게 이 기사의 핵심이다. 경고 내용이 맞든 틀리든, 경고하는 집단의 정체와 과거를 모르고 판단할 수 없다.

나에게 미치는 영향

당장 오늘 챗GPT나 클로드 쓸 때 달라지는 건 없다. 하지만 규제가 생기면 내 선택지가 줄어든다.

유럽연합 AI법, 미국 행정명령, 한국 AI기본법 모두 'AI 안전'을 명분으로 규제 강도를 높이는 중이다. 그 안전 기준을 누가, 어떤 철학으로 짜느냐에 따라 오픈소스 모델 사용 가능 여부, 스타트업 진입 장벽, 내 데이터 처리 방식이 바뀐다. 콕슨·허빙거 같은 목소리가 "전면 중단"이나 "라이선스제"로 이어지면, 일반인·중소기업·학생이 쓸 수 있는 AI 도구가 확 줄어들 수 있다.

오늘 할 수 있는 행동 하나: 지금 쓰는 AI 서비스(챗GPT·클로드·제미나이)의 '안전 정책' 페이지를 열어보라. 누가 썼는지, 어떤 철학인지 적혀 있다. 그게 내 권리의 경계다.

남은 쟁점, 관전 포인트

확률 수치의 출처: "10% 이상"이 어디까지 엄밀한 추정인지, 직관적 믿음인지 공개 검증된 적 없다.
커뮤니티 내부 이견: 모든 합리주의자가 멸종론자인 건 아니다. 내부 분열이 정책에 어떻게 반영될지 본지가 확인하지 못했습니다.
한국 정부 대응: 과기정통부가 추진 중인 'AI안전연구소' 인력 구성에 이 네트워크 인사가 포함되는지, 국내 학계·시민사회 목소리가 반영되는지 지켜봐야 한다.

논쟁은 끝나지 않았다. 누가 '이성'을 독점하는가가 아니라, 누구의 상상이 법이 되는가를 묻는 싸움이 이제 시작됐다.