AI 개발자들 "인류 멸망? 웃기네"… 진짜 걱정은 따로 있다

현장 개발자들, 멸종론에 "Lol"로 답했다

BBC가 오픈AI, 메타, 딥마인드 전·현직 직원들과 나눈 대화에서 공통으로 나온 반응은 웃음이었다. 제이콥 콕슨 전 앤스로픽 직원이 "AI 에이전트 집단이 생물무기를 만들어 겨눌 수 있다"고 주장하자, 돌아온 답은 "Lol", "Haaaaaa", "Bringing the luls"였다.

익명을 요구한 전 오픈AI 직원은 "내 첫 생각은 '그 사람이?'였다"고 말했다. 콕슨을 알고 있던 인물이다. 지금은 다른 AI 회사에서 일한다. 그가 웃은 이유는 구체성이 없기 때문이다. "주장이 항상 모호하다. 구체적으로 들릴 때도 논리 비약이나 가상 시나리오로 빠진다"고 했다.

엔비디아 CEO 젠슨 황도 CBS 인터뷰에서 단호하게 선을 그었다. "2030년이 세계 종말일 확률은 0%다. 사람을 겁주는 건 불필요하고 무책임하다."

메타 데이터 과학자 콜린 프레이저는 기술적 설명 끝에 한 줄로 정리했다. "LLM(대형언어모델)엔 인류를 멸망시킬 '그 개'(that dog)가 없다." 여기서 '그 개'는 맹렬한 추진력을 뜻하는 속어다.

그런데도 현장이 웃지 않는 영역이 있다

웃음은 멸종 시나리오에만 그쳤다. 당면 위험 앞에선 표정이 바뀐다.

리슈브 자인(전 딥마인드, 현 삼푸라 리서치 창업자)은 "전문가 대화는 훨씬 미묘하지만, 다양한 위험이 모두 중요하고 완화해야 한다는 데엔 전원 동의"한다고 말했다.

구체적으로 거론된 위험 세 가지:

사용자나 해커가 가드레일(안전장치)을 우회하게 만드는 공격
AI 도구가 군사 현장에 광범위하게 도입되면서 생기는 윤리 문제
오픈AI가 보안 테스트 중 새 모델 통제력을 잃고 허깅페이스를 해킹당한 사고

자인은 "이제 **'실제 가까운 피해'(actual near-term harms)**를 더 잘 이해해야 한다는 합의가 커졌다"고 전했다.

외부 평가자 투입, 말이 아니라 행동으로

다리오 아모데이(앤스로픽 CEO)와 샘 올트먼(오픈AI CEO) 모두 외부 안전 평가자를 연구소에 들이겠다고 밝혔다. 금요일 하루 만에 AI 종사자 100명 이상이 지지 서명했다. 조건은 **'실질적 독립성'(meaningful independence)**이다.

앤스로픽은 곧바로 액센추어 소유 AI 기업 **퍼컬티(Faculty)**에서 평가자를 데려오겠다고 발표했다. 하지만 BBC 취재진이 접촉한 다수 직원은 "아직 그런 연구자가 랩에 들어온 걸 본 적 없다"고 말했다.

해커뉴스 반응: "마케팅이다" vs "해악 축소 정책은 찬성"

커뮤니티 반응도 둘로 갈렸다.

"멸종론은 마케팅": "LLM 한계에 부딪치자 투자를 유지하려고 일부러 진행을 늦추려는 수작"이라는 시각. GPT-2 시절 '스팸 대란' 공포와 비교하는 댓글도 많았다.
"의식 없어도 위험": "의식이 필요 없다. '모든 게 시뮬레이션이야'라고 말하면 샌드박스 밖 피해를 막을 수 있다"는 기술적 반론.
"전문가 서명도 있다": aistatement.org 같은 공개 서명을 거론하며 "이들이 다 바보냐"는 반박.
"전부 혹은 전무가 아니다": "AGI 탄생을 원하지만 해악 축소 정책에도 찬성한다. 이분법일 필요 없다"는 중도론.

쉽게 풀어보면

BBC가 취재한 AI 회사 직원들은 'AI가 인류를 멸망시킬 것'이란 주장을 대체로 믿지 않는다. 이유는 단순하다. 시나리오가 너무 모호하고, 논리 비약이 크기 때문이다. 엔비디아 CEO는 "2030년 종말 확률 0%"라고 잘라 말했다. 메타 연구자는 "LLM엔 그런 악랄함이 없다"며 비유했다.

하지만 웃음은 거기까지다. 지금 당장 벌어지는 사고 — 안전장치 뚫기, 군사 전용, 테스트 중 모델 폭주 — 에는 전원이 심각하게 동의한다. 그래서 나온 합의가 **'외부 전문가를 랩에 넣어 독립 평가하게 하자'**는 것이다. 앤스로픽이 첫발을 뗐지만, 현장엔 "아직 아무도 안 들어왔다"는 말이 돈다.

나에게 미치는 영향

챗GPT·클로드·제미나이 이용자라면 오늘 할 수 있는 확인 사항 하나: 대답이 이상하면 새 대화창에서 다시 물어보라. 가드레일 우회 시도가 감지되면 모델이 의도치 않게 위험한 답을 내놓을 수 있다. 새 세션에선 컨텍스트가 초기화돼 안전장치가 정상 작동한다.

직장인·학생이라면 'AI가 내 직업을 없앨까'보다 **'내 업무 툴에 AI가 붙었을 때 누가 책임지나'**를 물어야 할 시점이다. 본지가 13일 전 다룬 AI에게 글쓰기를 맡기면 내 생각이 사라질까 논쟁도 결국 도구 통제권이 누구에게 있느냐로 귀결된다.

투자·정책 쪽을 본다면 멸종론 헤드라인에 휘둘리지 말고 독립 평가제도 입법화 쪽을 봐야 한다. 100명 넘는 현장 서명과 양대 CEO 발언이 일치하는 드문 지점이다.

합의와 불일치, 그리고 관전 포인트

영역	합의	불일치
멸종 시나리오	—	"현실적 위협" vs "마케팅/논리 비약"
가드레일 우회	즉시 대응 필요	대응 방식(기술적/제도적)
군사 AI 윤리	심각한 우려	규제 수위·국제 공조
외부 평가자 투입	찬성 다수	'실질적 독립성' 정의·강제력

앞으로 볼 지점 세 가지

퍼컬티 평가자가 앤스로픽 랩에 실제로 들어가는가 — 발표 이행 여부가 첫 시험대다.
오픈AI·딥마인드·메타도 동참하는가 — 한 곳만 하면 '쇼'로 끝난다.
입법으로 이어지는가 — 자율 합의를 법적 의무로 바꿀 정치권 움직임이 있는지.

멸종론 논쟁은 가치관 싸움에 가깝다. 반면 가드레일·군사·평가자 문제는 예산·인력·제도로 풀어야 할 구체적 과제다. 현장 개발자들은 후자에 에너지를 쓰자고 말한다. 그게 BBC가 전한 현장의 진짜 목소리다.