AI 슈퍼바이러스 공포, 현장 전문가는 "수십 년 뒤 일"

경제학자의 경고, 현장 엔지니어의 반박

노아 스미스(경제학자·칼럼니스트)가 유료 뉴스레터에 올린 글이 논란이다. 2029년 10대가 AI에게 치명적 바이러스 설계를 요청해 인류 90%를 죽인다는 시나리오. 스미스는 "이게 왜 허황됐는지 설득력 있는 반론을 못 봤다"고 썼다.

블로그 'Genes, Minds, Machines' 작성자가 즉각 반박했다. 그는 실제로 계산적으로 바이러스를 설계해 본 연구자다. 단백질·펩타이드 설계 AI 시스템을 개발·평가하는 게 본업. 스미스와 달리 현장 데이터가 있다.

작성자가 밝힌 현장 사정은 이렇다. 2026년 최신 AI 도구를 쓰는 박사과정 학생들도 단순 펩타이드 바인더 하나 설계하는 데 수개월에서 수년을 쓴다. 대부분 발현이 안 되거나 독성을 띤다. 효소 저해나 단백질 풀다운 같은 비교적 단순한 표적에서도 그렇다.

스미스 시나리오의 10대는 이보다 수천 배 복잡한 전체 바이러스를 무훈련 상태로 설계한다. 작성자는 "우리가 오늘 어디에 있는지, 그 시나리오가 어디에 있는지 거리가 엄청나다"고 단언한다.

이 대목이 걸린다. 발표문 어디에도 '수천 배'라는 배수의 산출 근거가 없다. 작성자의 직관적 비교일 뿐 검증된 수치가 아니다.

설계에 성공해도 끝이 아니다. 작동하는 바이러스를 실제로 조립·무기화·배포하는 건 별개의 거대 과제다. 작성자는 아비 올베라의 글을 인용하며 "작동하는 바이러스를 테무에서 주문하듯 만들 수 없다"고 적었다.

해커뉴스 댓글에도 "도쿄 지하철 사린 사건처럼 소규모 생물 테러는 이미 AI 없이 가능했다"는 지적이 있었다. 작성자도 수백~수천 명 희생 규모는 가능하지만, 문명 종말급은 아니다라고 선을 긋는다.

바이러스 특성 자체로도 반박한다. 치명적인 바이러스 세 가지:

"공기 전파되게 하면 되지 않나"란 반론엔 치명률-전파력 상충 관계를 든다. 쉽게 퍼지려면 다량의 바이러스 입자를 배출해야 하는데, 이는 숙주를 빨리 무력화시켜 전파 기회를 줄인다. 이 균형은 자연선택이 수억 년 조정한 결과다.

해커뉴스 한 댓글: "AI가 기초 실험 없이 스스로 풀리라 믿는 건 과학이 아니라 종교." 작성자도 광범위한 기초 과학 실험 없이 설계를 완성한다는 전제 자체가 비현실적이라고 본다.

슈퍼지능이 자기 개선을 반복하면 지수함수적으로 성장한다는 주장(d/dt f(t) ≥ C·f(t))도 댓글에 등장했지만, 작성자는 물리 세계 제약이 수식에 반영되지 않았다고 지적한다.

발표문에서 빠진 건 이쪽이다. AI 모델 성능 지표와 습식 실험(wet lab) 성공률 사이의 상관관계. 둘을 잇는 데이터가 없으면 '지수함수 성장' 논증은 공중에 뜬다.

블로그 작성자는 단백질 설계 AI를 매일 쓰는 전문가다. 노아 스미스가 그린 '10대가 AI로 슈퍼바이러스 만들어 인류 90% 몰살' 시나리오는 현실과 거리가 멉니다.

뷔페에 비유하면 이렇습니다. 지금 AI는 '김치찌개 레시피' 정도를 겨우 제안하는 수준. 스미스 시나리오는 '미슐랭 3스타 정찬 코스를 즉석에서 만들어 내놓으라'는 주문과 비슷합니다. 재료 손질(합성), 조리(조립), 서빙(배포) 모두 별도 주방과 인력이 필요합니다.

박사과정 학생들도 최신 AI로 단순 펩타이드 하나 제대로 만들려면 수개월 걸리고 실패가 태반입니다. 전체 바이러스 설계는 그 난이도의 수천 배. 설령 설계도가 나와도, 실제 바이러스를 배양·정제·무기화·배포하는 건 별개의 거대한 공정입니다.

바이러스 자체 특성도 걸림돌. 치명적인 바이러스(에볼라, 광견병)는 전파가 어렵고, 잘 퍼지는 바이러스(독감, 코로나)는 치명률이 낮습니다. 이 상충 관계는 자연이 수억 년 조정한 결과라, AI가 단숨에 깨기 어렵습니다.

작성자는 "수백 명 규모 테러는 이미 가능했지만, 문명 종말급은 수십 년 뒤 걱정"이라고 선을 긋습니다. AI가 기초 실험 없이 '생각만으로' 설계를 완성하리란 기대는 과학이 아니라 종교에 가깝다고 봅니다.

당장 바뀔 건 없습니다. 챗GPT나 클로드에서 "바이러스 설계해 줘"라고 물어도 거절당할 뿐. 이미 안전장치가 작동 중입니다.

다만 소규모 생물 테러 위험은 AI 이전부터 존재했습니다. 1995년 도쿄 지하철 사린 사건이 대표적. AI가 이 위험을 키울 수 있다는 우려(해커뉴스 댓글 참고)는 타당하므로, 기존 보안 층 강화로 대응하는 게 합리적입니다.

오늘 확인해 볼 수 있는 것 세 가지:

이게 지금껏 가장 효과적인 방어였습니다.

양측이 동의하는 지점: AI가 생물 설계 난이도를 낮추고 있다는 사실. 학생들 도구로 쓰기 시작한 게 2026년 기준입니다.

갈리는 지점: 그 낮아짐이 '10대 무훈련자 단독 슈퍼바이러스'까지 도달하는 속도입니다. 작성자는 '수십 년', 스미스는 '머지않아'로 봅니다. 이 간격은 기초 실험 인프라·데이터·검증 비용이 AI만으로 해결되는지 여부에 달렸습니다.

관전 포인트 두 가지:

AI 모델 규제보다 이쪽이 실질적 차단막에 가깝습니다.