미 군이 AI 허위 보고로 중국 함선 공격 직전까지 갔다

미군, AI가 만든 가짜 첩보로 중국 함선 공격 직전까지

이번 봄, 이란과의 전쟁 와중에 미군 전역으로 퍼진 정보 보고 하나. 중국 선박이 중동에서 핵무기 부품을 실어 나르고 있다는 내용이었다. 보고를 본 지휘부는 즉각 행동에 나섰다. 무장 병력이 선박 진입을 준비했고, 군용기까지 출격 대기했다. 작전 실행 직전, 누군가 보고서 출처를 파고들었다. 작성자는 특수작전사령부 태평양 소속 분석관. 그가 챗봇에 물어보고, 다시 챗봇으로 포장해 올린 보고서였다. 결론부터 말하면 완전한 허위였다. CNN이 인용한 소식통 표현대로 "전쟁을 일으킬 뻔했다."

공식 양식을 입은 환각, 검증 망을 뚫었다

문제의 분석관은 AI를 두 번 썼다. 먼저 선박 적재 명세 관련 첩보를 챗봇에 넣고 분석하게 했다. 공개 정보와 기밀 신호 정보를 섞어 핵물질 수송이라는 결론을 냈다. 그 뒤 다시 AI로 표준 정보 보고서 양식에 맞춰 다듬었다. 이 '포장'이 치명적이었다. 미군과 정보기관이 신뢰하는 공식 문서 모양새를 갖춘 순간, 아무도 내용을 의심하지 않고 지휘 라인으로 올라갔다. 전직 고위 관리는 내부 AI 도구들에 대해 **"상용 모델에 립스틱만 바른 복제품"**이라고 평했다. 검증 기준도, 통합 표준도 없다. 각 부대가 각자 다른 도구를 각자 다른 기준으로 쓴다.

국방부는 'AI 가속'을 외치지만, 현장은 통제 불능

지난 1월 피트 헤그세스 국방장관은 '인공지능 가속 전략'을 발표했다. 300만 전 인력에게 AI를 쥐여주겠다는 구상이다. 관료 장벽을 걷고 투자를 집중해 중국과의 AI 경쟁에서 이기겠다는 논리다. 하지만 현장은 분산돼 있다. 검증 매뉴얼 하나 없다. 이번 사건은 '속도'만 앞세운 채 '확인'을 미룬 결과로 읽힌다. 본지가 20일 전 다룬 오픈소스 거장들이 AI 기여를 거절하는 진짜 이유에서도 핵심은 '검토 비용 폭증'이었다. 군사 현장이라고 다를 리 없다. 사람이 검증할 시간보다 AI가 찍어내는 속도가 빠르다.

해커뉴스 반응: "결정론적 알고리즘인데 왜 예측 못 하나"

기술 커뮤니티 반응은 냉소적이다. 한 댓글은 **"영온도에서 비결정성이 나온다면 그건 LLM 신비주의가 아니라 부동소수점 병렬 처리 탓"**이라고 짚었다. 또 다른 이는 **"진화한 가중치가 왜 그런 판단을 내리는지 아무도 모른다"**고 지적했다. '창발 능력'만 좇다 기본 메커니즘 검증을 포기했다는 비판이다. 이 지점은 본지가 11일 전 다룬 AI에게 글쓰기를 맡기면 내 생각이 사라질까 논쟁과 맞닿는다. 도구에 판단을 위임하는 순간, 책임 소재가 증발한다.

쉽게 풀어보면

미군 특수부대 분석관이 챗봇에 "이 배 뭐 실었나?"라고 물었다. 챗봇이 공개 정보와 기밀 정보를 섞어 "핵무기 부품"이라고 답했다. 분석관은 그걸 공식 보고서 양식으로 포장해 상부에 올렸다. 지휘부는 "공식 보고서니까 진짜다" 믿고 공격 준비했다. 실행 직전 누군가가 "이거 AI가 쓴 거 아냐?"라고 묻고 나서야 거짓임이 밝혀졌다. 핵심은 AI가 틀린 게 아니라, 틀린 답이 '공문서'로 둔갑해 검증 없이 올라간 시스템이다. 미 국방부는 전 병사에게 AI를 나눠주겠다는데, 누가 그 답을 검증할지는 정하지 않았다.

나에게 미치는 영향

챗GPT나 클로드로 중요한 자료 요약할 때, 출력물 모양이 그럴듯하다고 내용까지 믿을 일은 아니다. 오늘 바로 해볼 수 있는 것: AI 답변을 쓸 땐 근거 링크나 출처를 반드시 요구하고, 사람이 한 번 더 읽는다. 직장에서 AI 요약본을 보고서로 올릴 때도 "AI 작성" 표시를 붙이고, 팩트체크 담당자를 따로 두자. 군대 같은 조직이 뚫린 구멍, 내 업무에도 같은 구멍이 있을 수 있다.

남은 쟁점: 누가 책임지나

이번 사건에서 미 특수작전사령부 태평양과 국방부는 논평을 거부했다. 분석관 개인의 부주의로 덮을지, 시스템 결함으로 인정할지가 다음 관건이다. AI 가속 전략이 '실험 장려'에서 '배치 강제'로 넘어가는 시점, 이 사건이 제동이 될지 단순 해프닝으로 묻힐지 지켜봐야 한다. 본지가 24일 전 전한 대학생 6851명 블라인드 테스트에서도 AI 글쓰기 1위는 제미나이였지만, '기획·피드백'은 용도별 강자가 갈렸다. 판단은 여전히 사람이 한다. 군대가 그 경계를 넘으려 할 때, 전쟁 위기가 온다.