펜타곤 "AI 과신 탓 이란 학교 오폭"… 책임 소재는 여전히 안갯속

펜타곤이 인정한 '알고리즘 과신'

미 국방부가 이란 내 학교 시설에 대한 미사일 오폭 원인으로 AI 시스템 과신을 공식 지목했다. 블룸버그 보도에 따르면 타격 결정 과정에서 자동화된 표적 식별·우선순위 알고리즘에 지나치게 의존했고, 인간 검증 단계가 사실상 작동하지 않았다.

사건 발생 시점과 구체적 피해 규모는 아직 공개되지 않았다. 국방부 발표문에도 해당 학교가 군사 목적으로 쓰였는지, 민간인 사상자가 몇 명인지는 적시되지 않았다. 확인된 사실은 **'AI 판단을 인간이 그대로 따랐다'**는 한 문장뿐이다.

해커뉴스 194개 댓글이 가리키는 본질

기술 매체 해커뉴스 댓글 194개 중 다수는 **"AI를 면피 수단으로 쓴다"**는 의심으로 모인다. 한 댓글은 "AI가 실수한 게 아니라 인간이 결정하고 AI 탓을 한다"고 적었다. 아프간 철군 당시에도 책임자 문책이 없었다는 지적도 30개 이상 달렸다.

반론도 있다. "명백한 임박 위협이라면 AI 개입 여부와 무관하게 타격이 정당화된다"는 의견이다. 다만 댓글 작성자 본인도 "임박 위협이 있었는지 의문"이라며 전제를 달았다. 책임 소재를 AI로 돌려버리면 인간의 판단 실패를 조사할 동기가 사라진다는 우려가 지배적이다.

한국 군도 'AI 표적 식별' 도입 중… 검증 장치는?

한국 합참은 2024년 '국방 AI 마스터플랜'에서 표적 자동 식별·추적 체계 전력화를 명시했다. 2027년까지 시범 운용, 2030년 실전 배치가 목표다. 미군 사례와 달리 한국은 '인간 최종 승인' 단계를 의무화했다고 국방부는 설명한다.

문제는 그 승인이 형식에 그칠 위험이다. 본지가 24일 전 다룬 오픈소스 거장들이 AI 기여를 거절하는 진짜 이유에서 지적했듯, 자동화 결과물을 사람이 일일이 검토하는 비용은 폭증한다. 군사 현장에서 초단위 판단을 요구받는 장교가 알고리즘 출력을 뒤집을 현실적 여력은 불투명하다.

국제법상 '알고리즘 책임'은 존재하지 않는다

국제인도법(제네바 협약 추가 의정서)은 '공격 결정' 주체를 인간으로 한정한다. 알고리즘이 표적을 골랐더라도 발사 명령은 지휘관이 내린다. 미 국방부 발표는 이 원칙을 우회하려는 시도로 읽힐 수 있다.

국제형사재판소(ICC)도 2023년 정책 문서에서 "자율 무기 체계 사용 시 지휘관 책임 면제 불가"를 못 박았다. 미국은 ICC 비회원국이지만, 한국은 회원국이다. 한국 군이 유사 시스템을 운용하다 오폭 발생 시 국내법·국제법 양쪽에서 지휘관 처벌 가능성이 열려 있다.

쉽게 풀어보면

미국 국방부가 "AI가 골라준 표적을 사람이 제대로 확인 안 하고 쐈다"며 실수를 인정했습니다. 뷔페에서 접시 크기만 보고 음식을 담다가 알레르기 음식을 먹은 격입니다. 접시(알고리즘)가 작다고 요리사(AI) 탓만 하면, 다음에도 같은 실수를 반복합니다.

이란 학교가 군사 시설이었는지, 아이들이 있었는지는 아직 모릅니다. 확실한 건 '기계가 시켜서 했다'는 변명이 국제법정에서 통하지 않는다는 점입니다. 한국 군도 2027년부터 비슷한 AI 표적 시스템을 쓰기로 했습니다. 그때 '승인 버튼'을 누르는 장교가 정말 내용을 들여다볼 수 있을지, 지금부터 묻지 않으면 늦습니다.

나에게 미치는 영향

예비역·현역 장병: 부대에서 AI 표적 보조 장비 도입 교육이 시작되면 "거부권 행사 매뉴얼"이 있는지 물으세요. 없다면 건의하세요.
방산 업계 종사자: 납품 계약서에 '알고리즘 오류 면책 조항'이 있는지 확인하세요. 국제법상 효력이 없을 수 있습니다.
일반 국민: 국회 국방위 회의록에서 'AI 무기 체계 인간 통제권' 키워드로 검색해 보세요. 관련 질의가 전무하면 의원실에 의견을 보내세요.

남은 쟁점: 공개되지 않은 것들

오폭 당시 AI 시스템명·개발사·버전
인간 검증 단계가 매뉴얼상 몇 분 배정됐는지
동일 알고리즘이 타 전구에서도 운용 중인지
한국 군 도입 예정 체계와 기술적 유사성 여부

국방부 발표는 **"앞으로 조심하겠다"**로 끝난다. 재발 방지책이 없는 인정은 면피에 가깝다. 한국은 미국 사례를 '남의 일'로 넘길 수 없다. 알고리즘이 총구를 겨눌 때, 손가락은 여전히 사람이다.