법조·거버넌스 실무자 대상 AI 안전 부트캠프, 현장 반응은 '신뢰 격차'로 갈렸다

해커뉴스에서 논쟁이 된 부트캠프 후기

레스Wrong(lesswrong)에 올라온 회고록 한 편이 해커뉴스에서 21점, 댓글 12개를 끌며 논쟁을 불렀다. 제목은 "법·거버넌스 실무자를 위한 AI 안전 부트캠프를 공동 운영하며 배운 것". 원문 본문은 현재 열람되지 않으나, 해커뉴스 댓글에 인용된 구절로 내용을 일부 복원할 수 있다.

댓글 작성자 중 한 명은 이렇게 적었다.

"참가자들은 자기 팀에 교육 내용을 전파하려 했고, AI 안전 펠로우십 지원을 검토했으며, 지역 커뮤니티를 만들어 새로운 안전 연구를 따라잡고 법률 실무에 어떻게 적용할지 논의했다. AI 안전과 법의 실질적 접점도 다뤘다."

이 문장이 사실이라면, 부트캠프는 단순 강연을 넘어 실무 적용·커뮤니티 형성·펠로우십 연계까지 설계됐음을 보여준다. 주최 측이 법률가·정책가에게 'AI 안전'을 단순한 이론이 아닌 업무 도구로 심으려 했단 뜻이다.

커뮤니티가 드러낸 두 가지 시선

해커뉴스 댓글은 이 시도를 두고 극명하게 갈렸다.

첫째, 실무적 가치를 본 시선.
"논증의 객체 수준에 집중하라"는 댓글은, 발표자 이력이나 커뮤니티 성격이 아니라 '수학·과학·공학으로서의 ML 연구가 가속화될 때 위험이 온다'는 핵심 논리를 봐야 한다고 말한다. 백신 논쟁 때 인신공격으로 본질을 흐린 사례를 비유로 들었다.

둘째, 교파적 운동으로 본 시선.
"SF 작가 주변에 생긴 또 다른 컬트, 사이언톨로지 같다"는 혹평도 나왔다. "로봇이 초지능이 돼 우리를 속이고 죽일 거란 아이디어 외에 독창성이 없다"는 것이다. 또 다른 댓글은 "DEI 전문가가 '거북이 섬'을 실제 섬으로 착각했듯, AI 안전 전문가도 비슷한 오류를 범한다"고 꼬집었다.

이 대립은 **'AI 안전을 과학적 리스크 관리로 보느냐, 이념적 운동으로 보느냐'**의 차이에서 온다. 법조·거버넌스 실무자가 이 교육을 받았을 때, 어느 쪽 렌즈를 끼고 돌아가느냐가 현장 적용을 가른다.

검증 없는 교육 확산, 어느 사회든 같은 문제

한국에서 AI 기본법 제정·시행 일정, 구체적 조항, 변협·로스쿨 커리큘럼 현황, 정부 가이드라인 배포 여부 등은 본지가 확인하지 못했다. 다만 이번 부트캠프 사례가 보여주는 구조적 문제는 제도권 진입을 앞둔 어느 사회에도 공통된다.

해커뉴스 댓글처럼, AI 안전 커뮤니티 내부에도 '자격 검증' 논란이 있다. 교육 수요가 급한데 공급자 검증이 느리면, 현장엔 '검증 안 된 처방전'만 넘쳐날 수 있다. 부트캠프 후기 원문을 못 본 상태에서 쓰는 글이라, 교육 커리큘럼·강사진·참가자 선발 기준 등 세부는 확인 못 했다. 그게 오히려 문제다.

쉽게 풀어보면

해커뉴스에서 논쟁이 된 글은 '법조·거버넌스 실무자를 위한 AI 안전 부트캠프를 공동 운영한 뒤 배운 점'을 공유한 회고록이다. 원문은 지금 볼 수 없지만, 댓글 인용으로 일부 내용이 확인된다.

비유하자면 이렇다. 새 건축 자재(=AI 모델)가 나와서 화재 위험이 있을 수 있다. 건축사·소방관·감리사(=법조·거버넌스 실무자)에게 "이 자재 쓸 때 주의할 점"을 가르치려 전문가 집단(=AI 안전 연구자)이 워크숍을 열었다. 그런데 현장 반응이 "이 사람들 말이 맞나? 자기들끼리만 통하는 교리 아냐?"로 갈린 셈이다.

'고위험 AI'(사람 생명·권리에 큰 영향을 주는 AI 시스템) 판단 기준이나 '영향평가'(AI 시스템이 미칠 부정적 영향을 미리 분석하는 절차) 같은 개념은 이 워크숍에서도 다뤄진 것으로 보인다. **NIST AI RMF(미국 표준기술연구소의 AI 위험관리 프레임워크)**나 ISO 42001(AI 경영시스템 국제표준) 같은 프레임워크가 실무 기준으로 거론된다.

한국을 포함해 AI 관련 법제를 정비 중인 나라라면, **'누가 무엇을 가르칠 자격이 있는가'**를 먼저 정리하지 않고 교육만 늘리면 같은 신뢰 격차를 겪을 가능성이 커 보인다.

나에게 미치는 영향

법무팀·컴플라이언스 담당자라면

• 외부 연수·자문 의뢰 시, 강사 이력만 보지 말고 **'어떤 안전 프레임워크(NIST AI RMF, ISO 42001 등)를 기준으로 가르치는지'**를 먼저 물으세요.
• 사내에서 AI 도입 논의가 오가면, '고위험 AI' 해당 여부를 판단할 내부 기준표를 지금부터 초안이라도 만들어 두세요. 법 시행 후 급하게 대응하면 비용이 커집니다.

스타트업·중소기업 법무 담당자라면

• 대형 로펌 자문비 부담이 크다면, **공개된 국제 표준 문서(NIST AI RMF 한국어 번역본, ISO 42001 요약본)**부터 챙겨보세요. 무료로 구할 수 있고 실무 체크리스트가 들어 있습니다.
• 해커뉴스 댓글처럼 "펠로우십·커뮤니티" 형태로 정보 공유하는 모임을 찾아 가입해 보세요. 검증된 실무자 네트워크가 가장 저렴한 안전망입니다.

일반 직장인이라면

• 내 회사 서비스가 인사·평가·대출 등 민감 영역에 AI를 쓰는지 한 번 확인해 보세요. 해당되면 내부 거버넌스 절차 마련 시점에 본인 업무도 바뀝니다.

남은 쟁점: 누가 '전문가' 자격을 검증할 것인가

주최 측이 "AI 안전 전문가"라고 내세우는 사람의 논문 실적·산업 현장 경험·이해관계 공개 여부를 수강생이 검증할 수단이 지금 없다. 법정에서 '전문가 증인' 자격을 따지는 기준조차 없는데, 행정·기업 자문 시장은 더 투명하지 않다.

정책 데스크로서 한 가지 묻고 싶다. AI 거버넌스 법령 마련 과정에서, 'AI 안전 전문가 자격 기준'을 명시할 계획이 있는가. 없다면, 법은 있는데 현장엔 '검증 안 된 처방전'만 넘쳐날 수 있다.

본지가 앞서 다룬 AI 도구 활용 기사에서도, **'도구에 판단을 맡길 때 주체성이 사라진다'**는 지적을 했다. AI 안전 교육 역시, '누가 가르치는가'를 따지지 않고 듣기만 하면 법조·거버넌스 실무자의 판단 주체성이 흔들린다.

교육 수요는 급한데, 공급자 검증은 느리다. 그 틈을 누가 메울지, 다음 번 취재 때 다시 묻겠다.