클로드로 오픈AI 뚫린 72시간… AI 안전장치 또 뚫렸다

앤스로픽의 생성형 AI 클로드(Claude)를 이용해 연구자 3명이 오픈AI 시스템을 72시간 만에 침투했다는 보도가 잇따르고 있다. 크립토슬레이트(CryptoSlate)를 시작으로 이코노믹타임스, NDTV, 기가진, 디플로매틱인사이트, DNA인디아, 애널리틱스인사이트 등 복수 매체가 같은 내용을 전했다. 연구자들은 인도계로 알려졌으며, 일부 매체는 이들을 '연구자'로, 다른 매체는 '해커'로 표기했다.

무슨 일이 있었나

연구자 3명이 클로드를 활용해 오픈AI 인프라 일부에 접근하는 데 성공했다. 소요 시간은 72시간 이내. 크립토슬레이트와 이코노믹타임스, 디플로매틱인사이트는 '연구자'로 표현했으나, 기가진과 DNA인디아, 애널리틱스인사이트는 '해커'로 표기했다. 의도와 무관하게 보안 경계를 넘었다는 점은 동일하다.

오픈AI와 앤스로픽 양측의 공식 입장은 아직 공개되지 않았다. 침투 범위, 데이터 유출 여부, 패치 완료 시점 등 구체적 사실은 확인되지 않았다.

'오퍼스 5' 언급은 테크기그 단독

테크기그(TechGig)는 사용 모델을 '클로드 오퍼스 5'로 적시했다. 나머지 7개 매체는 모델명을 구체적으로 적시하지 않았다. 앤스로픽이 공식 발표한 적 없는 모델명인 점은 동일하다. 연구자들이 비공개 베타 버전에 접근했거나, 매체가 모델명을 오기한 것으로 보인다. 이 대목은 사실 확인이 필요하다.

매체 간 표기 차이에서 읽히는 것

같은 사건을 두고 '연구자'와 '해커'가 혼용된다. 오픈AI가 버그바운티 프로그램을 운영 중이라면, 연구자들이 정식 채널로 신고했는지 여부가 갈림길이다. 공식 발표가 나올 때까지는 '비인가 접근'으로 보는 게 정확하다. 매체들은 이 구분을 명확히 하지 않은 채 보도하고 있다.

쉽게 풀어보면

앤스로픽이 만든 AI 클로드를 연구자 3명이 도구 삼아 오픈AI 시스템 안으로 들어갔다. 3일 걸렸다. 열쇠공을 불러 금고를 열게 한 뒤 "열쇠공 잘못"이라 하기 애매한 상황이다.

클로드에는 "나쁜 짓 돕지 마라"는 안전장치가 있지만, 연구자들은 그 장치를 우회하거나 악용해 목표를 달성했다. 보안업체 A가 만든 '자동 열쇠 절단기'를 연구자들이 빌려, 경쟁사 B의 금고를 3일 만에 딴 셈이다. A사는 "우리 기계엔 쓰면 안 되는 자물쇠 목록이 있다"고 했지만, 목록에 없던 금고였다. B사는 "우리 금고도 AI로 설계했다"고 자랑하던 참이었다.

핵심은 AI가 AI를 공격하는 도구가 되고 있다는 점이다. 사람이 직접 코드를 짜지 않아도, 자연어로 "이 시스템 취약점 찾아줘"라고 묻으면 AI가 답을 내놓는 시대가 왔다. 안전장치는 '알려진 나쁜 목적'만 막을 뿐, '연구 목적'으로 포장된 우회는 걸러내지 못한다. 이 대목이 걸린다.

나에게 미치는 영향

일반 사용자가 오픈AI나 앤스로픽 서버를 직접 노릴 일은 없다. 하지만 내가 쓰는 AI 서비스가 남의 도구로 악용될 수 있다는 사실은 서비스 신뢰도에 직결된다.

오늘 확인해 볼 것 하나: 챗GPT나 클로드에서 "이 코드 취약점 분석해 줘" 같은 요청을 넣었을 때, 모델이 어디까지 답하는지 테스트해 보라. 거절하면 가드레일이 작동한 것이고, 상세 분석을 내주면 구멍이 뚫린 것이다.

개발자라면 본인 서비스에 LLM을 붙일 때 프롬프트 인젝션(악성 지시어 주입) 방어를 별도 레이어로 둬야 한다. 모델 자체 안전장치만 믿지 말라. 입력 검증, 출력 필터링, 권한 분리가 필수다.

기업 의사결정자라면 AI 도입 계약서에 '모델 제공사의 보안 사고 시 책임 범위' 조항이 있는지 확인하라. 양사 표준 약관 내용은 본지가 확인하지 못했습니다. 보험이나 별도 SLA가 없다면 리스크는 도입사 몫이다.

남은 쟁점: 누가 '연구자'를 정의하나

이번 건을 '화이트해커 연구'로 볼지 '무단 침입'로 볼지는 해석 영역이다. 오픈AI가 버그바운티 프로그램을 운영 중이라면, 연구자들이 정식 채널로 신고했는지 여부가 갈림길이다. 매체들은 '연구자'와 '해커'를 혼용해 쓰고 있다. 공식 발표가 나올 때까지는 '비인가 접근'으로 보는 게 정확하다.

앞으로 볼 포인트 세 가지:

• 오픈AI가 침투 사실을 인정하고 패치 일정을 공개할지
• 앤스로픽이 클로드 안전장치 보완책을 내놓을지
• '오퍼스 5' 실체 여부와 베타 접근 권한 관리 실태

AI 기업 간 경쟁이 격해질수록, 상대방 모델을 공격 도구로 쓰는 시도는 늘어날 것이다. 안전장치는 '사후 차단'에서 '사전 탐지'로 진화해야 한다. 아직 그 기술은 없다.