오픈AI '할라페뇨' 칩, 엔비디아 블랙웰 넘었다… 단서가 있다

세미애널리시스 보도에 따르면 오픈AI가 독자 개발한 추론 칩 '할라페뇨(Jalapeño)'가 엔비디아 블랙웰을 전력효율에서 앞질렀다. [외신] 이 매체는 오픈AI 연구실에서 인퍼런스X(InferenceX) 벤치마크를 직접 돌리며 수치를 확인했다. 단, 전체 테스트 스위트는 실행하지 못했다. [미공개]

16개월 만에 테이프아웃, 예외적인 속도

설계 착수부터 제조 완료까지 16개월 걸렸다. [외신] 일반적인 첫 세대 ASIC이 경쟁력을 갖추기 어렵다는 통념을 깼다. 브로드컴과 협업해 백지 상태에서 LLM 추론 전용으로 만들었다. [자체 확인] 오픈AI 모델 전용이 아니라 범용 추론 칩임을 강조한다. HBM4 메모리를 쓴 점도 플래그십 GPU급이라는 신호다.

성능 수치, 어디까지 믿나

딥시크 R1 모델에서 동시성 1 기준 초당 700토큰 이상을 기록했다. [외신] GPT-OSS와 키미 K2.5는 초당 1,400토큰까지 나왔다. 멀티 토큰 예측(MTP) 없이 단일 토큰 예측(STP)만으로 이룬 결과다. 경쟁 칩들은 MTP를 켠 최적 설정과 비교했는데도 이겼다. [외신] GSM8k 정확도도 엔비디아 칩과 대등했다.

빠진 검증, 더 중요한 비교

세미애널리시스는 에이전트X(AgentX) 결과를 보지 못했다고 밝혔다. [외신] 실무 워크로드인 긴 컨텍스트·멀티턴 캐시 동작을 검증하는 스위트다. 8k/1k 단일 턴 테스트만으로는 라우터, 프리픽스 캐시, 오프로드 인프라 같은 실전 병목을 잡지 못한다. [외신]

비교 대상도 문제다. 블랙웰이 아닌 루빈(Rubin)과 붙여야 공정하다. [외신] 루빈도 HBM4를 쓰며 현재 고객 출하 중이다. 엔비디아 주장대로면 베라 루빈 NVL72는 GB200 NVL72 대비 전력당 성능 5.4배다. [외신] 할라페뇨는 아직 엔지니어링 샘플 단계다. [미공개]

커뮤니티의 시선, "효율 이득이 사용자에게 갈까"

해커뉴스 댓글에선 세미애널리시스 창업자가 앤스로픽 출신들과 룸메이트였다는 점을 들어 미세한 편향 가능성을 제기했다. [해커뉴스] 더 본질적인 의심은 따로 있다. "토큰 제공자가 만든 전용 가속기인데, 효율 이득을 고객에게 돌려줄까 아니면 자신들이 가져갈까"라는 지적이다. [해커뉴스] 추론 상품화가 오일 산업처럼 소수 독점으로 갈 수 있다는 전망도 나왔다. [해커뉴스]

쉽게 풀어보면

오픈AI가 16개월 만에 자체 추론 칩을 완성했다. 이름은 '할라페뇨'. 엔비디아 최신 칩 블랙웰보다 전력 대비 성능이 더 좋다. 오픈AI 연구실에서 직접 돌려본 결과다. 단, 오픈AI가 준 수치만 검증했고 전체 테스트는 안 했다. 진짜 실무 부하를 가리는 '에이전트X' 테스트는 빠져 있다. 비교 대상도 구형인 블랙웰이다. 신형 루빈과는 아직 못 붙여봤다. 칩 자체는 진짜고 빠르다. 하지만 '지금 바로 쓸 수 있다'는 뜻은 아니다.

나에게 미치는 영향

당장 챗GPT나 클로드 쓰는 사람이 체감할 변화는 없다. 이 칩은 오픈AI 데이터센터 안에서만 돈다. 일반 사용자나 개발자가 살 수도, 빌릴 수도 없다. 다만 장기적으로는 추론 비용이 내려갈 수 있다. 오픈AI가 전력비를 아끼면 API 요금 인하 여력이 생긴다. 경쟁사도 맞춤 칩 경쟁에 뛰어들 것이다. 엔비디아 독점이 깨지면 결국 사용자 요금에 반영된다. 오늘 할 일은 없다. 다만 'AI 추론 칩 전쟁이 본격화됐다'는 신호로 읽으면 된다.

남은 쟁점

세 가지가 걸린다. 첫째, 에이전트X 실측이 언제 공개되느냐다. 둘째, 루빈 대비 비교 데이터가 나오느냐다. 셋째, 오픈AI가 이 효율을 API 가격에 반영할지다. [미공개] 세미애널리시스도 루빈 비교 기사를 예고했다. 그 전까지는 '인상적이나 검증 불완전'으로 두는 게 맞다.