141GiB 딥시크 V4 플래시가 맥 한 대에서 돌았다는 주장, 검증은 아직

레딧 게시물 하나에 적힌 숫자 다섯 개

확인된 사실은 게시물 제목이 전부입니다. 해외 로컬 AI 커뮤니티 r/LocalLLaMA에 올라온 글이고, 본지가 확인한 시점의 점수는 15점, 댓글은 0개였습니다.

제목이 밝힌 건 네 가지입니다.

• 모델과 장비 — 딥시크 V4 플래시를 애플 M2 울트라 칩이 든 맥에서 구동
• 용량 — 무손실로 141GiB(약 151GB에 해당하는 용량 단위)로 재포장
• 비교 — 그 크기가 Q4 GGUF보다 작다
• 속도 — 초당 25.8토큰, 최고 42토큰

용어부터 풀면, GGUF는 개인 PC에서 AI 모델을 돌릴 때 널리 쓰이는 파일 형식이고 Q4는 모델 내부 수치를 4비트로 깎아 용량을 줄인 압축본입니다. 토큰은 AI가 글을 쪼개 다루는 단위로, 한국어에서는 대략 한두 글자에 해당합니다.

"무손실인데 4비트보다 작다"가 걸리는 이유

이 대목이 이 글에서 가장 흥미로우면서 가장 확인이 필요한 부분입니다. 압축은 보통 정보를 버릴수록 작아지는데, 아무것도 안 버린 쪽이 4비트로 깎은 쪽보다 작다고 하니 순서가 뒤집혔다. 그렇다면 원본 파일이 애초에 상당히 헐겁게 저장돼 있었을 가능성이 큽니다.

다만 게시자가 말한 '무손실'의 기준이 원본 가중치인지, 특정 배포 형식인지는 제목만으로 갈리지 않습니다. 본문 내용이 확인되지 않은 상태이고 댓글도 붙지 않아, 지금은 게시자 본인의 주장 한 건입니다.

쉽게 풀어보면

한 사용자가 딥시크 V4 플래시라는 AI 모델을 클라우드가 아니라 자기 책상 위 맥에서 직접 돌렸다고 커뮤니티에 올린 겁니다. 이사에 비유하면 이해가 빠릅니다.

짐을 줄이는 방법은 둘입니다. 하나는 물건을 버리는 것(4비트 압축), 다른 하나는 버리지 않고 상자를 다시 싸서 빈틈을 없애는 것(무손실 재포장). 상식적으로는 버린 쪽이 더 작아야 하는데, 이번엔 안 버린 쪽이 더 작게 나왔다는 보고입니다. 원래 포장이 엉성했던 것 아니냐는 추측이 가능한 대목이지만, 확인된 것은 아닙니다.

부피가 왜 그렇게 중요하냐면, AI 모델은 통째로 메모리에 올려야 제 속도가 나기 때문입니다. 짐이 방에 다 들어가면 편하게 움직이고, 넘치면 창고를 오가느라 굼떠집니다. 141GiB가 메모리 안에 들어갔다는 게 초당 25.8토큰이라는 숫자의 전제입니다.

25.8과 42 사이에 빠진 것들

속도 수치는 조건이 붙어야 의미가 생깁니다. 제목에 없는 건 이렇습니다.

• 어떤 실행 프로그램으로 돌렸는지
• 맥락 길이(AI가 한 번에 읽고 기억하는 글의 분량)를 얼마로 뒀는지
• 맥의 통합 메모리가 몇 GB짜리 구성인지

25.8토큰과 42토큰의 차이도 그렇습니다. 짧은 질문일 때와 긴 문서를 물릴 때 같은 속도가 나오는지는 이 자료로 확인되지 않습니다. 로컬 실행에서 흔히 갈리는 지점이라 재현 보고가 필요한 부분으로 읽힙니다.

점수 15점에 댓글 0개라는 반응도 같이 봐야 합니다. 커뮤니티 안에서도 아직 아무도 따져보지 않았다는 뜻이니까요.

나에게 미치는 영향

당장 오늘 해볼 수 있는 건 속도 감각을 잡는 일입니다. 챗GPT나 클로드, 제미나이에서 긴 답변을 하나 뽑아 초시계로 재보세요. 글자가 흘러나오는 속도를 눈으로 재두면, 초당 25.8토큰이 빠른 건지 아닌지 남의 숫자가 아니라 내 기준이 생깁니다.

두 번째는 내 장비와 대보는 일입니다. 맥은 화면 왼쪽 위 사과 모양 → '이 Mac에 관하여'에서 메모리 용량이 나옵니다. 141GiB는 약 151GB이니, 통합 메모리 128GB짜리 구성에는 통째로 올라가지 않습니다. 게시자의 맥이 몇 GB 구성이었는지는 제목에 없습니다.

국내 판매가는 이 자료에 없습니다. 궁금하다면 애플 국내 온라인 스토어에서 메모리 옵션을 위로 올려가며 견적을 직접 잡아 보세요. 지금 내는 챗봇 구독료를 결제 내역에서 1년치로 더해 그 견적 옆에 놓으면, 갈아탈 때인지가 숫자로 보입니다.

회사 자료를 외부 서비스에 못 올리는 직군이라면 이 흐름은 남 일이 아닙니다. 다만 지금 클라우드 챗봇을 쓰는 대부분의 사람에게 이번 게시물로 바뀌는 건 없습니다.

지금 시도할 사람, 댓글을 기다릴 사람

이미 대용량 통합 메모리를 가진 맥을 쓰고 로컬 실행에 익숙한 사람이라면 원문을 직접 확인해볼 값어치가 있습니다. 단, 재포장에 쓴 도구와 설정이 제목에 없어 그대로 따라 하긴 어렵습니다.

나머지는 기다리는 쪽이 낫습니다. 하드웨어 비용도 비용이지만, 검증되지 않은 수치 하나 보고 장비를 바꾸는 건 순서가 아니니까요.

댓글 0개. 검증은 이제부터입니다.