손바닥만 한 80GB AI 기기, 200만 원 값어치 할까

티니가 내놓은 것

티니(tiiny.ai)라는 스타트업이 손바닥만 한 엣지 AI 기기를 선보였다. 핵심은 80GB 통합 메모리다. 로컬에서 대형 언어 모델(LLM)을 돌리려면 비디오 메모리가 큰 GPU가 필요한데, 이 기기는 메인보드에 램을 80GB 붙여 그 문제를 풀었다. 가격은 2,000달러 선. 킥스타터 방식으로 주문을 받고 있다.

해커뉴스 댓글 16개가 달렸다. 점수는 18점. 규모는 작지만 리눅스 미지원을 지적하는 목소리가 여럿 나왔다. "맥과 윈도우만 지원하고 리눅스를 뺀 건 이상한 선택"이라는 댓글이 대표적이다.

맥북 중고와 비교하면

댓글 다수는 맥북 프로 M1 맥스 64GB 중고를 대안으로 꼽는다. 상태 좋은 매물이 2,000달러 밑으로 나온다는 것이다. 맥 생태계라면 울트라 칩으로 업그레이드하는 편이 낫고, 윈도우 사용자라면 내년 라이젠 AI 맥스 칩을 기다리는 게 합리적이라는 분석도 있다.

티니의 80GB가 맥북 64GB보다 모델 크기 선택폭을 넓혀주는 건 사실이다. 하지만 토큰 처리 속도가 초당 30개 미만이라는 지적이 있다. "고대 모델을 2,000달러에 쓴다"는 냉소도 나왔다.

리눅스 빠진 이유, 킥스타터 리스크

리눅스 미지원은 개발자용 기기로선 치명적이다. 로컬 LLM 실험을 주로 하는 층이 리눅스 비중이 높기 때문이다. 티니 측 설명은 아직 없다.

킥스타터 선주문 방식도 걸림돌이다. "램 물량을 6개월 전에 확보했길 바란다"는 댓글이 나왔다. 램 가격 변동과 공급망 지연이 배송일을 밀 수 있다는 뜻이다. 펀딩 실패 시 환불 절차도 확인되지 않았다.

한국에서 쓸 수 있나

국내 배송 가능 여부는 공개되지 않았다. 관세·부가세 포함 시 실구매가는 280만 원 안팎으로 뛸 수 있다. 한국어 인터페이스 지원 여부도 미확인이다. 맥북 중고는 국내 중고거래 플랫폼에서 바로 살 수 있고, 애플코리아 AS도 받는다.

쉽게 풀어보면

티니가 만든 이 기기는 작은 본체에 램 80GB를 넣어, 인터넷 없이도 큰 AI 모델을 돌리게 하려는 장치다. 비유하자면 전용 연료 탱크를 단 소형 발전기다. 집에서도 챗GPT급 모델을 돌리고 싶지만, 비싼 워크스테이션은 부담스러운 사람을 겨냥했다.

하지만 현실은 녹록지 않다. 같은 돈으로 맥북 프로 중고를 사면 더 빠르고, 화면도 있고, OS도 안정적이다. 윈도우 사용자라면 내년 신형 칩을 기다리는 게 나을 수 있다. 리눅스에서 개발하는 사람은 아예 못 쓴다. 킥스타터라 돈 내고 몇 달 기다려야 받을지 모른다.

이 기기가 빛을 보려면 맥·윈도우만 쓰는 일반 사용자 중, 별도 GPU 서버를 둘 공간·전력이 없는 틈새를 파고들어야 한다. 그 수요가 얼마나 될지는 미지수다.

나에게 미치는 영향

로컬 LLM을 돌려보고 싶다면 지금 가진 노트북부터 확인해 보라. M1·M2·M3 맥북 프로 32GB 이상이면 7B~14B 모델은 무리 없이 돈다. 윈도우라면 엔비디아 RTX 3060 12GB 이상 그래픽카드가 달린 노트북을 중고로 구하는 편이 가격·성능·확장성 모두 유리하다.

티니 기기를 살까 말까 고민 중이라면 킥스타터 페이지에서 배송 예정일·환불 정책·한국 배송 가능 여부 세 가지만 먼저 확인하라. 답이 없으면 기다리는 게 낫다. 내년 라이젠 AI 맥스 탑재 노트북이 나오면 선택지가 또 는다.

남은 쟁점

티니가 공개하지 않은 정보가 많다. 실제 추론 속도(토큰/초), 지원 모델 목록, 드라이버 업데이트 계획, 한국 인증(KC) 여부다. 이 값들이 나오기 전까지는 '흥미로운 시도' 이상으로 평가하기 어렵다. 본지가 앞서 다룬 오픈소스 거장들이 AI 기여를 거절하는 진짜 이유에서 지적한 '검토 비용 폭증' 문제도, 이 기기처럼 검증 안 된 하드웨어를 쓸 때 똑같이 따라온다.