# 제미나이 9달러로 직접 만든 AI, 월 구독료 아꼈다 > 제미나이 9달러로 라벨링해 소형 모델에 넘기니, 이후 댓글은 공짜로 처리된다 - 매체: AI 브리핑 - 담당: 실전활용 데스크 - 분야: 활용법 - 발행: 2026-09-17T17:31:47.841Z - 원문 주소(웹): https://ai-news-1c0.pages.dev/posts/2026-09-18-%EC%A0%9C%EB%AF%B8%EB%82%98%EC%9D%B4-9%EB%8B%AC%EB%9F%AC%EB%A1%9C-%EC%A7%81%EC%A0%91-%EB%A7%8C%EB%93%A0-ai-%EC%9B%94-%EA%B5%AC%EB%8F%85%EB%A3%8C-%EC%95%84%EA%BC%88%EB%8B%A4/ - 태그: AI 활용, NER, GLiNER, 제미나이 API, 로컬 모델, 비용 절감 --- ## 레딧 칼 마니아 4천 명, 제미나이가 대신 읽어줬다 요리 취미가 칼 수집으로 번진 개발자 피터 비예. 그는 레딧 스레드를 긁어모았습니다. "마자키 화이트 #2 샀는데 피브록스보다 훨씬 낫네" 같은 문장에서 브랜드·모델·강철을 자동으로 뽑아내려면 개체명 인식(NER)이 필요합니다. 제미나이 3.1 프로 API를 댓글 하나당 한 번씩 불렀습니다. 정확했지만 댓글이 쌓일수록 요금도 쌓였습니다. ## 9달러 라벨링, 소형 모델이 이어받다 제로샷 GLiNER는 정확도 0.65 F1에 그쳤습니다. 제미나이 라벨을 정답 삼아 4,290개를 미세조정했더니 격차가 좁혀졌습니다. 학습비 9달러(제미나이) + 2.5달러(모달 T4 GPU 24분) = 11.5달러. 이후로는 자기 GPU에서 돌려 추가 비용이 없습니다. 단, 제미나이 라벨을 사람이 검수하지 않았습니다. 제미나이가 틀린 걸 모델이 그대로 따라 하면 '정답'으로 채점되고, 고치면 '오답'이 됩니다. ## 다섯 번 망하고 한 번 성공한 이유 허깅페이스 트레이너로 GLiNER를 돌린 첫 세 번은 설정 실수. 네·다섯 번째는 `words_mask` 텐서 탓에 손실이 130에서 70로만 떨어지고 F1은 0 근처였습니다. 문서만 보고 `words_mask`를 어텐션 마스크처럼 0/1로 채웠는데, 실은 **단어 인덱스(0, 1, 2…)** 였습니다. 트레이닝 루프 소스를 직접 보고 고치자 그제야 수렴했습니다. 개발자는 "문서만 믿고 텐서 의미를 추측하지 말라"고 적었습니다. ## 쉽게 풀어보면 피터는 레딧에서 칼 이야기를 4,290개 모았습니다. **제미나이에게 "이 문장에서 브랜드·모델·강철만 골라줘"라며 9달러를 주고 시켰습니다.** 제미나이가 내놓은 답안지를 교과서 삼아, 가볍고 공짜인 GLiNER 모델을 자기 컴퓨터에서 공부시켰습니다. 공부가 끝나니 제미나이를 안 불러도 GLiNER가 혼자서 새 댓글을 읽고 같은 정보를 뽑아냅니다. 4,291번째 댓글부터는 1원도 안 듭니다. 단, 제미나이가 실수하면 GLiNER도 같이 실수합니다. 답안지를 사람이 채점하지 않았으니까요. 이 글의 원문은 해커뉴스에 올라온 피터 비예의 글입니다. 본인이 "AI 도움으로 작성됐음"을 고지했습니다. ## 나에게 미치는 영향 챗GPT·클로드 유료 구독자라면 내 업무 문서(견적서, 회의록, 상품 리뷰)를 한 번만 큰 모델로 라벨링해 두고, 소형 모델로 돌려 구독료를 줄일 수 있는지 테스트해 보세요. 무료 티어 사용자는 구글 AI 스튜디오나 오픈라우터 무료 한도 안에서 수십 달러어치 라벨링을 끝내고, 로컬에서 돌릴 모델을 하나 만들어 두면 이후 완전 무료입니다. 한국어 문서 다루는 실무자는 한국어 NER이 영문보다 공개 모델 성능이 낮습니다. 제미나이·제미나이 플래시로 한국어 라벨셋을 만들고, 한국어 지원 GLiNER 변형이나 KoBERT 기반 모델로 미세조정해 보세요. 기업 보안 담당자는 데이터가 나가는 게 문제면, 큰 모델로 한 번만 라벨링하고 소형 모델은 온프레미스 GPU에서만 돌리면 됩니다. 이번 사례처럼 1만 건 미만이면 클라우드 GPU 1시간 안쪽으로 끝납니다. ## 남은 건 검증이다 이 실험이 보여준 건 **'큰 모델 한 번 + 작은 모델 평생' 구조가 1만 달러 이하로 가능하다는 사실**입니다. 하지만 제미나이 라벨 정확도를 사람이 확인하지 않았다는 건 치명적 약점입니다. 본지가 22일 전 다룬 대학생 6851명 블라인드 테스트에서도 제미나이가 글쓰기 1위였지만, 사실 검증은 별개 문제였습니다. 라벨링 품질을 어떻게 보장할지, 도메인별로 얼마나 라벨이 필요한지가 다음 과제입니다. ## 해커뉴스 반응에서 본 현실 "브랜드명이 일반 단어와 겹치면(예: Benchmade, Carbon) 엉뚱하게 잡힌다" — 도메인 사전 없이는 순수 모델만으론 부족합니다. "T4 24분에 2.5달러면 시간당 6.25달러, 이건 B300급 가격 아니냐" — 클라우드 GPU 요금제 차이를 모른 채 쓰면 학습비가 라벨링비보다 커집니다. "레딧 추천 믿냐, 2015년부터 어뷰징 천지였다" — 학습 데이터 자체가 편향돼 있으면 모델도 그걸 배웁니다. 데이터 출처 검증이 모델 아키텍처보다 중요할 수 있습니다. ## 지금 바로 해볼 수 있는 최소 단계 1. 구글 AI 스튜디오에서 제미나이 플래시로 내 문서 100개만 라벨링해 보세요. 비용은 몇 센트입니다. 2. 라벨 형식(JSON 등)을 정해 저장하세요. 문자열 오프셋 대신 **원문 부분 문자열**만 받아와 코드로 위치를 찾으세요(제미나이는 문자 세기 약합니다). 3. 허깅페이스 `GLiNER`나 한국어 변형 모델로 `Trainer` 돌려보세요. `words_mask`는 문서 말고 `training_loop.py` 소스에서 확인하세요. 4. 검증 세트 50~100개는 **사람이 직접 채점**하세요. 제미나이와 모델 중 누가 맞는지 봐야 진짜 성능이 보입니다. **이 글의 핵심은 "한 번만 큰 모델 쓰고, 나머지는 내 기계에서"라는 패턴이 1만 원대 진입비로 가능해졌다는 점입니다.** 단, 답안지 채점은 아직 사람이 해야 합니다. --- ## 출처 - [Hacker News] I had Gemini train its own replacement for $9 — https://news.ycombinator.com/item?id=49740330 ## 집필 방식 고지 이 기사는 위 원문과 커뮤니티 반응을 바탕으로 AI의 도움을 받아 작성했으며, 발행 전 사람이 확인했습니다. 인용 시 출처를 "AI 브리핑"으로 표기하고 https://ai-news-1c0.pages.dev/posts/2026-09-18-%EC%A0%9C%EB%AF%B8%EB%82%98%EC%9D%B4-9%EB%8B%AC%EB%9F%AC%EB%A1%9C-%EC%A7%81%EC%A0%91-%EB%A7%8C%EB%93%A0-ai-%EC%9B%94-%EA%B5%AC%EB%8F%85%EB%A3%8C-%EC%95%84%EA%BC%88%EB%8B%A4/ 로 연결해 주세요.