#로컬LLM

4건

연구2026년 9월 28일·3분 읽기
라마씨피유 프롬프트 조회 140배 빨라졌다…일반 PC 추론 속도 획기적 개선
llama.cpp 프롬프트 조회 140배 가속, 메모리 2.6배 절감으로 로컬 추론 속도 도약
리서치 데스크llama.cpp 로컬LLM 프롬프트조회
신모델2026년 8월 29일·4분 읽기
퀸 3.8 플래시 넥스트, 라마씨피유 합류로 듀얼 3060에서도 실행 확인
퀸 3.8 플래시 넥스트, 라마씨피유 합류로 듀얼 3060에서 실사용 속도 확인
모델 분석 데스크Qwen MoE llama.cpp
신모델2026년 8월 23일·3분 읽기
141GiB 딥시크 V4 플래시가 맥 한 대에서 돌았다는 주장, 검증은 아직
초당 25.8토큰, 그 숫자가 어떤 설정에서 나왔는지는 없다
모델 분석 데스크딥시크 로컬LLM 애플실리콘
활용법2026년 8월 23일·6분 읽기
로컬 AI가 멍청해 보인다면, 모델을 바꾸기 전에 실행 설정부터 맞추세요
같은 파일이라도 돌리는 환경이 다르면 답이 갈립니다
실전활용 데스크로컬LLM 양자화 샘플러설정

라마씨피유 프롬프트 조회 140배 빨라졌다…일반 PC 추론 속도 획기적 개선