LLM 어텐션 시각화 도구 등장… "내부 작동 원리 직접 확인해 보세요"

HN에서 35표 받은 시각화 도구, 정체는?

해커뉴스에 **"Show HN: LLM Attention Visualization"**이라는 제목으로 올라온 글 하나가 35점, 댓글 6개를 끌며 개발자 사이에서 회자되고 있다. 작성자 이샴(ishamf)이 공개한 웹 페이지(ishamf.dev/p/llm-attention-visualizer)가 그 주인공이다.

원문 기사가 추출되지 않아 상세 스펙은 확인되지 않았다. 다만 HN 스레드와 도메인 경로로 미뤄 브라우저에서 직접 돌려보는 클라이언트 사이드 시각화 도구일 가능성이 크다. 서버 없이 모델 가중치를 브라우저에 내려받아 어텐션 맵을 그리는 방식이면, 한국에서도 별도 설치 없이 접속만 하면 된다.

커뮤니티 반응: "이해했다" vs "수식이 뭐냐"

댓글 여섯 개만 봐도 수준 차가 극명하게 갈린다.

"여러 책과 영상으로 어텐션을 공부했는데, 이게 가장 직관적이다" — 이미 원리를 아는 사람에게 확인용 교구로 통한다.
"수식이 뭔지 궁금하다. 헤더와 레이어가 너무 많아 직관적 선택이 힘들다" — 가중 평균인지, 에이블레이션인지 구현 세부가 안 보여 답답해한다.
"나중 레이어 어텐션이 앞쪽 레이어 합에 묻히지 않나?" — 레이어 간 기여도 합산 방식에 의문을 제기한다.
"같은데 이해가 안 된다, 설명 좀" — 초심자는 여전히 진입 장벽을 느낀다.

한 댓글러는 앤스로픽의 '어텐션 QK 회로' 논문(2025) 링크를 걸며 "더 깊게 보려면 여길 봐라"라고 안내했다. 이 도구가 입문용인지 연구용인지 경계가 모호한 이유다.

빠진 조건: 한국어·모델·라이선스 모두 미공개

발표 시점에 확인할 수 없는 정보가 세 가지다.

한국어 토큰 지원 여부 — 영문 위주 토크나이저면 한글 입력 시 토큰이 잘게 쪼개져 시각화가 지저분해질 수 있다.
대상 모델 — 라마, 젬마, 큐웬 중 무엇을 기본으로 돌리는지, 사용자 지정 가중치를 올릴 수 있는지 불명.
라이선스·오픈소스 여부 — 코드 공개 저장소 링크가 본문·댓글 어디에도 없다. 상업 이용 가능 여부도 알 수 없다.

이 세 가지가 정해지지 않으면 "한국 실무자가 내일 업무에 쓸 수 있느냐"는 여전히 물음표다.

과거 기사와 연결: MoE·로컬 실행과 무슨 관계?

본지가 13일 전 다룬 **퀸 3.8 플래시 넥스트**는 125B 파라미터 중 6B만 깨워 쓰는 MoE 구조다. 어텐션 시각화는 어떤 전문가가 어떤 토큰에 반응하는지 보는 데 직결된다.

14일 전 애플 M5 울트라 맥 스튜디오 기사는 512GB 통합 메모리로 거대 모델을 로컬에서 돌리는 하드웨어를 다뤘다. 이 시각화 도구가 브라우저 완결형이라면, 맥 스튜디오 같은 로컬 머신에서도 인터넷 없이 돌릴 수 있다는 뜻이다.

두 기사 모두 **"모델 안을 들여다보고 싶은 수요"**를 가리킨다. 이번 도구가 그 수요의 가장 가벼운 진입로가 될 수 있다.

쉽게 풀어보면

이샴이라는 개발자가 웹페이지 하나를 공개했습니다. 주소창에 넣고 엔터 치면 끝. 별도 가입·설치·GPU 없어도 됩니다.

무엇을 보여주냐면, 거대 언어 모델이 문장을 읽을 때 **"이 단어를 볼 때 저 단어를 얼마나 쳐다보는가"**를 선 굵기로 그려줍니다. 예를 들어 "고양이가 쥐를 잡았다"에서 모델이 "잡았다"를 읽을 때 "쥐를"에 굵은 선을 긋는다면, 그게 바로 어텐션입니다.

HN 댓글을 보니 **이미 원리를 아는 사람에겐 "아하!"인데, 모르는 사람에겐 "그래서 뭐가 어떻게 된 거야?"**입니다. 도구 자체에 설명이 붙어 있지 않아서 생긴 일로 보입니다.

한국어 문장을 넣어도 제대로 나올지는 아직 아무도 모릅니다. 토크나이저가 영문 기준이면 "안녕하세요"가 '안', '녕', '하', '세', '요'로 쪼개져 선이 난잡해질 수 있습니다. 직접 넣어보는 수밖에 없습니다.

나에게 미치는 영향

지금 바로 할 수 있는 행동 세 가지입니다.

주소창에 ishamf.dev/p/llm-attention-visualizer 입력 — 10초면 열리는지, 한국어 입력을 받는지, 모바일에서도 돌아가는지 확인 끝.
한국어 짧은 문장("오늘 날씨가 좋다")을 넣어 보기 — 토큰이 어떻게 쪼개지고 어텐션 선이 어떻게 그어지는지 캡처해 두세요. 나중에 다른 도구와 비교할 기준이 됩니다.
깃허브 저장소 링크 찾기 — 페이지 하단이나 'About' 메뉴에 레포 링크가 있으면 ⭐️ 눌러 두고, 라이선스 파일(MIT·Apache-2.0 등) 열어서 상업·수정·재배포 가능 여부 1분만 읽으세요.

개발자·기획자·학생 누구나 "모델이 왜 이 단어를 골랐지?" 궁금할 때 브라우저 탭 하나 더 띄워서 확인하는 습관만 들여도 디버깅·프롬프트 설계·수업 자료 준비에 바로 써먹습니다.

남은 쟁점: 문서화·다국어·커뮤니티

공식 문서·튜토리얼 유무 — 없으면 초심자 진입로 막힘
다국어 토크나이저 전환 옵션 — 한국어·일본어·중국어 지원 여부
커뮤니티 이슈·PR 수용 속도 — 버그 리포트 반응이 빨라야 실무 도구로 성장 가능

세 가지가 갖춰지기 전까진 **"교실·스터디용 시연 도구"**로 쓰는 게 안전합니다. 본지 역시 위 주소로 접속해 한국어 테스트를 마치는 대로 후속 리뷰를 올릴 예정입니다.