🧠 로컬 LLM 노트북 고르는 법: 통합메모리·VRAM·NPU 총정리

로컬 LLM(내 노트북 안에서 직접 돌리는 대화형 AI)의 성능은 ① 모델이 올라가는 메모리 용량 ② 메모리 대역폭 ③ GPU 연산력 순서로 결정됩니다. NPU 숫자(TOPS)나 CPU 세대보다 메모리가 먼저입니다.

1. 모델 크기와 필요한 메모리 (4bit 양자화 기준)

모델 파일은 파라미터 수(B=10억)에 비례합니다. 4bit로 양자화하면 파라미터 1B당 대략 0.55~0.65GB가 필요하고, 여기에 대화 길이(컨텍스트)에 따라 늘어나는 KV 캐시 몇 GB가 추가됩니다.

위 표는 일반적인 가이드이며 모델 구조·양자화 방식·앱에 따라 달라집니다. "권장 메모리"는 모델이 실제로 올라가는 메모리(통합메모리의 GPU 사용분 또는 VRAM) 기준입니다.

2. 노트북의 메모리 구조 3가지

① 통합메모리 — 맥북, Ryzen AI Max

CPU·GPU가 같은 메모리를 공유합니다. GPU가 쓸 수 있는 몫은 기본값 기준 약 2/3(36GB 이하)~3/4(그 이상)로 알려져 있어, 이 사이트는 이 비율로 "로컬 LLM 수용량"을 계산합니다. 맥북의 통합메모리는 구매 후 늘릴 수 없습니다.

Apple 수치는 Apple 공식 사양, Ryzen AI Max+ 395는 AMD 공식 설명 기준입니다.

② 전용 VRAM — RTX 노트북

GPU 전용 메모리(VRAM) 안에 모델이 들어가야 빠릅니다. VRAM을 넘으면 시스템 RAM으로 넘쳐 속도가 크게 떨어지므로 RAM이 아무리 커도 VRAM이 사실상의 상한입니다.

③ 내장 GPU + 시스템 RAM — Core Ultra, Ryzen AI, Snapdragon X

전용 GPU가 없는 일반 AI 노트북입니다. 시스템 RAM 일부를 GPU가 나눠 쓰기 때문에 3~8B 소형 모델이 현실적입니다. 대신 전력 효율이 좋고 NPU가 있어 배경 흐림·자막·번역 같은 일상 AI 기능에는 유리합니다.

3. 속도는 대역폭이 좌우한다

모델이 메모리에 올라간 뒤 글자를 한 개씩 만드는 속도(토큰 생성)는 메모리 대역폭에 크게 영향받는 경향이 있습니다. 같은 모델을 돌려도 대역폭이 높은 기기(예: M5 Max 614GB/s)가 낮은 기기(예: M5 153GB/s)보다 빠른 것이 일반적입니다. 반대로 메모리 용량이 부족하면 대역폭이 아무리 높아도 큰 모델 자체를 올릴 수 없습니다.

4. NPU는 로컬 LLM에 얼마나 중요할까?

Copilot+ PC의 NPU는 40 TOPS 이상이 기준이고 전력 효율이 좋지만, LM Studio·Ollama·llama.cpp 같은 대표적인 로컬 LLM 앱은 주로 GPU(통합 GPU 포함)와 메모리를 사용합니다. NPU 활용은 일부 Windows 내장 기능과 일부 앱에 한정돼 있어, 로컬 LLM이 목적이라면 NPU보다 메모리를 먼저 보는 것이 합리적입니다.

5. 용도별 권장 구성

6. 구매 전 체크리스트

• 메모리를 나중에 늘릴 수 있는가? (맥북·온패키지 메모리 노트북은 불가)
• 전원 연결 시 지속 성능 — 게이밍/워크스테이션 노트북은 TGP(전력 한도)와 쿨링 설계가 중요합니다.
• 사용하려는 앱의 가속 지원: NVIDIA(CUDA), Apple(Metal/MLX), AMD·Intel(Vulkan 등) 중 어디에 최적화돼 있는지 확인하세요.
• OS 포함 여부 — 쿠팡 게이밍 노트북에는 "Free DOS(OS 미포함)" 상품이 많습니다.

이 사이트는 위 기준으로 각 노트북의 AI 적합도 점수와 "권장 모델 규모"를 자동 계산해 표시합니다. 로컬 LLM 노트북 목록 보기