รัน LLM บนเครื่องตัวเองด้วย Ollama และ LM Studio ที⁠ละขั้น

อยากให้ AI ช่วยสรุปเอกสารลูกค้า แต่ไม่สบายใจจะส่งข้อมูลออกนอกบริษัท หรืออยากรู้ว่าโมเดลที่ข่าวลงทุกสัปดาห์จะรันบนโน้ตบุ๊กที่มีอยู่ได้ไหม บทความนี้พาติดตั้ง Ollama และ LM Studio ด้วยคำสั่งที่ใช้ได้จริง ณ พฤศจิกายน 2569 พร้อมตารางว่าเครื่องแบบไหนรันโมเดลขนาดเท่าไรไหว

Ollama คืออะไร ต่างจาก LM Studio และ llama.cpp อย่างไร

Ollama คือโปรแกรมโอเพนซอร์สสำหรับดาวน์โหลดและรัน LLM บนเครื่องตัวเองด้วยคำสั่งสั้นๆ แล้วเปิด API บนเครื่องให้โปรแกรมอื่นเรียกใช้ LM Studio คือแอปเดสก์ท็อปที่ทำงานคล้ายกันแต่เน้นหน้าจอให้คลิก ส่วน llama.cpp คือเอนจินภาษา C/C++ สำหรับรันโมเดลที่ปรับได้ละเอียดที่สุด

ทั้งสามตัวทำงานเดียวกัน คือโหลดไฟล์โมเดล open-weight เข้าหน่วยความจำแล้วให้โมเดลตอบคำถาม งานนี้เรียกว่า inference ที่ต่างกันคือวิธีใช้

ข้อดีที่ทุกตัวมีเหมือนกันคือข้อมูลไม่ออกจากเครื่อง FAQ ของ Ollama เขียนไว้ตรงๆ ว่าเมื่อรันบนเครื่อง Ollama ไม่เห็น prompt หรือข้อมูลของคุณ ข้อยกเว้นคือโมเดลที่ชื่อลงท้ายด้วย :cloud ซึ่งประมวลผลบนคลาวด์ของ Ollama

ติดตั้ง Ollama และรันโมเดลแรกอย่างไร

ติดตั้ง Ollama ได้ด้วยคำสั่งเดียว macOS และ Linux ใช้สคริปต์ install.sh ส่วน Windows ใช้ install.ps1 ใน PowerShell จากนั้นสั่ง ollama run ตามด้วยชื่อโมเดล Ollama จะดาวน์โหลดโมเดลและเปิดแชตใน terminal ให้ทันที

# macOS / Linux
curl -fsSL https://ollama.com/install.sh | sh

# Windows (PowerShell)
irm https://ollama.com/install.ps1 | iex

# ตรวจว่าติดตั้งแล้ว จากนั้นดึงโมเดลและเริ่มแชต
ollama -v
ollama pull gemma4:e2b
ollama run gemma4:e2b

หรือดาวน์โหลดตัวติดตั้งจาก ollama.com/download ก็ได้ บน Linux ถ้า server ยังไม่ทำงานให้สั่ง ollama serve ก่อน ตัวอย่างใน quickstart ของ Ollama ใช้ Gemma 4 รุ่น E2B เอกสารระบุว่าดาวน์โหลดราว 7.2 GB และแนะนำ VRAM หรือ unified memory ว่าง 8 GB พิมพ์ /bye เมื่อต้องการออกจากแชต

ถ้าอยากลองโมเดลที่ฝึกภาษาไทยมาโดยเฉพาะ Typhoon 2.5 รุ่น 4B มีในคลังของ Ollama ไฟล์ราว 2.5 GB สั่ง ollama run scb10x/typhoon2.5-qwen3-4b ได้เลย (เลือกโมเดลอื่นได้จาก คู่มือเลือก open-source LLM)

สเปกตามเอกสาร: macOS Sonoma (14) ขึ้นไป โดย Mac ชิป M ใช้ได้ทั้ง CPU และ GPU ส่วน Mac Intel ใช้ได้แค่ CPU, Windows 10 22H2 ขึ้นไป และถ้ามีการ์ด NVIDIA ต้องใช้ไดรเวอร์ 551.61 ขึ้นไป หลังใช้งานครั้งสุดท้าย โมเดลจะค้างในหน่วยความจำ 5 นาทีก่อนถูกปล่อยออก

ใช้ LM Studio รัน LLM บนเครื่องอย่างไร

LM Studio คือแอปเดสก์ท็อปสำหรับค้นหา ดาวน์โหลด และแชตกับ LLM บนเครื่องผ่านหน้าจอโดยไม่ต้องพิมพ์คำสั่ง ใช้ได้ทั้งที่บ้านและที่ทำงานโดยไม่ต้องซื้อไลเซนส์เพิ่ม ณ พฤศจิกายน 2569 เวอร์ชันล่าสุดบน lmstudio.ai คือ 0.4.28

1. ติดตั้งแอป จาก lmstudio.ai แล้วเปิดหนึ่งครั้ง
2. หาโมเดลในแท็บ Discover ค้นชื่ออย่าง gemma-4 หรือ qwen3.5 แล้วเลือกขนาดและ quantization บน Mac จะเห็นทั้งไฟล์ GGUF และ MLX
3. โหลดโมเดลในแท็บ Chat เลือกจากตัวโหลดโมเดล ปรับค่าการโหลดอย่าง context length ได้ก่อนกดโหลด แล้วเริ่มคุย
4. เปิด API ในแท็บ Developer กดสวิตช์ Start server ให้โปรแกรมอื่นเรียกได้

LM Studio มาพร้อม CLI ชื่อ lms ใช้แทนการคลิกได้ (Gemma 4 12B ในตัวอย่างไฟล์ราว 7.4 GB)

lms get google/gemma-4-12b
lms load google/gemma-4-12b --context-length 32768
lms server start --port 1234
lms ps

สเปกตามเอกสาร LM Studio: Mac ต้องเป็น Apple Silicon กับ macOS 14.0 ขึ้นไป (Mac Intel ยังไม่รองรับ) และแนะนำ RAM 16GB, Windows รองรับ x64 ที่มี AVX2 และ ARM (Snapdragon X Elite) แนะนำ RAM 16GB กับ VRAM 4GB ขึ้นไป, Linux แจกเป็นไฟล์ AppImage ส่วนเซิร์ฟเวอร์ที่ไม่มีหน้าจอใช้ตัว headless ชื่อ llmster ได้

รัน LLM บนเครื่องต้องใช้ RAM หรือ VRAM เท่าไร

กฎคร่าวๆ คือหน่วยความจำที่ GPU ใช้ได้ต้องมากกว่าขนาดไฟล์โมเดลราว 20–30% สำหรับ context สั้นๆ โมเดล 4-bit ขนาด 4B ใช้เครื่อง 8GB ได้ ขนาด 9–12B ต้องการ 16GB ส่วนขนาด 27–31B ต้องการ VRAM 24GB หรือ Mac 32GB ขึ้นไป ถ้าตั้ง context ยาวต้องเผื่อเพิ่มอีก

ขนาดไฟล์ในตารางมาจากคลังของ Ollama ณ พฤศจิกายน 2569 เป็นไฟล์ราว 4-bit ส่วนคอลัมน์ขวาเป็นค่าประมาณสำหรับ context ไม่กี่พัน token

ตัวเลขพวกนี้มาจากจำนวนพารามิเตอร์คูณจำนวน bit ต่อ weight อ่านวิธีคิดได้ใน Quantization คืออะไร และคำนวณ VRAM แบบรวม KV cache ได้ที่ GPU สำหรับรัน LLM ต้องใช้ VRAM เท่าไร

Mac กับ PC ที่มีการ์ดจอ ต่างกันอย่างไร

Mac ชิป M ใช้ unified memory คือ CPU และ GPU ใช้ RAM ก้อนเดียวกัน Mac ที่มี RAM 32GB จึงโหลดโมเดลที่การ์ดจอ 16GB รับไม่ไหวได้ แต่ต้องเหลือที่ให้ระบบและแอปอื่นด้วย ความเร็วตอนพิมพ์คำตอบแปรตาม memory bandwidth หน้าสเปก MacBook Pro ของ Apple ณ พฤศจิกายน 2569 ระบุว่าชิป M5 Max ใส่ RAM ได้สูงสุด 128GB ที่ 614GB/s ขณะที่ชิป M6 อยู่ที่ 153–170GB/s

PC ที่มีการ์ดจอติดเพดานที่ VRAM เป็นหลัก การ์ดเกมระดับบนอย่าง GeForce RTX 5090 มี VRAM 32GB ถ้าโมเดลใหญ่กว่า VRAM เครื่องมือจะย้ายบางชั้นไปรันบน CPU ซึ่งช้าลงมาก ตรวจได้จากคอลัมน์ PROCESSOR ของ ollama ps ถ้าไม่ใช่ 100% GPU แปลว่ามีบางส่วนไปอยู่บน CPU

ตั้ง context length และเรียกใช้ผ่าน API อย่างไร

context length คือจำนวน token สูงสุดที่โมเดลเห็นได้ในครั้งเดียว Ollama ตั้งค่าเริ่มต้นตาม VRAM ของเครื่อง: ต่ำกว่า 24 GiB ได้ 4K, 24–48 GiB ได้ 32K และตั้งแต่ 48 GiB ได้ 256K ถ้างานต้องอ่านเอกสารยาวหรือใช้กับ coding agent ต้องตั้งเพิ่มเอง

# Ollama: ตั้งค่าเริ่มต้นตอนเปิด server
OLLAMA_CONTEXT_LENGTH=32768 ollama serve

# Ollama: เปลี่ยนระหว่างแชตใน ollama run
/set parameter num_ctx 32768

# LM Studio
lms load google/gemma-4-12b --context-length 32768

# llama.cpp
llama-server -hf ggml-org/gemma-4-12B-it-GGUF:Q4_0 -c 32768

หลังตั้งแล้ว ดูคอลัมน์ CONTEXT ใน ollama ps ว่าจองได้จริงเท่าไร (แอป Ollama มีแถบเลื่อนใน Settings ให้ปรับแทนได้) context ยิ่งยาวยิ่งกินหน่วยความจำ จึงควรตั้งเท่าที่เครื่องรับไหวโดยไม่ต้องย้ายงานไป CPU

ทั้งสามตัวเปิด API แบบ OpenAI-compatible โค้ดที่เขียนกับ OpenAI SDK จึงเปลี่ยนแค่ base URL (หลักการอยู่ใน OpenAI-compatible API คืออะไร)

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1/",  # LM Studio ใช้ http://localhost:1234/v1
    api_key="ollama",  # ต้องใส่ แต่ Ollama บนเครื่องไม่ได้ตรวจ
)
resp = client.chat.completions.create(
    model="gemma4:e2b",
    messages=[{"role": "user", "content": "สรุป PDPA ให้เข้าใจใน 3 บรรทัด"}],
)
print(resp.choices[0].message.content)

OpenAI API ไม่มีช่องให้ส่งขนาด context ถ้าเรียกผ่าน /v1 แล้วต้องการ context ยาว ให้สร้างโมเดลชื่อใหม่จาก Modelfile ที่มีบรรทัด PARAMETER num_ctx 32768 ด้วย ollama create gemma4-32k -f Modelfile แล้วเรียกชื่อ gemma4-32k แทน ค่าเริ่มต้น Ollama รับคำขอจาก 127.0.0.1 เท่านั้น ถ้าจะเปิดให้เครื่องอื่นในออฟฟิศเรียกผ่าน OLLAMA_HOST ควรมีระบบยืนยันตัวตนคั่นหน้า เพราะ API บนเครื่องไม่ได้ตรวจ key

เมื่อไรที่ LLM บนเครื่องไม่พอ

LLM บนเครื่องเริ่มไม่พอเมื่องานต้องใช้โมเดลที่ใหญ่กว่าหน่วยความจำ ต้องใช้ context หลายหมื่น token ทุกคำขอ หรือมีหลายคนเรียกพร้อมกัน เครื่องของนักพัฒนาคนเดียวจะช้าลงหรือรับไม่ไหว

• coding agent เอกสารของ Ollama แนะนำ context 64K ขึ้นไปเมื่อใช้ Claude Code กับ repo ขนาดใหญ่ KV cache ของ context ขนาดนี้กินหน่วยความจำเพิ่มจากตัวโมเดลอีกหลาย GB บนโน้ตบุ๊ก 16GB มักต้องเลือกระหว่างโมเดลเล็กกับ context สั้น
• ทั้งทีมใช้ร่วมกัน ถ้า 10 คนยิงคำขอเข้าเครื่องเดียวพร้อมกัน คำขอต้องแบ่งหน่วยความจำและรอกัน งานลักษณะนี้เหมาะกับ inference server ที่จัดคิวและ batch ได้ดีกว่า (vLLM คืออะไร)
• โมเดลระดับ 100B ขึ้นไป ต้องใช้หน่วยความจำ 64–128GB ขึ้นไป ซึ่งเครื่องทำงานทั่วไปไม่มี
• prompt ยาวมาก ช่วงที่โมเดลอ่าน prompt บนเครื่องเล็กอาจใช้เวลานานกว่าคำตอบตัวแรกจะออก

ทีม 5–20 คนจึงมักใช้แบบผสม รัน LLM บนเครื่องกับงานทดลองและข้อมูลที่ไม่อยากส่งออกไป แล้วใช้ API กับ coding agent ที่ต้องการโมเดลใหญ่และ context ยาว

ใช้ coding agent กับ buzzAI แทนการรันบนเครื่องได้อย่างไร

ถ้าเครื่องไม่พอสำหรับ coding agent อีกทางคือ API ของ buzzAI ที่รันโมเดล open-weight Qwen3.8-27B ในรุ่น NVFP4 (4-bit) ที่ NVIDIA ทำจากโมเดลนี้ บนการ์ด GPU ที่ buzzAI ดูแลเอง โค้ดที่ต่อกับ Ollama หรือ LM Studio อยู่แล้วเปลี่ยนแค่ base URL เป็น https://api.heybuzzai.com/v1 ใส่ key เช่น $BUZZAI_API_KEY และชื่อโมเดล ส่วน Claude Code ตั้ง ANTHROPIC_BASE_URL เป็น https://api.heybuzzai.com (ไม่มี /v1) และใช้กับ Codex CLI ได้เช่นกัน

ต่างจากการรันบนเครื่องตรงที่ข้อมูลต้องส่งออกไปประมวลผล ตอนนี้งานประมวลผลบนเซิร์ฟเวอร์ GPU ของผู้ให้บริการคลาวด์ในต่างประเทศ buzzAI ไม่เอาข้อมูลหรือโค้ดของคุณไปเทรนโมเดล แพ็กบริษัทเซ็น DPA ตาม PDPA ได้ และแพ็ก Dedicated (การ์ด GPU ทั้งใบสำหรับลูกค้ารายเดียว เสนอราคาแยก) วางเครื่องในไทยได้ ทุกแพ็กเหมาจ่ายไม่คิดค่า token สิ่งที่จำกัดคือจำนวน agent ที่รันพร้อมกัน ขนาด context ของแพ็ก และคิวในช่วงคนใช้เยอะ ตอนนี้ API ยังไม่เปิดให้ทุกคน กดขอร่วมทดสอบได้ที่หน้าแรก แล้วเราจะส่ง API key ทางอีเมลเมื่อมีผู้สมัครครบโควต้าที่กำหนด ดูแพ็กทั้งหมดที่หน้าราคา