วิธีติดตั้งและใช้งาน Large Language Model ส่วนตัวบนเครื่องด้วย Ollama + Docker อย่างปลอดภัย

ภาพรวม — Overview

การรัน Large Language Model (LLM) บนเครื่องของคุณทำให้ข้อมูลสำคัญไม่ต้องส่งออกคลาวด์ และช่วยลดค่าใช้จ่ายระยะยาว การผสาน Ollama กับ Docker เป็นวิธีที่ง่ายและปลอดภัยเพราะ Docker แยกกระบวนการรันออกจากระบบหลัก

• เหมาะกับนักพัฒนาและผู้ดูแลระบบที่ต้องการควบคุมเวอร์ชันของโมเดล
• ลดความเสี่ยงจากช่องโหว่ระบบปฏิบัติการโดยใช้ container isolation
• สามารถปรับขนาดทรัพยากร (CPU, RAM) ได้ตามต้องการ

ความต้องการเบื้องต้น — Prerequisites

ก่อนเริ่มควรตรวจสอบว่าระบบของคุณตรงตามเงื่อนไขต่อไปนี้เพื่อหลีกเลี่ยงปัญหาในระหว่างติดตั้ง

• ระบบปฏิบัติการ 64‑bit (Linux, macOS หรือ Windows 10 + WSL2)
• Docker Engine เวอร์ชัน 20.10 ขึ้นไป (ตรวจสอบด้วย `docker --version`)
• พื้นที่ดิสก์ว่างอย่างน้อย 5 GB สำหรับโมเดลขนาดกลาง

Tip: หากใช้ Windows ให้เปิดการตั้งค่า “Expose daemon on tcp://localhost:2375 without TLS” เฉพาะในเครือข่ายส่วนตัวเท่านั้น เพื่อป้องกันการเข้าถึง Docker จากภายนอกโดยไม่ได้รับอนุญาต

การติดตั้ง Docker — Install Docker

Docker เป็นพื้นฐานที่ทำให้การรัน Ollama ปลอดภัยและจัดการง่าย

• ดาวน์โหลด Docker Desktop หรือ Docker Engine จากเว็บไซต์ทางการของ Docker
• ทำตามขั้นตอนติดตั้งตามระบบปฏิบัติการ (ไม่มีตัวเลือก “Custom” จำเป็น)
• รีสตาร์ทเครื่องหลังการติดตั้งเพื่อให้บริการ daemon เริ่มทำงาน

ตรวจสอบการทำงานด้วยคำสั่ง `docker run hello-world` หากเห็นข้อความยืนยันแสดงว่า Docker พร้อมใช้งาน

ติดตั้ง Ollama ผ่าน Docker Image — Install Ollollama via Docker

Ollama มี image อย่างเป็นทางการบน Docker Hub ที่อัพเดตบ่อยที่สุด

• ดึง image ด้วยคำสั่ง `docker pull ollama/ollama:latest`
• ตรวจสอบขนาด image (ประมาณ 1.2 GB) เพื่อยืนยันว่าดาวน์โหลดครบถ้วน
• สร้าง container เบื้องต้นเพื่อทดสอบด้วย `docker run -d --name ollama-test -p 11434:11434 ollama/ollama`

การกำหนดพอร์ต `11434` เป็นค่าเริ่มต้นของ Ollama API ซึ่งจะใช้ต่อไป

ดึงและจัดเก็บโมเดล LLM — Pull & Store Model

Ollama รองรับหลายโมเดล (Llama 2, Mistral ฯลฯ) โดยสามารถดึงผ่านคำสั่งภายใน container

• เข้าถึง shell ของ container: `docker exec -it ollama-test /bin/bash`
• ใช้คำสั่ง `ollama pull llama2:7b` เพื่อดาวน์โหลดโมเดล 7 B ตัวอย่าง
• โมเดลจะถูกเก็บไว้ใน `/root/.ollama/models` ภายใน container

Warning: อย่าเปิดเผยโฟลเดอร์นี้ต่อภายนอกโดยตรง ควรใช้ volume mapping ที่อ่าน‑เขียนได้จำกัดสิทธิ์

การรันโมเดลอย่างปลอดภัย — Run Model Securely

เพื่อให้การใช้งานโมเดลเป็นไปตามหลัก “least privilege” ให้ตั้งค่าดังต่อไปนี้

• ใช้ Docker user namespace เพื่อแยก UID/GID ของ container ออกจากโฮสต์ (`--userns-remap=default`)
• กำหนด resource limits เช่น `--memory=8g --cpus="4"` ป้องกันการกินทรัพยากรเกินขอบเขต
• เปิดใช้งาน Docker seccomp profile ที่จำกัด system calls (`--security-opt=no-new-privileges`)

ตัวอย่างคำสั่งเต็ม:

``` docker run -d \ --name ollama-secure \ -p 11434:11434 \ --userns-remap=default \ --memory=8g --cpus="4" \ --security-opt=no-new-privileges \ -v ollama-data:/root/.ollama \ ollama/ollama ```

การเชื่อมต่อผ่าน API — Connect via API

เมื่อ container ทำงานแล้ว สามารถเรียกใช้งานโมเดลด้วย HTTP POST ไปยัง `http://localhost:11434/api/generate`

• ส่ง JSON ที่ระบุ `model`, `prompt` และพารามิเตอร์อื่น ๆ เช่น `temperature`
• ตัวอย่างคำสั่ง curl

``` curl -X POST http://localhost:11434/api/generate \ -H "Content-Type: application/json" \ -d '{"modelllama2:7b","promptอะไรคือ AI?","temperature":0.7}' ```

ผลลัพธ์จะกลับมาเป็น JSON ที่มีฟิลด์ `response` ซึ่งเป็นข้อความที่โมเดลสร้าง

การเปรียบเทียบวิธีติดตั้ง — Installation Comparison

เคล็ดลับและข้อควรระวัง — Tips & Caveats

• อัพเดตภาพ Docker อย่างสม่ำเสมอ เพื่อติดตั้งแพตช์ความปลอดภัยล่าสุด
• ใช้ Docker volume แบบ read‑only สำหรับไฟล์คอนฟิกที่ไม่ต้องแก้ไข (`-v config:/etc/ollama:ro`)
• ตรวจสอบ log ของ container อย่างสม่ำเสมอด้วย `docker logs ollama-secure` เพื่อตรวจจับพฤติกรรมผิดปกติ

Tip: หากต้องการให้หลายผู้ใช้เข้าถึงโมเดลในเครือข่ายภายใน ให้ตั้ง reverse proxy (เช่น Nginx) พร้อม TLS termination แทนการเปิดพอร์ตโดยตรง

สรุป — Summary

การรัน LLM บนเครื่องส่วนตัวด้วย Ollama + Docker ทำให้คุณควบคุมข้อมูลและทรัพยากรได้อย่างเต็มที่ การตั้งค่า isolation, resource limits และ security options เป็นขั้นตอนสำคัญเพื่อความปลอดภัย

• ติดตั้ง Docker ก่อน แล้วดึง image ของ Ollama
• ดึงโมเดลที่ต้องการเก็บไว้ใน volume ที่มีสิทธิ์จำกัด
• รัน container ด้วย user namespace, memory/CPU limits และ seccomp profile
• เชื่อมต่อผ่าน API อย่างระมัดระวังและใช้ TLS หรือ reverse proxy หากเปิดให้ผู้ใช้งานภายนอก

ทำตามขั้นตอนเหล่านี้ คุณจะได้ระบบ LLM ส่วนตัวที่ปลอดภัย ใช้ทรัพยากรอย่างมีประสิทธิภาพ และพร้อมขยายต่อในอนาคต.