Local AI with Ollama on Kaggle ( NVIDIA T4 16GB GPUx2 Free !!! )

Local AI with Ollama on Kaggle ( NVIDIA T4 16GB GPUx2 Free !!! )

https://www.kaggle.com/
ใน Kaggle มี  NVIDIA T4 16GB x2 ให้ใช้ได้ฟรี 30 ชั่วโมง
ดังนั้น มี GPU RAM ได้ถึง 32 GB เอามา RUN ollama Local AI ได้

สมัครทดลองใช้กันได้เลย !!!




😃 ollama model ที่น่าใช้

✅ 'qwen3.5:9b'    file size 7.6 GB   ( 256K Text,Image )
✅ 'qwen3.8:27b'    file size 18 GB   ( 256K Text,Image )
✅ 'qwen3.6:35b'    file size 23 GB   ( 256K Text,Image )

✅ 'gemma4:e4b'    file size  9.5 GB  ( 128K Text,Image )
✅ 'gemma4:31b'    file size  20 GB   ( 256K Text,Image )

( ollama model จะเป็น GGUF 4 bit )


Qwen3.8-27B

ข้อดีของ Qwen3.8-27B Model สำหรับ Local AI

Qwen3.8-27B หากหมายถึงโมเดลที่คุณกำลังทดสอบผ่าน Ollama บน Kaggle ด้วย NVIDIA T4 16GB × 2 จุดเด่นที่ควรพิจารณาคือความสามารถในการใช้เหตุผล การเขียนโค้ด และการนำไปสร้างระบบ AI Agent โดยรันโมเดลบนเครื่องหรือเซิร์ฟเวอร์ที่คุณควบคุมเองได้

คุณสมบัติ

ประโยชน์

Thinking Mode

ให้ AI ใช้การคิดวิเคราะห์กับโจทย์ซับซ้อน

Vision-Language

วิเคราะห์ภาพ เอกสาร และวิดีโอ

Tool Calling

เรียกใช้เครื่องมือและ API ผ่านระบบที่รองรับ

Long Context

รองรับบริบท 262,144 tokens ตามสเปกโมเดล

Structured Output

สร้างผลลัพธ์ JSON สำหรับเชื่อมต่อโปรแกรม

Open-weight

นำไปติดตั้งและพัฒนาระบบเองได้ ภายใต้เงื่อนไขไลเซนส์

https://huggingface.co/Qwen/Qwen3.8-27B

https://ollama.com/library/qwen3.8


Qwen3.6-35B-A3B

เหมาะกับงานอะไรบ้าง?

งาน

ความเหมาะสม

Coding Assistant / Code Agent

สูง

OpenClaw AI Agent

สูง

RAG และ Knowledge Base

สูง เมื่อเชื่อมต่อระบบค้นคืนข้อมูล

SQL Agent / Data Analysis

สูง เมื่อเชื่อมต่อฐานข้อมูลและตรวจสอบคำสั่ง

วิเคราะห์ภาพและวิดีโอ

รองรับ ต้องใช้ Vision Runtime

Chatbot ภาษาไทย

น่าทดลองและประเมินกับข้อมูลจริง

OCR เอกสารภาษาไทย

ใช้ช่วยทำความเข้าใจเอกสารได้ แต่ไม่ใช่การรับประกันความแม่นยำ OCR


ข้อสังเกต
MoE ที่เปิดใช้งาน 3B พารามิเตอร์ต่อ Token ไม่ได้หมายความว่าจะใช้ VRAM เพียงเท่าโมเดล 3B เพราะยังต้องเก็บน้ำหนักของโมเดลขนาด 35B ไว้ในหน่วยความจำ GPU หรือ RAM ตามการตั้งค่า





😃 ผลการ RUN

qwen3.5: 9b    - eval rate:   29.98 tokens/s ( GPU0 7.2 GB, GPU1 0 GB )
qwen3.8: 27b  - eval rate:   11.22 tokens/s ( GPU0  10.1 GB, GPU1  10.1 GB )
qwen3.6: 35b  - eval rate:    43.12 tokens/s ( GPU0 12.1 GB, GPU1 11.6 GB ) ✅

gemma4: e4b - eval rate:     42.88 tokens/s ( GPU0  5.4 GB, GPU1  0 GB )
gemma4: 31b - eval rate:     14.37 tokens/s ( GPU0 12.7 GB, GPU1 11.8 GB )




https://www.kaggle.com/

Code on Kaggle
Reference
ollama documents
https://docs.ollama.com/


Adun Nantakaew อดุลย์ นันทะแก้ว
 LINE : adunnan

ความคิดเห็น

แสดงความคิดเห็น

โพสต์ยอดนิยมจากบล็อกนี้

Open Source IoT Platform

รูปภาพ
 Open Source IoT Platform ระบบ Internet of Things ระบบ Internet of Things หรือ  IoT จะมาช่วยพัฒนาธุรกิจ และชีวิตความเป็นอยู่ของผู้คนได้อย่างมากมาย  เช่น งานทางด้านอุตสาหกรรม หรือบางทีก็เรียกเป็น Industrial Internet of Things ( IIoT ) งานทางด้าน Smart Home , Smart Office งานทางด้าน Smart Farming พัฒนาด้านการเกษตร หรือ ด้านสุขภาพ Healthcare  , Smart city และ อื่นๆ  สามารถนำไปร่วมพัฒนากับธุรกิจการงาน และชีวิตความเป็นอยู่ได้อย่างมากมาย ส่วนประกอบ ของ IoT IoT Devices หรือ Things หรือ Edge Devices เป็นอุปกรณ์ IoT ที่ต่อรับข้อมูลจาก Sensor ต่างๆ หรือ เป็นอุปกรณ์ควบคุม Output ต่างๆ เช่น หลอดไฟ หรือ มอเตอร์ IoT Gateway หรือ เป็น local server อาจจะเรียกอีกแบบ เป็น Fog Computing เป็นตัวเก็บข้อมูลภายใน ก่อนที่จะข้อมูลออกไปยัง Internet  หรือไปยัง Cloud Server IoT Cloud Server หรือ  Cloud Computing เป็นอุปกรณ์สำหรับข้อมูล และ ประมวลผล อยู่บน Internet ทำให้สามารถ เชื่อมต่อข้อมูลได้ ทุกที่ ที่สามารถเชื่อมต่อเข้า Internetได้ Mobile Apps สำหรับให้ผู้ใช้งาน เชื่อมต่อ...
อ่านเพิ่มเติม

ทดลอง ติดตั้งใช้งาน OpenClaw บน Local PC/Notebook ด้วย Ubuntu

รูปภาพ
ทดลอง ติดตั้งใช้งาน OpenClaw บน Local PC/Notebook ด้วย Ubuntu 🧠 แนวคิดก่อนติดตั้ง OpenClaw is a personal AI assistant you run on your own devices. https://openclaw.ai/ OpenClaw เป็น AI agent + automation system จะต้องมีองค์ประกอบหลัก: Python (backend) Node.js (frontend บางส่วน) LLM backend (เช่น local model หรือ API ) What you need Hardware Local PC or Notebook with Ubuntu support. ( We've tested on Ubuntu 22.04.5 LTS ) Software  Node.js — Node 24 recommended (Node 22.14+ also supported) LLM API key from a model provider (Anthropic, OpenAI, Google, etc.)  onboarding will prompt you   Install OpenClaw curl -fsSL https://openclaw.ai/install.sh | bash Run onboarding openclaw onboard --install-daemon   Security First. Openclaw doctor Config Gateway Service Config Gateway Connection Verify the Gateway is running openclaw gateway status Open the dashboard openclaw dashboard     Uninstall OpenClaw 1. Stop the Gateway Service Ensure the service is not ...
อ่านเพิ่มเติม

OpenClaw Local AI Models with Ollama

รูปภาพ
OpenClaw Local AI Models with Ollama Test Ollama and Local Model on your hardware ดาวน์โหลดและติดตั้ง Ollama  https://ollama.com/download Check Ollama version เลือก local Model ที่ต้องการใช้งาน โมเดลที่แนะนำสำหรับ OpenClaw ขึ้นอยู่กับ System RAM , GPU RAM VRAM Model  8 GB          qwen3.5:4b 12 GB  qwen3.5:9b 16 GB gemma4 (e4b) 24 GB qwen3.5:27b 48 GB qwen3.5:72b Qwen3.5   https://ollama.com/library/qwen3.5 เลือกใช้ qwen3.5 4b , 9b มาลลองทดสอบดู ถ้าใช้งาน ร่วมกับ NVIDIA GPU check NVIDIA-SMI Test on NVIDIA RTX4060 8GB Laptop GPU Run ollama serve เริ่ม ทำงาน ollama server ทดสอบ Run Ollama บน hardware ที่ใช้ ว่า พอทำงานได้ไหวไหม  ollama run qwen3.5:9b --verbose ollama run qwen3.5:4b --verbose ollama list ดู model และ ขนาดของ memory ที่ใช้ Model Performance qwen3.5:4b    eval rate 46.47 tokens/S qwen3.5:9b     eval rate 22.67 tokens/S You can NVTOP to monitor GPU Install nvtop  :    sudo apt insta...
อ่านเพิ่มเติม