Cài Ollama trên Windows 11 từng bước cho người mới

Ollama là phần mềm miễn phí giúp bạn chạy các mô hình AI ngay trên máy tính của mình, không cần gửi câu hỏi lên máy chủ bên ngoài. Cài xong, bạn chỉ cần một câu lệnh để tải mô hình về và trò chuyện. Với người mới, điều khó nhất thường là không biết bắt đầu từ đâu và máy mình có chạy nổi không.

Bài này hướng dẫn từng bước trên Windows 11, kèm các lệnh cơ bản và cách dọn dung lượng. Tên menu, giao diện và lệnh có thể thay đổi theo phiên bản Ollama, bạn hãy đối chiếu với tài liệu chính thức khi thấy khác.

Trước khi cài: kiểm tra máy của bạn

Mô hình càng lớn càng cần nhiều RAM hoặc VRAM (bộ nhớ của card đồ họa). Ước lượng tham khảo: mô hình cỡ nhỏ khoảng 3 tỷ tham số chạy được trên máy RAM 8GB nhưng sẽ khá chật, còn mô hình 7–8 tỷ tham số lượng tử hóa 4-bit thường cần khoảng 5–6GB VRAM nếu chạy bằng card đồ họa, tùy phần mềm và độ dài ngữ cảnh. Không có card rời, Ollama vẫn chạy bằng CPU nhưng chậm hơn.

Nếu chưa chắc, xem VRAM card đồ họa bao nhiêu GB là đủ và cách chọn card đồ họa để chạy AI trên máy. Bạn cũng nên còn trống vài chục GB ổ cứng vì mỗi mô hình tải về nặng từ vài GB trở lên.

Cài Ollama từng bước

1. Mở trình duyệt và vào trang chính thức của Ollama (gõ “Ollama” trên Google, chọn kết quả của dự án, kiểm tra đúng tên miền trước khi tải).
2. Chọn Download, chọn bản dành cho Windows.
3. Mở file cài đặt vừa tải (thường tên là OllamaSetup.exe) bằng cách bấm đúp.
4. Nếu Windows hỏi quyền, bấm Yes (Có). Bấm Install (Cài đặt) và đợi hoàn tất.
5. Sau khi cài, Ollama chạy ngầm và biểu tượng thường hiện ở khay hệ thống (góc phải thanh tác vụ). Bản mới còn có thể có cửa sổ ứng dụng để trò chuyện, tùy phiên bản.

Chạy mô hình AI đầu tiên

Cách dùng cổ điển và ổn định nhất là qua cửa sổ dòng lệnh.

1. Bấm chuột phải vào nút Start, chọn Terminal (Terminal) hoặc Windows PowerShell.
2. Gõ lệnh sau để kiểm tra Ollama đã cài, rồi bấm Enter:

ollama --version

1. Gõ lệnh sau để tải và chạy một mô hình nhỏ. Lần đầu máy phải tải về nên cần đợi:

ollama run llama3.2

1. Khi thấy dấu nhắc, gõ câu hỏi của bạn và bấm Enter.
2. Để thoát khỏi cuộc trò chuyện, gõ /bye rồi bấm Enter.

Tên mô hình có thể đổi theo thời gian, bạn có thể tìm mô hình khác trong thư viện của Ollama trên trang chính thức. Hãy chọn kích thước vừa với RAM hoặc VRAM của máy.

Các lệnh cơ bản nên biết

• ollama list: xem các mô hình đã tải về máy.
• ollama pull tên-mô-hình: chỉ tải mô hình, chưa chạy.
• ollama ps: xem mô hình nào đang nạp trong bộ nhớ.
• ollama rm tên-mô-hình: xóa mô hình để lấy lại dung lượng.

Mặc định Ollama lưu mô hình trong thư mục người dùng, thường là C:\Users\TÊN_BẠN\.ollama\models. Nếu ổ C đầy, bạn nên dọn bớt mô hình không dùng bằng lệnh xóa ở trên.

Dùng AI chạy trên máy cho việc gì

Bạn có thể dùng để tóm tắt văn bản, soạn thảo, hỏi đáp, viết code cơ bản mà dữ liệu không rời khỏi máy. Mô hình nhỏ chạy trên máy cá nhân thường không giỏi bằng các dịch vụ AI lớn trên mạng, nhất là với tiếng Việt, nên đừng kỳ vọng quá cao. Nếu muốn giao diện kéo thả dễ dùng hơn, xem cách chạy AI ngay trên máy tính bằng LM Studio.

Xử lý lỗi thường gặp

• Gõ ollama báo “không nhận ra lệnh”: đóng Terminal, mở lại. Nếu vẫn lỗi, cài lại Ollama hoặc khởi động lại máy.
• Tải mô hình rất chậm hoặc đứt: kiểm tra mạng, thử lại. Lệnh tải thường tiếp tục được phần đã tải.
• Máy đứng hoặc rất chậm khi chạy: mô hình quá lớn so với RAM hoặc VRAM. Thử mô hình nhỏ hơn và đóng các ứng dụng nặng.
• Không dùng được card đồ họa: kiểm tra driver card đã cập nhật từ trang chính thức của NVIDIA hoặc AMD. Mức hỗ trợ từng dòng card thay đổi theo phiên bản, hãy xem tài liệu của Ollama.
• Quạt kêu to, máy nóng: chạy mô hình dùng nhiều tài nguyên. Nên để máy thoáng gió và đừng chạy liên tục nhiều giờ nếu máy đang nóng bất thường.

Lưu ý an toàn

Chỉ tải mô hình từ thư viện chính thức của Ollama hoặc nguồn bạn tin cậy, tránh các file mô hình và tiện ích lạ. Mô hình AI có thể trả lời sai, nên hãy kiểm tra lại thông tin quan trọng. Dù chạy trên máy, bạn vẫn nên cẩn thận với dữ liệu nhạy cảm nếu bạn cài thêm phần mềm giao diện hoặc mở dịch vụ ra mạng.

Cần hỗ trợ thêm?

Nếu máy bạn chạy AI còn chậm, có thể bạn cần thêm RAM hoặc card đồ họa nhiều VRAM hơn. Hãy xem công cụ Build PC để kiểm tra tương thích linh kiện, hoặc mang máy tới cửa hàng để được kiểm tra miễn phí và báo giá trước khi nâng cấp. Bạn cũng có thể xem dịch vụ IT nếu cần hỗ trợ cài đặt.