RAM bao nhiêu là đủ để chạy AI cục bộ trên PC

Khi chạy chatbot AI ngay trên máy tính bằng các phần mềm như Ollama hay LM Studio, câu hỏi hay gặp là RAM bao nhiêu thì đủ. Câu trả lời ngắn gọn: 16GB là mức khởi điểm cho mô hình nhỏ, 32GB là mức thoải mái cho đa số người dùng, còn 64GB trở lên dành cho người muốn thử mô hình lớn. Nhưng RAM chỉ là một nửa câu chuyện, nửa còn lại là VRAM của card đồ họa.

Bài này giải thích mối quan hệ giữa RAM, VRAM và kích thước mô hình, để bạn biết nên nâng cấp RAM hay card trước. Nếu chưa biết cách chạy AI trên máy, đọc cách chạy AI ngay trên máy tính bằng LM Studio, Ollama.

RAM và VRAM khác nhau thế nào khi chạy AI?

Mô hình AI là một file lớn chứa hàng tỉ tham số. Khi chạy, nó cần được nạp vào bộ nhớ:

• VRAM là bộ nhớ riêng của card đồ họa, rất nhanh. Mô hình nằm gọn trong VRAM thì chạy nhanh nhất.
• RAM là bộ nhớ hệ thống. Nếu mô hình không đủ chỗ trong VRAM, phần mềm có thể chia một phần sang RAM, hoặc chạy hoàn toàn bằng CPU với RAM. Cách này chạy được nhưng chậm hơn rõ.

Vì vậy, RAM đóng vai trò dự phòng và là chỗ chạy khi máy không có card rời mạnh. Xem thêm bài VRAM card đồ họa bao nhiêu GB là đủ.

Ước lượng RAM theo kích thước mô hình

Dung lượng một mô hình phụ thuộc vào số tham số và độ nén (lượng tử hóa). Một số ước lượng thô, mang tính tham khảo và thay đổi theo phần mềm cùng độ dài ngữ cảnh:

• Mô hình cỡ 7–8 tỉ tham số, lượng tử hóa 4-bit: thường cần khoảng 5–6GB bộ nhớ cho riêng mô hình.
• Mô hình cỡ 13–14 tỉ tham số, 4-bit: khoảng 8–10GB.
• Mô hình rất lớn cỡ 70 tỉ tham số, 4-bit: cần từ khoảng 40GB trở lên, vượt khả năng của hầu hết máy cá nhân.

Ngoài mô hình, Windows và các ứng dụng đang mở (trình duyệt nhiều tab đặc biệt ngốn RAM) cũng cần chỗ. Quy tắc dễ nhớ: RAM nên lớn hơn dung lượng mô hình ít nhất vài GB, rồi cộng thêm phần cho hệ điều hành.

Chọn mức RAM theo nhu cầu

16GB: đủ để thử, chạy mô hình nhỏ

Phù hợp khi bạn chỉ muốn thử chatbot cục bộ với mô hình 7–8 tỉ tham số đã lượng tử hóa. Cần đóng bớt ứng dụng nền. Nếu máy chỉ có 8GB RAM, nên nâng lên ít nhất 16GB trước khi nghĩ tới AI cục bộ. Xem có nên nâng cấp RAM cho laptop, cách kiểm tra.

32GB: mức thoải mái cho đa số

Vừa làm việc, vừa chạy mô hình cỡ trung và có chỗ cho trình duyệt, công cụ lập trình. Nếu bạn cũng chơi game hoặc tạo ảnh bằng AI thì đây là mức dễ chịu. Trong hàng đang bán có các kit DDR5 32GB (2x16GB) của TeamGroup, G.Skill và Corsair.

64GB trở lên: mô hình lớn hoặc nhiều việc cùng lúc

Dành cho người muốn chạy mô hình lớn hơn, bộ dữ liệu lớn hoặc nhiều tác vụ nặng cùng lúc. Nhớ rằng RAM nhiều không bù hết nếu tốc độ chạy bằng CPU quá chậm. Với mô hình lớn, VRAM mới quyết định tốc độ.

Những điều cần biết khi mua và nâng cấp RAM

1. Đúng chuẩn: DDR4 và DDR5 không dùng lẫn. Hãy xem mainboard (hoặc laptop) hỗ trợ chuẩn nào. Công cụ Build PC giúp kiểm tra tương thích.
2. Kênh đôi: hai thanh RAM bằng nhau (ví dụ 2x16GB) thường cho băng thông tốt hơn một thanh lớn, lợi cho tốc độ chạy AI bằng CPU.
3. Số khe: kiểm tra mainboard còn khe trống không, hoặc có hỗ trợ tối đa bao nhiêu GB.
4. Laptop: nhiều máy hàn sẵn RAM, không nâng cấp được. Hãy xem thông số trước khi mua.
5. Tốc độ (bus) và độ trễ: có ích nhưng ít quan trọng bằng dung lượng khi chạy AI cục bộ.

Nếu bạn cân nhắc giữa nâng RAM và nâng card, xem PC gaming cần RAM bao nhiêu GB là đủ để biết mức tối ưu cho game, rồi cộng thêm nhu cầu AI.

Nên nâng cấp RAM hay card đồ họa trước?

• Nếu mô hình bạn muốn chạy nằm vừa trong VRAM của card hiện tại: RAM 16–32GB là đủ, đầu tư vào RAM không làm mô hình nhanh hơn nhiều.
• Nếu mô hình lớn hơn VRAM và máy đang chạy rất chậm: tăng RAM giúp chạy được, nhưng tăng VRAM (đổi card) mới giúp nhanh.
• Nếu máy không có card rời: tăng RAM là cách duy nhất giúp chạy mô hình lớn hơn, chấp nhận chậm.

Cần hỗ trợ thêm?

Bạn có thể xem các lựa chọn tại danh mục RAM, hoặc mang máy tới cửa hàng để kiểm tra khe RAM và chuẩn đang dùng trước khi mua. Gọi hotline 0943.847.333 nếu cần tư vấn.