Dùng 2 card đồ họa để chạy AI có được không

Câu trả lời ngắn gọn: có thể, nhưng không phải lúc nào cũng đáng. Một số phần mềm chạy mô hình AI trên máy có thể chia công việc cho hai card, nhờ đó chạy được mô hình lớn hơn dung lượng VRAM của một card. Nhưng nhiều phần mềm khác chỉ dùng một card, và hai card kéo theo nhiều yêu cầu về mainboard, nguồn, case, nhiệt.

Bài này giúp bạn quyết định có nên lắp thêm card thứ hai hay chỉ nên đổi sang một card nhiều VRAM hơn. Nền tảng chọn card cho AI có trong bài cách chọn card đồ họa để chạy AI trên máy.

VRAM của hai card có cộng lại được không

Đây là hiểu lầm phổ biến nhất. Hai card 12GB không tự biến thành một card 24GB cho mọi phần mềm. Mỗi card có bộ nhớ riêng, và phần mềm phải được viết để chia mô hình ra giữa hai card.

Với các công cụ chạy mô hình ngôn ngữ trên máy, một số hỗ trợ chia các lớp (layer) của mô hình giữa nhiều card. Khi đó mô hình lớn có thể nằm trải trên VRAM cả hai card. Tuy nhiên, hỗ trợ này khác nhau theo phần mềm và phiên bản, bạn cần xem tài liệu chính thức của phần mềm bạn định dùng.

Với các việc khác như tạo ảnh, nhiều công cụ thường chạy trên một card, hai card chủ yếu giúp bạn chạy hai tác vụ song song chứ không làm một tác vụ nhanh gấp đôi.

Khi nào hai card có ích

• Bạn chạy mô hình ngôn ngữ lớn mà một card không đủ VRAM, và phần mềm bạn dùng hỗ trợ chia nhiều card.
• Bạn muốn một card để chạy AI và một card để chơi game hoặc hiển thị.
• Bạn đã có sẵn một card cũ và muốn tận dụng thêm.

Ví dụ ước lượng: mô hình 7–8B tham số lượng tử hóa 4-bit thường cần khoảng 5–6GB VRAM, tùy phần mềm và độ dài ngữ cảnh. Mô hình lớn hơn cần nhiều hơn tương ứng. Những ước lượng này chỉ mang tính tham khảo, hãy xem hướng dẫn của từng mô hình.

Khi nào nên mua một card mạnh hơn thay vì hai card

Trong nhiều trường hợp, một card nhiều VRAM hơn đơn giản và ổn định hơn:

• Không cần lo phần mềm có chia được hay không.
• Không cần mainboard, nguồn, case đặc biệt.
• Ít nóng hơn, ít tiếng ồn hơn, ít điện hơn.
• Dùng tốt cho cả game và những phần mềm chỉ nhận một card.

Ví dụ trong các sản phẩm đang bán có Zotac RTX 5060 Ti 16GB, một lựa chọn VRAM cao hơn nhiều card 8GB. Để hỏi các card VRAM cao hơn hoặc báo hàng, bạn hãy liên hệ cửa hàng.

Điều kiện phần cứng để lắp hai card

Nếu quyết định vẫn lắp hai card, hãy kiểm tra từng điểm sau trước khi mua.

Mainboard

1. Có ít nhất hai khe PCIe x16 dạng đầy đủ, cách nhau đủ xa để hai card không đè lên nhau.
2. Xem sách hướng dẫn mainboard: nhiều bo chia lane thành x8/x8 khi cắm hai card, hoặc khe thứ hai chạy chậm hơn nhiều. Tốc độ này ảnh hưởng đến việc chia mô hình.
3. Nhiều mainboard cỡ mATX chỉ có một khe x16 thực dụng, khi đó khó lắp hai card.

Nguồn

Công suất nguồn phải đủ cho cả hai card cộng CPU và phần còn lại. Cách tính đơn giản là cộng công suất của CPU, hai card, rồi cộng khoảng 150W cho phần còn lại, nhưng với cấu hình hai card nên chọn nguồn dư hơn. Xem cách tính công suất nguồn máy tính cần bao nhiêu. Nguồn cần đủ đầu cấp điện PCIe cho cả hai card.

Case và tản nhiệt

• Case đủ rộng, có khoảng trống giữa hai card, luồng gió tốt.
• Card đặt sát nhau sẽ nóng hơn, quạt phải chạy to hơn. Nên cân nhắc card có thiết kế mỏng hoặc để khoảng cách.
• Bạn nên theo dõi nhiệt độ khi chạy tác vụ AI kéo dài.

Phần mềm và driver

• Hai card cùng hãng (cùng NVIDIA) thường dễ cài đặt và chạy hơn.
• Trộn card của hai hãng (NVIDIA và AMD) làm việc cài driver và chạy AI phức tạp hơn, nhiều phần mềm hỗ trợ hạn chế.
• Đọc kỹ tài liệu chính thức của phần mềm AI để biết có hỗ trợ nhiều card không.

Các bước thử trước khi mua thêm card

1. Xác định phần mềm AI bạn muốn chạy và mô hình cần dùng.
2. Đọc tài liệu chính thức xem phần mềm có hỗ trợ chia nhiều card không.
3. Kiểm tra mainboard hiện tại có khe thứ hai và chia lane thế nào.
4. Kiểm tra nguồn và case.
5. Hỏi kỹ thuật viên hoặc cửa hàng trước khi mua để tránh phải đổi.

Về việc lắp 2 card để chơi game, xem lắp 2 card màn hình trên một PC có đáng không.

Lưu ý an toàn khi lắp

Lắp thêm card là thao tác phần cứng: cần tắt máy, rút điện, chống tĩnh điện, và cắm đủ dây cấp điện cho cả hai card. Nếu bạn không tự tin, hãy nhờ kỹ thuật viên. Card nặng, lắp sai có thể làm cong khe PCIe hoặc hỏng linh kiện.

Cần hỗ trợ thêm?

Bạn có thể dùng công cụ Build PC để kiểm tra tương thích, hoặc liên hệ để được tư vấn cấu hình chạy AI phù hợp ngân sách. Muốn nâng cấp hay lắp card tại cửa hàng, xem dịch vụ sửa chữa và nâng cấp.