Temperature và các tham số trong Google AI Studio nghĩa là gì

Khi mở Google AI Studio, ngoài ô nhập câu hỏi bạn sẽ thấy một cột tham số: Temperature, Top-P, Top-K, Max output tokens, Stop sequence... Nhiều người bỏ qua vì không hiểu, nhưng chỉ cần nắm vài khái niệm là bạn điều khiển được việc AI trả lời “chắc chắn, nhất quán” hay “bay bổng, đa dạng”.

Bài này giải thích bằng ví dụ đời thường, không dùng toán. Giao diện và tên tham số có thể khác đôi chút theo phiên bản, hãy xem như hướng dẫn chung. Nếu bạn chưa biết AI Studio là gì, hãy đọc trước cách dùng Google AI Studio thử nghiệm mô hình AI.

Mô hình AI sinh câu trả lời như thế nào

Mô hình ngôn ngữ không “nhớ sẵn” câu trả lời. Nó đoán từng mảnh chữ tiếp theo (gọi là token) dựa trên những gì đã có. Ở mỗi bước, mô hình có một danh sách ứng viên cùng độ “có vẻ hợp lý” của từng ứng viên. Các tham số bên dưới quyết định cách chọn từ danh sách đó.

Hình dung bạn là nhân viên cửa hàng được hỏi “nên mua laptop nào cho sinh viên?”. Bạn có vài câu trả lời nghĩ ra, và tham số quyết định bạn chọn câu quen thuộc nhất hay thử cách nói mới.

Temperature: mức độ “liều” khi chọn từ

Temperature (nhiệt độ) điều chỉnh độ ngẫu nhiên.

• Giá trị thấp: mô hình chọn lựa chọn có khả năng cao nhất, câu trả lời ổn định, ít bất ngờ, lặp lại gần giống nhau mỗi lần hỏi. Hợp với trích xuất dữ liệu, phân loại, viết code, trả lời dựa trên tài liệu.
• Giá trị cao: mô hình cho phép chọn cả những lựa chọn ít phổ biến hơn, nên câu trả lời đa dạng, sáng tạo hơn nhưng dễ lạc đề hoặc nói thiếu chính xác. Hợp với động não ý tưởng, viết slogan, kịch bản quảng cáo.

Ví dụ cửa hàng: nhờ AI trích xuất tên và số điện thoại từ 100 tin nhắn thì nên đặt temperature thấp để kết quả nhất quán. Nhờ AI nghĩ 10 tên chiến dịch khuyến mãi thì có thể tăng lên để có nhiều ý tưởng khác nhau. Khoảng giá trị cho phép và giá trị mặc định tùy mô hình, hãy xem ngay trên giao diện.

Top-P và Top-K: giới hạn danh sách ứng viên

Hai tham số này cắt bớt danh sách ứng viên trước khi chọn.

Top-K chỉ cho mô hình chọn trong K ứng viên khả dĩ nhất. K nhỏ thì câu trả lời an toàn, K lớn thì rộng hơn. Ví dụ K bằng 1 nghĩa là luôn lấy ứng viên số 1.

Top-P (còn gọi nucleus sampling) chọn nhóm ứng viên nhỏ nhất mà tổng xác suất đạt P. Hình dung bạn xếp ứng viên từ khả năng cao đến thấp rồi lấy dần cho đến khi “đủ P phần trăm”. P nhỏ thì nhóm hẹp, P gần 1 thì nhóm rộng.

Cả ba tham số cùng ảnh hưởng đến độ ngẫu nhiên. Cách an toàn là chỉ chỉnh một tham số mỗi lần để thấy rõ tác dụng, thường bắt đầu với temperature và để Top-P, Top-K ở mặc định.

Max output tokens: giới hạn độ dài trả lời

Max output tokens là số token tối đa AI được phép viết trong một lần trả lời. Đặt quá thấp, câu trả lời có thể bị cắt giữa chừng. Đặt cao thì cho phép trả lời dài. Một token không phải là một từ: tiếng Việt thường tốn nhiều token hơn tiếng Anh cho cùng nội dung. Nếu thấy câu trả lời bị đứt, hãy tăng giá trị này hoặc yêu cầu AI viết ngắn gọn hơn.

Các tham số khác bạn có thể gặp

• System instructions (Chỉ dẫn hệ thống): đặt vai trò và quy tắc chung, ví dụ “Bạn là nhân viên tư vấn máy tính, trả lời ngắn gọn bằng tiếng Việt, không bịa thông số”. Mô hình áp dụng cho cả cuộc trò chuyện.
• Stop sequence (Chuỗi dừng): khi AI viết ra chuỗi này thì dừng. Dùng khi bạn cần định dạng đầu ra cố định.
• Safety settings (Cài đặt an toàn): điều chỉnh mức lọc nội dung có hại. Giữ ở mức mặc định nếu không có lý do đặc biệt.
• Cài đặt về mức “suy nghĩ” hoặc thinking: có ở một số mô hình, cho phép mô hình suy luận nhiều bước hơn trước khi trả lời. Có hay không tùy mô hình bạn chọn.
• Đầu ra có cấu trúc (JSON mode): yêu cầu kết quả theo định dạng cố định, tiện cho việc đưa vào phần mềm.

Gợi ý chọn cấu hình theo việc

1. Tóm tắt, trích xuất, phân loại: temperature thấp, để Top-P và Top-K mặc định.
2. Viết code, công thức Excel: temperature thấp, kiểm tra lại kết quả trước khi chạy. Xem cách dùng AI tìm lỗi trong đoạn code.
3. Viết nội dung bình thường (bài viết, email): mức trung bình.
4. Động não, đặt tên, ý tưởng quảng cáo: tăng temperature vừa phải rồi chọn lọc.
5. Câu trả lời bị cụt: tăng max output tokens.

Cách tốt nhất là thử: chạy cùng một câu hỏi 3 lần ở hai mức khác nhau và xem kết quả khác nhau thế nào. Câu hỏi càng rõ ràng thì càng ít phụ thuộc vào tham số; hãy xem cách viết câu lệnh prompt để AI trả lời đúng ý và cách sửa prompt khi AI trả lời lạc đề.

Lưu ý khi thử nghiệm

Không dán dữ liệu khách hàng, mật khẩu, khóa API hay giấy tờ cá nhân vào AI Studio. Hãy dùng dữ liệu mẫu để thử. Tên các tham số, giá trị mặc định và giới hạn có thể thay đổi nên đừng xem số liệu trong bài này là cố định.

Cần hỗ trợ thêm?

Nếu bạn cần ứng dụng AI hoặc phần mềm tùy chỉnh cho doanh nghiệp, hãy xem phần mềm theo yêu cầu hoặc liên hệ cửa hàng qua hotline hay Zalo 0943.847.333 để được tư vấn.