Nhập đúng nhu cầu vận hành, nhận ngay khuyến nghị GPU, số lượng card cần mua và máy chủ tương thích.
VRAM ≈ số tham số (tỷ) × 1.2 khi lượng tử FP8/INT8
80GB HBM2e 1.94TB/s
24GB GDDR6 300GB/s
80GB HBM3 3.35TB/s
Sắp xếp theo điểm phù hợp với nhu cầu đã nhập
| GPU | VRAM | TDP | FP16 TFLOPS | INT8 TOPS | NVLink | Form factor | Đơn giá | Số card cần | Tổng tiền |
|---|---|---|---|---|---|---|---|---|---|
| NVIDIA A100 80GB PCIeTốt nhất | 80GB | 300W | 624 | 1.248 | Có | PCIe Gen4 double-width | 285.000.000 ₫ | 3 | 855.000.000 ₫ |
| NVIDIA A100 40GB PCIe | 40GB | 250W | 624 | 1.248 | Có | PCIe Gen4 double-width | 178.000.000 ₫ | 5 | 890.000.000 ₫ |
| NVIDIA L4 24GB | 24GB | 72W | 242 | 485 | Không | PCIe single-slot low-profile | 68.500.000 ₫ | 9 | 616.500.000 ₫ |
| NVIDIA L40S 48GB | 48GB | 350W | 733 | 1.466 | Không | PCIe Gen4 double-width | 168.000.000 ₫ | 5 | 840.000.000 ₫ |
| NVIDIA H100 NVL 80GB PCIe | 80GB | 350W | 1.671 | 3.341 | Có | PCIe Gen5 double-width | 620.000.000 ₫ | 3 | 1.860.000.000 ₫ |
| NVIDIA H100 SXM5 80GB | 80GB | 700W | 1.979 | 3.958 | Có | SXM5 (chỉ trong server chuyên dụng) | 780.000.000 ₫ | 3 | 2.340.000.000 ₫ |
| NVIDIA A16 64GB (4x16GB) | 64GB | 250W | 143 | 286 | Không | PCIe double-width | 96.000.000 ₫ | 4 | 384.000.000 ₫ |
| NVIDIA RTX 6000 Ada 48GB | 48GB | 300W | 728 | 1.457 | Không | PCIe Gen4 double-width | 195.000.000 ₫ | 5 | 975.000.000 ₫ |
Lọc theo số khe GPU tối thiểu cần thiết
Cấu hình này cần máy chủ chuyên dụng — hãy liên hệ kỹ sư HQG để được tư vấn nền tảng phù hợp (SXM/HGX).
Giả định: 1 triệu token ≈ 8 USD (giá tham khảo API LLM thương mại phổ biến)
Giả định vận hành 24/7, mỗi phiên thực hiện ~20 lượt hỏi–đáp/ngày. Đây là ước tính tham khảo — chi phí thực tế phụ thuộc mức sử dụng và nhà cung cấp cloud.