Giọng nói (ASR/TTS)Dùng thương mại đượcHỗ trợ tiếng Việt
Whisper large-v3-turbo: cần bao nhiêu VRAM, GPU nào để chạy
OpenAI phát hành Whisper large-v3-turbo với 809 triệu tham số. Bảng dưới ước tính bộ nhớ GPU cho từng cách dùng để bạn chọn đúng máy chủ trước khi đầu tư. Bản rút gọn bộ giải mã của large-v3, nhẹ hơn khoảng một nửa.
Thông số
- Hãng phát triển
- OpenAI
- Họ mô hình
- Whisper
- Nhóm
- Giọng nói (ASR/TTS)
- Số tham số
- 809 triệu tham số
- Giấy phép
- MIT — dùng thương mại được
- Tiếng Việt
- Có trong danh sách ngôn ngữ hãng công bố
- Ứng dụng gợi ý
- Chuyển giọng nói thành văn bản · Tổng đài · Xử lý hàng loạt
VRAM ước tính theo độ chính xác
Chỉ gồm trọng số, gradient/optimizer (khi huấn luyện) và dự phòng — bộ nhớ theo độ phân giải ảnh, độ dài audio hay batch cần đo thực tế. Đã gồm dự phòng CUDA/framework.
| Tác vụ | FP32 | BF16 | FP8 / INT8 | INT4 |
|---|---|---|---|---|
| Suy luận (1 người dùng) | 4,4 GB | 2,6 GB | 1,7 GB | 1,3 GB |
| Fine-tune LoRA | — | 2,7 GB | 1,8 GB | — |
| Fine-tune QLoRA | — | — | — | 1,4 GB |
| Fine-tune toàn phần | 15,7 GB | 15,7 GB | — | — |
"—" là tổ hợp không dùng trong thực tế. GB = 10⁹ byte; VRAM hãng ghi theo GiB nên card thực tế dư thêm khoảng 7%.
Phương án GPU gợi ý
Số card ít nhất đủ VRAM, ưu tiên cân bằng giữa số lượng, độ dư bộ nhớ và giá card.
- Suy luận 4-bitcần ~1,3 GB
1 × NVIDIA L4 24GB · 24 GB · ~94 W · card ~68.500.000 ₫
Một card là đủ — đơn giản nhất để triển khai.
Tính với nhiều người dùng / context dài hơn - Suy luận BF16 (chất lượng gốc)cần ~2,6 GB
1 × NVIDIA L4 24GB · 24 GB · ~94 W · card ~68.500.000 ₫
Một card là đủ — đơn giản nhất để triển khai.
Tính với nhiều người dùng / context dài hơn - Fine-tune QLoRAcần ~1,4 GB
1 × NVIDIA L40S 48GB · 48 GB · ~455 W · card ~168.000.000 ₫
Một card là đủ — đơn giản nhất để triển khai.
Tính với nhiều người dùng / context dài hơn
Giá là giá tham khảo riêng card GPU, chưa gồm máy chủ và VAT.
Máy chủ HQG chạy được Whisper large-v3-turbo
Máy hỗ trợ từ 1 GPU trở lên — đủ khe cho phương án suy luận BF16 ở trên. Cấu hình GPU cụ thể do kỹ sư HQG tư vấn.
AI Ready
Cần triển khai Whisper large-v3-turbo cho doanh nghiệp?
HQG tư vấn cấu hình, lắp đặt máy chủ GPU và cài sẵn môi trường chạy mô hình tại hạ tầng của bạn.
Thông tin tham khảo, kiểm tra giấy phép trước khi dùng thương mại. Số tham số và kiến trúc lấy từ trang chính chủ; mức VRAM là ước tính theo công thức, không phải đo thực tế. Dữ liệu cập nhật 09/2026. Nguồn: huggingface.co/openai/whisper-large-v3-turbo.