Khác biệt nằm ở giao thức, không chỉ ở con chip nhớ
Nhiều bộ phận IT vẫn nghĩ NVMe nhanh hơn SAS vì dùng NAND tốt hơn. Thực tế cả hai đều có thể dùng cùng loại NAND TLC của cùng một nhà sản xuất. Điểm khác biệt căn bản nằm ở lớp giao thức. SAS SSD giao tiếp qua tập lệnh SCSI, đi qua HBA hoặc RAID controller, rồi mới tới CPU. NVMe bỏ hẳn lớp SCSI, nói chuyện trực tiếp với CPU qua PCIe bằng một tập lệnh gọn hơn nhiều, được thiết kế riêng cho bộ nhớ bán dẫn thay vì kế thừa từ thời đĩa quay.
Hệ quả trực tiếp là chuỗi xử lý mỗi lệnh vào ra ngắn hơn. Với SAS, mỗi lệnh phải qua trình điều khiển HBA, qua lớp dịch SCSI, tốn thêm chu kỳ CPU và vài chục micro giây. Với NVMe, hàng đợi nằm trong bộ nhớ hệ thống, ổ đọc trực tiếp qua cơ chế doorbell. Độ trễ ghi đọc điển hình của SAS SSD doanh nghiệp rơi vào khoảng 90 đến 150 micro giây, còn NVMe cùng phân khúc thường ở mức 20 đến 80 micro giây tuỳ tải và tuỳ độ sâu hàng đợi.
Điểm này quan trọng vì nó giải thích tại sao nâng cấp NVMe đôi khi không cho kết quả như kỳ vọng. Nếu ứng dụng của bạn bị nghẽn ở CPU, ở mạng hoặc ở thiết kế truy vấn cơ sở dữ liệu, thì rút ngắn độ trễ lưu trữ từ 120 xuống 40 micro giây gần như không ai nhận ra. Ngược lại, với hệ thống mà mỗi giao dịch phải chờ hàng chục lần đọc ngẫu nhiên nối tiếp nhau, khoản tiết kiệm này cộng dồn thành khác biệt rất rõ trên thời gian đáp ứng người dùng.
- SAS SSD 12Gb/s cho băng thông khoảng 1,2 GB/s mỗi cổng, ổ dual port có thể gộp hai đường
- NVMe qua PCIe Gen4 x4 đạt khoảng 7 GB/s, Gen5 x4 gấp đôi con số này
- SATA/AHCI chỉ có 1 hàng đợi với độ sâu 32 lệnh, là nút thắt cổ chai rõ nhất
- NVMe hỗ trợ tới 65.535 hàng đợi, mỗi hàng đợi sâu 64K lệnh, khai thác tốt CPU nhiều nhân
Số hàng đợi và chuyện song song hoá thực tế
Con số 65.535 hàng đợi của NVMe nghe rất ấn tượng nhưng cần hiểu đúng. Ý nghĩa thực tế là mỗi nhân CPU có thể sở hữu một cặp hàng đợi gửi và nhận riêng, không phải tranh khoá với nhân khác. Trên máy chủ hai socket với 64 nhân chạy hàng trăm luồng đồng thời, đây là khác biệt lớn. Với SAS, mọi lệnh vẫn phải xếp hàng qua controller chung, và khi tải cao thì chính controller trở thành điểm nghẽn chứ không phải ổ đĩa.
Ngược lại, nếu tải của bạn chỉ có vài luồng ghi tuần tự, hoặc độ sâu hàng đợi hiếm khi vượt 8, thì lợi thế song song hoá của NVMe không có đất diễn. Đây là tình huống rất phổ biến ở file server phòng ban hoặc máy chủ ứng dụng nội bộ. Khi đo bằng fio với queue depth 1, chênh lệch IOPS giữa SAS SSD tốt và NVMe tầm trung có khi chỉ 20 đến 30 phần trăm, không đủ để biện minh cho chi phí nâng cấp toàn bộ nền tảng.
Khuyến nghị thực dụng là đo trước khi mua. Chạy iostat hoặc perfmon trên hệ thống hiện tại trong ít nhất một tuần làm việc, ghi lại độ sâu hàng đợi trung bình, tỷ lệ đọc ghi, kích thước khối và độ trễ đang gặp. Nếu độ trễ trung bình dưới 1 mili giây và độ sâu hàng đợi thường xuyên dưới 4, hệ thống lưu trữ của bạn chưa phải nút thắt. Tiền nên dồn vào RAM hoặc CPU trước.
Form factor: U.2, U.3 và EDSFF E3.S
U.2 là chuẩn ổ 2,5 inch dày 15mm dùng đầu nối SFF-8639, gắn được vào khay hot swap quen thuộc. Đây là dạng phổ biến nhất trong các máy chủ Dell PowerEdge và HPE ProLiant thế hệ 14 và 15. Nhược điểm là backplane phải được thiết kế riêng cho NVMe, và số khe NVMe thường ít hơn tổng số khay của máy. Khi mua máy chủ, phải xác nhận rõ cấu hình backplane chứ không chỉ đếm số khay ngoài mặt trước.
U.3 là bước tiến giải quyết đúng vấn đề đó. Backplane U.3 theo chuẩn SFF-TA-1001 cho phép cùng một khe nhận được ổ SAS, SATA hoặc NVMe, hệ thống tự nhận biết loại ổ. Điều này giúp doanh nghiệp linh hoạt hơn rất nhiều khi mở rộng dần: hôm nay lắp SAS SSD giá rẻ, năm sau thay bằng NVMe mà không phải đổi backplane. Lưu ý ổ U.2 cắm được vào khe U.3 nhưng chiều ngược lại thì không.
EDSFF E3.S là chuẩn thế hệ mới, dạng thanh mỏng dài, được thiết kế cho mật độ cao và tản nhiệt tốt hơn hẳn dạng 2,5 inch. Một máy chủ 1U có thể chứa tới 20 ổ E3.S, trong khi cùng chiều cao chỉ nhét được 10 ổ U.2. E3.S cũng chịu được ổ công suất cao hơn, phù hợp cho PCIe Gen5. Nếu bạn đang lên kế hoạch hạ tầng lưu trữ dùng năm năm tới, nên chọn nền tảng máy chủ đã hỗ trợ EDSFF.
- U.2: đầu nối SFF-8639, tương thích khay 2,5 inch, backplane phải là loại NVMe
- U.3: backplane dùng chung cho SAS, SATA và NVMe, linh hoạt khi nâng cấp dần
- E3.S: mật độ cao, tản nhiệt tốt, chuẩn tương lai cho PCIe Gen5 và Gen6
- M.2 chỉ nên dùng làm ổ khởi động, không dùng cho dữ liệu nóng vì tản nhiệt kém
Lane PCIe là tài nguyên hữu hạn, đừng tiêu hoang
Mỗi ổ NVMe chiếm 4 lane PCIe. Một CPU Xeon Scalable thế hệ 4 cung cấp 80 lane, AMD EPYC dòng Genoa cho tới 128 lane trên mỗi socket. Nghe thì nhiều, nhưng card mạng 100GbE ăn 16 lane, mỗi GPU ăn 16 lane, HBA ăn 8 lane. Nếu bạn dự định lắp 24 ổ NVMe trực tiếp, riêng lưu trữ đã tiêu 96 lane. Đây là lý do các máy chủ mật độ ổ cao thường phải dùng PCIe switch, và switch lại thêm độ trễ cùng chi phí.
Vấn đề thứ hai là tải CPU. NVMe đẩy công việc xử lý vào ra lên CPU chủ thay vì giao cho RAID controller. Với hệ thống chạy vài trăm nghìn IOPS, phần chi phí CPU dành cho lớp lưu trữ có thể chiếm vài phần trăm tổng năng lực, và tăng nhanh nếu dùng RAID phần mềm hoặc mã hoá dữ liệu tại chỗ. Khi tính toán cấu hình, đừng chỉ nhìn con số IOPS của ổ mà quên tính phần CPU phải bỏ ra để đạt con số đó.
Thực tế triển khai cho thấy điểm cân bằng hợp lý với đa số doanh nghiệp Việt Nam là 4 đến 8 ổ NVMe cho tầng nóng, kết hợp SAS SSD cho tầng ấm. Cấu hình này không tiêu hết lane, để dành chỗ cho card mạng tốc độ cao và khả năng thêm GPU sau này, đồng thời vẫn đủ hiệu năng cho cơ sở dữ liệu và máy ảo quan trọng nhất.
Workload nào thật sự hưởng lợi từ NVMe
Nhóm hưởng lợi rõ nhất là cơ sở dữ liệu giao dịch OLTP. SQL Server, PostgreSQL hay Oracle chạy nghiệp vụ bán hàng, ngân hàng, ERP đều sinh lượng lớn đọc ngẫu nhiên khối nhỏ, và mỗi giao dịch phụ thuộc vào độ trễ của lệnh ghi transaction log. Chuyển log và data file sang NVMe thường giảm thời gian đáp ứng giao dịch 30 đến 50 phần trăm mà không cần đụng tới một dòng mã ứng dụng nào.
Nhóm thứ hai là VDI mật độ cao. Khi hàng trăm máy ảo desktop khởi động cùng lúc lúc 8 giờ sáng, hiện tượng boot storm tạo ra hàng trăm nghìn IOPS đọc ngẫu nhiên trong vài phút. NVMe hấp thụ đợt tải này tốt hơn hẳn nhờ số hàng đợi lớn. Nhóm thứ ba là nạp dữ liệu cho huấn luyện AI, nơi GPU chờ dữ liệu là lãng phí trực tiếp bằng tiền, và analytics quét bảng lớn với nhiều luồng song song.
Ngược lại, có những tải mà NVMe gần như vô ích. File server chia sẻ tài liệu văn phòng có độ sâu hàng đợi thấp và phần lớn thời gian nghẽn ở mạng chứ không phải ở đĩa. Backup repository là ghi tuần tự khối lớn, nơi ổ HDD nearline dung lượng cao vẫn cho chi phí mỗi TB tốt nhất. Máy chủ in ấn, domain controller, DHCP đều là tải nhẹ, SATA SSD thường đã dư sức.
- Hưởng lợi rõ: OLTP, VDI mật độ cao, nạp dữ liệu AI, analytics quét bảng lớn
- Hưởng lợi vừa: máy chủ ảo hoá tổng hợp, hệ thống hyperconverged
- Ít hưởng lợi: file server, backup repository, log archive, domain controller
- Nên đo bằng fio hoặc diskspd trước khi quyết định thay toàn bộ tầng lưu trữ
DWPD và cách chọn ổ theo tỷ lệ ghi
DWPD là số lần ghi đầy dung lượng ổ mỗi ngày mà nhà sản xuất bảo hành trong suốt thời gian bảo hành, thường là 5 năm. Ổ 1 DWPD dung lượng 3,84TB nghĩa là bạn được ghi 3,84TB mỗi ngày liên tục 5 năm. Ổ read intensive thường ở mức 0,5 đến 1 DWPD, mixed use ở 3 DWPD, còn write intensive lên tới 10 DWPD hoặc hơn. Giá chênh lệch giữa các mức này có thể gấp đôi hoặc gấp ba với cùng dung lượng.
Cách tính đúng rất đơn giản nhưng ít nơi làm. Lấy tổng khối lượng ghi mỗi ngày của ứng dụng chia cho dung lượng ổ dự kiến, nhân thêm hệ số khuếch đại ghi của RAID hoặc hệ thống file. RAID 5 và RAID 6 có hệ số khuếch đại ghi đáng kể do phải đọc và ghi lại parity. Nếu ứng dụng ghi 800GB mỗi ngày trên volume 8TB RAID 10, nhu cầu thực chỉ khoảng 0,2 DWPD, và ổ read intensive là lựa chọn hợp lý, tiết kiệm được khoản không nhỏ.
Sai lầm thường thấy đi theo hai hướng ngược nhau. Một số nơi mua toàn ổ write intensive cho an tâm, đội chi phí lên vô ích vì thực tế chỉ dùng hết 15 phần trăm hạn mức ghi sau 5 năm. Số khác mua ổ tiêu dùng không có DWPD công bố cho máy chủ, rồi hỏng hàng loạt sau 18 tháng. Nên theo dõi chỉ số Percentage Used trong SMART định kỳ hàng quý để biết ổ đang tiêu hao nhanh hay chậm hơn dự kiến.
Chi phí mỗi TB và bài toán tổng thể
Tại thị trường Việt Nam thời điểm hiện tại, chênh lệch giá giữa NVMe và SAS SSD doanh nghiệp cùng dung lượng, cùng mức DWPD đã thu hẹp đáng kể, thường chỉ còn khoảng 10 đến 25 phần trăm. Phần đắt đỏ thật sự không nằm ở bản thân cái ổ mà nằm ở nền tảng: backplane NVMe, cáp PCIe, đôi khi phải nâng cấp lên dòng máy chủ cao hơn, và mất khả năng dùng RAID phần cứng truyền thống nên phải tính lại kiến trúc bảo vệ dữ liệu.
So sánh công bằng phải tính theo chi phí cho mỗi đơn vị hiệu năng chứ không chỉ mỗi TB. Một ổ NVMe cho 800.000 IOPS đọc ngẫu nhiên thay thế được ba tới bốn ổ SAS SSD về mặt hiệu năng, đồng nghĩa tiết kiệm khay, tiết kiệm điện, tiết kiệm license theo lõi của một số phần mềm. Ngược lại nếu bạn cần dung lượng chứ không cần IOPS, thì HDD nearline 20TB vẫn vô địch với chi phí mỗi TB thấp hơn SSD nhiều lần.
Đừng quên chi phí vận hành nhiều năm. Ổ NVMe tiêu thụ 8 đến 25W tuỳ tải, cao hơn SAS SSD, và cần luồng gió tốt trong rack. Với hệ thống 24 ổ, chênh lệch điện năng và làm mát mỗi năm là con số đáng đưa vào bảng tính. Đội kỹ thuật HQG thường lập bảng so sánh tổng chi phí sở hữu 5 năm cho từng phương án trước khi khách hàng chốt cấu hình, vì con số này hay lật ngược quyết định ban đầu.
- Chênh lệch giá NVMe so với SAS SSD hiện khoảng 10 đến 25 phần trăm cùng phân khúc
- Chi phí nền tảng, backplane và thiết kế lại bảo vệ dữ liệu mới là phần lớn
- Tính theo chi phí mỗi 100.000 IOPS thay vì chỉ tính mỗi TB
- Đưa điện năng và làm mát 5 năm vào bảng tổng chi phí sở hữu
Cấu hình hỗn hợp là câu trả lời cho đa số doanh nghiệp
Thiết kế mà chúng tôi khuyến nghị cho phần lớn doanh nghiệp 100 đến 1000 nhân sự là ba tầng. Tầng nóng gồm 2 đến 4 ổ NVMe U.2 hoặc U.3 mixed use, dành riêng cho cơ sở dữ liệu chính, transaction log và các máy ảo nhạy độ trễ. Tầng ấm gồm 6 đến 12 ổ SAS SSD read intensive chạy RAID 6 hoặc RAID 10, chứa datastore máy ảo thông thường, file dùng chung và ứng dụng nội bộ.
Tầng lạnh dùng HDD nearline SAS 7200 vòng dung lượng lớn, hoặc đưa hẳn ra NAS riêng, phục vụ backup repository, kho tài liệu cũ và log lưu trữ dài hạn. Cách chia này giúp tiền được dồn đúng chỗ tạo ra giá trị. Nếu dùng VMware vSAN hoặc Storage Spaces Direct, NVMe làm tầng cache còn SAS SSD làm tầng dung lượng là mô hình đã được kiểm chứng qua rất nhiều triển khai.
Cuối cùng, hãy để chỗ mở rộng. Chọn máy chủ có backplane U.3 để sau này thay ổ mà không đổi phần cứng nền, chừa ít nhất hai khe PCIe trống, và mua ổ dư 20 phần trăm dung lượng so với nhu cầu hiện tại vì SSD hoạt động tốt nhất khi chưa đầy quá 80 phần trăm. Ba nguyên tắc đơn giản này tiết kiệm rất nhiều tiền và thời gian ở lần nâng cấp kế tiếp.
So sánh tổng chi phí sở hữu lưu trữ trong 5 năm.
Xây dựng và vận hành các cụm GPU phục vụ huấn luyện, suy luận mô hình ngôn ngữ cho khách hàng doanh nghiệp.

