Số lần ghi toàn bộ dung lượng ổ SSD mỗi ngày trong suốt thời gian bảo hành. Ổ 1 DWPD phù hợp tải đọc nhiều, ổ 3 DWPD trở lên dành cho cơ sở dữ liệu và log ghi liên tục.

Bộ nhớ có khả năng phát hiện và tự sửa lỗi bit, bắt buộc với máy chủ để tránh hỏng dữ liệu âm thầm. ECC hệ thống khác với ECC on-die của DDR5, loại sau chỉ bảo vệ trong nội bộ chip nhớ.

Hạ tầng siêu hội tụ, gộp tính toán, lưu trữ và mạng ảo hoá vào cùng một cụm máy chủ tiêu chuẩn với lớp phần mềm điều phối. Ưu điểm là mở rộng theo node, nhược điểm là ràng buộc giữa tài nguyên tính toán và lưu trữ.

Bản sao lưu không thể sửa hoặc xoá trong khoảng thời gian đã đặt, kể cả bởi tài khoản quản trị. Thường triển khai qua S3 Object Lock hoặc Veeam Hardened Repository, đây là lớp phòng thủ then chốt trước ransomware.

Công nghệ kết nối độ trễ cực thấp dùng cho cụm tính toán hiệu năng cao và huấn luyện mô hình phân tán. InfiniBand hỗ trợ RDMA gốc, cho phép truyền dữ liệu giữa các node mà gần như không tốn chu kỳ CPU.

Số thao tác vào ra mỗi giây mà hệ lưu trữ xử lý được. Chỉ số này quyết định hiệu năng của cơ sở dữ liệu và máy ảo mật độ cao. IOPS luôn phải đọc kèm kích thước khối và tỷ lệ đọc ghi.

Bộ điều khiển quản trị ngoài băng cho phép bật tắt, cài hệ điều hành và xem nhật ký phần cứng của máy chủ khi hệ điều hành đã treo. iDRAC là tên của Dell, iLO là của HPE, IPMI là chuẩn chung.

Phương pháp tinh chỉnh mô hình lớn bằng cách chỉ huấn luyện một số ma trận hạng thấp thêm vào, thay vì cập nhật toàn bộ tham số. Cách này giảm mạnh yêu cầu VRAM và thời gian huấn luyện.

Đơn vị luận lý được hệ lưu trữ khối cấp phát và trình bày cho máy chủ như một ổ đĩa. Mỗi LUN có dung lượng, chính sách RAID và quyền truy cập riêng, thường được ánh xạ qua giao thức iSCSI hoặc Fibre Channel.

Tính năng của GPU NVIDIA A100 và H100 cho phép chia một GPU vật lý thành tối đa bảy phiên bản độc lập, mỗi phiên bản có bộ nhớ và tài nguyên tính toán riêng biệt, phù hợp cho môi trường nhiều người dùng.

Thiết bị lưu trữ gắn mạng cung cấp truy cập ở mức tệp qua các giao thức như SMB và NFS. NAS phù hợp cho chia sẻ tài liệu, kho sao lưu và dữ liệu phi cấu trúc hơn là cho cơ sở dữ liệu giao dịch.

Giao thức truy cập bộ nhớ flash qua PCIe, thiết kế cho hàng nghìn hàng đợi song song với độ sâu lớn. So với SATA và SAS, NVMe cho độ trễ thấp hơn nhiều và băng thông tới khoảng 7 GB/s trên PCIe Gen4 x4.

Chỉ số hiệu quả sử dụng năng lượng, bằng tổng điện tiêu thụ của trung tâm dữ liệu chia cho điện cấp cho thiết bị công nghệ thông tin. Giá trị càng gần 1 càng tốt, phòng server doanh nghiệp Việt Nam thường ở mức 1,5 đến 2,0.

Kỹ thuật giảm độ chính xác biểu diễn tham số mô hình, ví dụ từ FP16 xuống INT8 hoặc INT4, để tiết kiệm bộ nhớ và tăng tốc suy luận. Đổi lại là mức suy giảm chất lượng cần được đo và chấp nhận.

Kỹ thuật gộp nhiều ổ đĩa thành một khối luận lý để tăng hiệu năng hoặc chịu lỗi. RAID 5 chịu hỏng một ổ, RAID 6 chịu hai ổ, RAID 10 kết hợp mirror và stripe. RAID không thay thế được sao lưu.

Kỹ thuật chạy RDMA trên hạ tầng Ethernet thông thường, cho phép đạt độ trễ thấp mà không cần mạng InfiniBand riêng. RoCE đòi hỏi cấu hình mạng không mất gói với PFC và ECN được thiết lập đúng.

Lượng dữ liệu tối đa được phép mất tính theo thời gian, ví dụ RPO 15 phút nghĩa là chấp nhận mất tối đa 15 phút dữ liệu gần nhất. Chỉ số này quyết định tần suất sao lưu và cơ chế nhân bản.

Thời gian mục tiêu để khôi phục hệ thống sau sự cố. Đây là khoảng thời gian tối đa mà doanh nghiệp chấp nhận hệ thống ngừng hoạt động, dùng làm cơ sở thiết kế giải pháp dự phòng và sao lưu.

Mạng lưu trữ chuyên dụng cung cấp truy cập ở mức khối cho máy chủ qua Fibre Channel hoặc iSCSI. SAN phù hợp cho cơ sở dữ liệu và ảo hoá nhờ độ trễ thấp và khả năng chia sẻ dung lượng giữa nhiều host.

Thoả thuận mức dịch vụ, ghi rõ cam kết đo được giữa nhà cung cấp và khách hàng như thời gian phản hồi, thời gian có mặt tại chỗ và tỷ lệ sẵn sàng. SLA cần đi kèm cơ chế đo và chế tài khi không đạt.

Công suất nhiệt thiết kế, cho biết lượng nhiệt tối đa mà hệ tản nhiệt phải giải phóng cho một CPU hoặc GPU. TDP là căn cứ để tính tải điện tủ rack và chọn giải pháp làm mát phù hợp.

Tính năng của VMware cho phép di chuyển máy ảo đang chạy giữa các máy chủ vật lý mà không dừng dịch vụ. Đây là nền tảng để bảo trì phần cứng và cân bằng tải trong cụm ảo hoá.

Bộ nhớ trên card đồ hoạ, quyết định kích thước mô hình và batch size mà GPU có thể xử lý. GPU trung tâm dữ liệu dùng HBM băng thông rất cao, còn L40S và dòng workstation dùng GDDR6 dung lượng lớn hơn nhưng chậm hơn.

Mô hình bảo mật theo NIST SP 800-207, giả định mạng đã bị xâm nhập nên không tin tưởng mặc định bất kỳ người dùng hay thiết bị nào. Mọi truy cập đều phải xác thực, kiểm tra trạng thái thiết bị và cấp quyền tối thiểu.