Với sự phát triển nhanh chóng của việc huấn luyện các mô hình AI quy mô lớn, tính toán hiệu năng cao và điện toán đám mây, nhu cầu của các doanh nghiệp về sức mạnh tính toán GPU trên máy chủ và hiệu suất lưu trữ đã cho thấy xu hướng tăng trưởng bùng nổ. Tuy nhiên, các kiến trúc máy chủ truyền thống vẫn còn nhiều điểm nghẽn trong khả năng mở rộng, chẳng hạn như số khe cắm PCIe hạn chế, khó khăn trong việc cân bằng việc triển khai GPU và SSD, cũng như thiếu tính linh hoạt trong các giải pháp mở rộng. Những vấn đề này đã hạn chế nghiêm trọng sự đổi mới trong kinh doanh. Bài viết này sẽ phân tích sâu sắc những điểm khó khăn này của ngành và minh họa cách LR-LINK LRSV9500-4I cung cấp cho các doanh nghiệp giải pháp mở rộng toàn diện thông qua các chế độ phân nhánh linh hoạt X4/X8/X16.

II.TCác trường hợp ứng dụng điển hình trong ngành

2.1 Trung tâm Tính toán Trí tuệ Nhân tạo: Hệ thống cụm máy tính đào tạo với 8 GPU

Một công ty chuyên về trí tuệ nhân tạo đã xây dựng một nền tảng đào tạo mô hình quy mô lớn tiên tiến, sử dụng chế độ X16 của LRSV9500-4I để mở rộng số lượng GPU. 8 GPU được kết nối thông qua 4 LRSV9500-4I thẻ. Cấu hình này giúp cải thiện đáng kể mức độ sử dụng GPU và hiệu quả huấn luyện.

2.2 Trung tâm Dữ liệu Internet: Nhóm lưu trữ toàn bộ bằng ổ SSD

Một cụm lưu trữ phân tán được xây dựng dựa trên chế độ X4 của LRSV9500-4I, cho phép mỗi máy chủ hỗ trợ 8 ổ SSD NVMe cỡ U.2 với tổng dung lượng 128TB và băng thông tổng hợp vượt quá 50GB/s. Việc áp dụng công nghệ này đã cải thiện đáng kể khả năng mở rộng và hiệu suất của hệ thống, với hiệu suất truy vấn cơ sở dữ liệu tăng gấp 10 lần.

2.3 Máy trạm đồ họa: Cấu hình kết hợp GPU và bộ nhớ

Các trạm làm việc dành cho sản xuất phim và truyền hình được cấu hình ở chế độ X8, trang bị 2 card đồ họa có hiệu suất vượt trội trong các bài kiểm tra kết xuất thời gian thực và có thể cải thiện đáng kể hiệu quả kết xuất và xuất file. Ngoài ra, cấu hình với 2 ổ SSD NVMe đảm bảo tốc độ đọc/ghi cao khi lưu trữ tài liệu. Các bài kiểm tra hiệu năng chuyên nghiệp cho thấy tốc độ render tài liệu video 4K tăng hơn 80% so với các cấu hình truyền thống, và thời gian xuất video độ nét cao giảm 60%.

2.4 Nền tảng tính toán phục vụ nghiên cứu khoa học: Các nút tính toán hỗn hợp

Trung tâm siêu máy tính sử dụng các nút tính toán dị thể LRSV9500-4I để thực hiện tính toán song song trên GPU ở chế độ X16 và kết nối hiệu quả giữa các thẻ tăng tốc FPGA và bộ nhớ NVMe ở chế độ X8. Phương pháp cấu hình linh hoạt này cho hệ thống tính toán, mạng và lưu trữ đã giúp nâng cao đáng kể hiệu suất sử dụng tài nguyên lên 40%.

III.LRSV9500-4I Gợi ý về việc lựa chọn và cấu hình

3.1 Chọn chế độ phân nhánh tùy theo các tình huống ứng dụng

· Trong các tình huống huấn luyện AI thuần túy, nên chọn chế độ X16 để tối đa hóa băng thông của một GPU và từ đó hỗ trợ các card đồ họa cao cấp

· Trong các tình huống chỉ sử dụng lưu trữ, có thể chọn chế độ X4 để tối đa hóa số lượng ổ SSD và từ đó xây dựng một mảng lưu trữ toàn SSD có mật độ cao

· Đối với các tình huống tải hỗn hợp, có thể chọn chế độ X8 để cân bằng cấu hình GPU và SSD, từ đó đạt được sự phân bổ tài nguyên tối ưu

3.2 Các chỉ số đánh giá chính

· Khả năng tương thích với bo mạch chủ: Hãy xác nhận rằng bo mạch chủ hỗ trợ PCIe 5.0

· Kích thước khung máy: LRSV9500-4I có thiết kế chiều cao bằng một nửa, tương thích với các máy chủ 2U trở lên

· Điều kiện tản nhiệt: Đảm bảo ống dẫn khí của máy chủ không bị cản trở; nếu cần thiết, có thể bổ sung các biện pháp tản nhiệt phụ trợ

· Chất lượng cáp: Sử dụng cáp MCIO tốc độ cao đã được chứng nhận để đảm bảo tính toàn vẹn của tín hiệu PCIe 5.0

IV.Nhận định về xu hướng phát triển công nghệ

Với việc công bố tiêu chuẩn PCIe 6.0, tốc độ truyền dữ liệu của nó đã đạt 64GT/s trên mỗi kênh. Sự phát triển của công nghệ này, kết hợp với sự phát triển của công nghệ CXL, sẽ mang lại những cơ hội phát triển mới cho các thẻ mở rộng bộ chuyển mạch PCIe. Sự phát triển của công nghệ CXL, đặc biệt là sự hỗ trợ của CXL 2.0 cho việc kết hợp bộ nhớ và kiến trúc bộ chuyển mạch, sẽ mở rộng vai trò của bộ chuyển mạch PCIe, vốn sẽ không còn giới hạn ở việc mở rộng GPU và lưu trữ, mà sẽ đảm nhận vai trò quan trọng trong việc mở rộng bộ nhớ.

Đồng thời, với sự gia tăng liên tục về quy mô tham số của các mô hình AI quy mô lớn, nhu cầu về băng thông kết nối GPU sẽ trở nên cấp thiết hơn, điều này có thể thấy rõ qua sự tăng trưởng đáng kể về quy mô thị trường của ngành mô hình AI quy mô lớn cũng như những đột phá công nghệ. Khả năng kết nối đa máy của PCIe Switch được thực hiện thông qua chức năng NTB sẽ trở thành công nghệ then chốt để xây dựng các cụm đào tạo AI quy mô lớn. LR-LINK sẽ tiếp tục đầu tư vào nghiên cứu và phát triển (R&D) để cung cấp cho khách hàng các giải pháp mở rộng tiên tiến hơn.

Tóm tắt

Những thách thức trong việc mở rộng GPU và bộ nhớ lưu trữ trên máy chủ về cơ bản xuất phát từ mâu thuẫn giữa nguồn lực hạn chế và nhu cầu không ngừng gia tăng. Nhờ công nghệ bộ chuyển mạch PCIe cùng các chế độ phân nhánh linh hoạt X4/X8/X16, LRSV9500-4I mang đến cho các doanh nghiệp một giải pháp hiệu quả. Dù là cho đào tạo AI, tính toán hiệu suất cao, phân tích dữ liệu lớn hay sản xuất video, LRSV9500-4I đều có thể cung cấp khả năng mở rộng vượt trội và đảm bảo tính bền vững cho khoản đầu tư.

Là sản phẩm chủ lực của LR-LINK trong lĩnh vực PCIe 5.0, LRSV9500-4I, nhờ vào hiệu năng hàng đầu của chip Broadcom PEX89048 cùng sự hỗ trợ hoàn hảo từ hệ sinh thái, đang trở thành giải pháp mở rộng được ưa chuộng cho việc xây dựng máy chủ AI và trung tâm dữ liệu. Lựa chọn LRSV9500-4I đồng nghĩa với việc lựa chọn một kiến trúc mở rộng linh hoạt, hiệu quả và hướng tới tương lai.