Vn-Z.vn Ngày 14 tháng 11 năm 2023, NVIDIA vừa công bố vi xử lý siêu máy tính trí tuệ nhân tạo thế hệ tiếp theo, những vi xử lý này sẽ đóng vai trò quan trọng trong lĩnh vực học sâu và mô hình ngôn ngữ lớn (LLM) lớn, như GPT-4 của OpenAI.
So với thế hệ trước, vi xử lý mới đã có bước tiến đáng kể và sẽ được sử dụng trong các trung tâm dữ liệu và siêu máy tính để xử lý các nhiệm vụ như dự đoán thời tiết và khí hậu, phát hiện thuốc, tính toán lượng tử, và nhiều nhiệm vụ khác.
Các sản phẩm chính được Nvidia công bố lần này bao gồm GPU HGX H200, dựa trên kiến trúc "Hopper" của NVIDIA, đây là phiên bản kế nhiệm của GPU H100, đồng thời cũng là chip đầu tiên của Nvidia sử dụng bộ nhớ HBM3e. Loại bộ nhớ này có tốc độ nhanh hơn và dung lượng lớn hơn, phù hợp cho các mô hình ngôn ngữ lớn hơn . NVIDIA mô tả: "Với HBM3e, NVIDIA H200 cung cấp 141 GB bộ nhớ với tốc độ 4,8 TB mỗi giây, gần như gấp đôi dung lượng và tăng băng thông lên 2,4 lần so với A100."
Trong lĩnh vực trí tuệ nhân tạo, NVIDIA cho biết tốc độ suy luận của HGX H200 trên mô hình Llama 2 (LLM có 700 tỷ tham số) nhanh gấp đôi so với H100. HGX H200 sẽ có cấu hình 4 và 8 khe cắm, tương thích với phần mềm và phần cứng trong hệ thống H100. H200 sẽ phù hợp cho mọi loại trung tâm dữ liệu (on-premises, đám mây, đám mây kết hợp và lân cận), và sẽ được triển khai trên các nền tảng như Amazon Web Services, Google Cloud, Microsoft Azure và Oracle Cloud Infrastructure, dự kiến sẽ ra mắt vào quý 2 năm 2024.
NVIDIA cũng giới thiệu sản phẩm chính khác là GH200 Grace Hopper "superchip", đây là sản phẩm có sự kết hợp giữa GPU HGX H200 và CPU NVIDIA Grace dựa trên kiến trúc Arm thông qua kết nối NVLink-C2C của công ty. NVIDIA mô tả đây là một sản phẩm được thiết kế đặc biệt cho siêu máy tính, cho phép "nhà khoa học và nghiên cứu giải quyết những vấn đề phức tạp nhất của thế giới thông qua việc tăng tốc chạy ứng dụng AI và HPC phức tạp trên dữ liệu cấp TB".
GH200 sẽ được sử dụng trong "hơn 40 siêu máy tính AI toàn cầu tại các trung tâm nghiên cứu, nhà sản xuất hệ thống và nhà cung cấp đám mây", bao gồm các công ty như Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT và Supermicro. Đáng chú ý, siêu máy tính Cray EX2500 của HPE sẽ sử dụng bốn khe cắm GH200, có thể mở rộng lên hàng ngàn nút chip siêu Hopper Grace.
Có thể siêu máy tính sử dụng công nghệ Grace Hopper lớn nhất là siêu máy tính JUPITER tại nhà máy Jülich ở Đức , sau khi được lắp đặt vào năm 2024, sẽ trở thành "hệ thống AI mạnh nhất thế giới". Hệ thống này sử dụng kiến trúc làm mát bằng chất lỏng, với mô-đun cải tiến bao gồm gần 24,000 vi xử lý siêu chip NVIDIA GH200, những chip này kết nối thông qua nền tảng mạng NVIDIA Quantum-2 InfiniBand.
NVIDIA cho biết, JUPITER sẽ hỗ trợ đạt được các tiến bộ khoa học trong nhiều lĩnh vực, bao gồm dự báo khí hậu và thời tiết, tạo mô phỏng khí hậu và thời tiết có độ phân giải cao, cũng như thực hiện trực quan hóa tương tác. Nó cũng sẽ được sử dụng cho phát hiện thuốc, tính toán lượng tử và kỹ thuật công nghiệp, với nhiều lĩnh vực sử dụng các giải pháp phần mềm tùy chỉnh của NVIDIA, giúp đơn giản hóa quá trình phát triển, nhưng cũng khiến cho các đội siêu máy tính phụ thuộc vào phần cứng của NVIDIA.
Được biết NVIDIA chỉ trong lĩnh vực AI và trung tâm dữ liệu đã đạt được doanh thu kỷ lục là 10.32 tỷ USD (tổng doanh thu là 13.51 tỷ USD), tăng 171% so với cùng kỳ năm trước. NVIDIA không nghi ngờ mong muốn rằng GPU và siêu chip mới sẽ giúp họ tiếp tục xu hướng này.
So với thế hệ trước, vi xử lý mới đã có bước tiến đáng kể và sẽ được sử dụng trong các trung tâm dữ liệu và siêu máy tính để xử lý các nhiệm vụ như dự đoán thời tiết và khí hậu, phát hiện thuốc, tính toán lượng tử, và nhiều nhiệm vụ khác.
Các sản phẩm chính được Nvidia công bố lần này bao gồm GPU HGX H200, dựa trên kiến trúc "Hopper" của NVIDIA, đây là phiên bản kế nhiệm của GPU H100, đồng thời cũng là chip đầu tiên của Nvidia sử dụng bộ nhớ HBM3e. Loại bộ nhớ này có tốc độ nhanh hơn và dung lượng lớn hơn, phù hợp cho các mô hình ngôn ngữ lớn hơn . NVIDIA mô tả: "Với HBM3e, NVIDIA H200 cung cấp 141 GB bộ nhớ với tốc độ 4,8 TB mỗi giây, gần như gấp đôi dung lượng và tăng băng thông lên 2,4 lần so với A100."
Trong lĩnh vực trí tuệ nhân tạo, NVIDIA cho biết tốc độ suy luận của HGX H200 trên mô hình Llama 2 (LLM có 700 tỷ tham số) nhanh gấp đôi so với H100. HGX H200 sẽ có cấu hình 4 và 8 khe cắm, tương thích với phần mềm và phần cứng trong hệ thống H100. H200 sẽ phù hợp cho mọi loại trung tâm dữ liệu (on-premises, đám mây, đám mây kết hợp và lân cận), và sẽ được triển khai trên các nền tảng như Amazon Web Services, Google Cloud, Microsoft Azure và Oracle Cloud Infrastructure, dự kiến sẽ ra mắt vào quý 2 năm 2024.
NVIDIA cũng giới thiệu sản phẩm chính khác là GH200 Grace Hopper "superchip", đây là sản phẩm có sự kết hợp giữa GPU HGX H200 và CPU NVIDIA Grace dựa trên kiến trúc Arm thông qua kết nối NVLink-C2C của công ty. NVIDIA mô tả đây là một sản phẩm được thiết kế đặc biệt cho siêu máy tính, cho phép "nhà khoa học và nghiên cứu giải quyết những vấn đề phức tạp nhất của thế giới thông qua việc tăng tốc chạy ứng dụng AI và HPC phức tạp trên dữ liệu cấp TB".
GH200 sẽ được sử dụng trong "hơn 40 siêu máy tính AI toàn cầu tại các trung tâm nghiên cứu, nhà sản xuất hệ thống và nhà cung cấp đám mây", bao gồm các công ty như Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT và Supermicro. Đáng chú ý, siêu máy tính Cray EX2500 của HPE sẽ sử dụng bốn khe cắm GH200, có thể mở rộng lên hàng ngàn nút chip siêu Hopper Grace.
NVIDIA cho biết, JUPITER sẽ hỗ trợ đạt được các tiến bộ khoa học trong nhiều lĩnh vực, bao gồm dự báo khí hậu và thời tiết, tạo mô phỏng khí hậu và thời tiết có độ phân giải cao, cũng như thực hiện trực quan hóa tương tác. Nó cũng sẽ được sử dụng cho phát hiện thuốc, tính toán lượng tử và kỹ thuật công nghiệp, với nhiều lĩnh vực sử dụng các giải pháp phần mềm tùy chỉnh của NVIDIA, giúp đơn giản hóa quá trình phát triển, nhưng cũng khiến cho các đội siêu máy tính phụ thuộc vào phần cứng của NVIDIA.
Được biết NVIDIA chỉ trong lĩnh vực AI và trung tâm dữ liệu đã đạt được doanh thu kỷ lục là 10.32 tỷ USD (tổng doanh thu là 13.51 tỷ USD), tăng 171% so với cùng kỳ năm trước. NVIDIA không nghi ngờ mong muốn rằng GPU và siêu chip mới sẽ giúp họ tiếp tục xu hướng này.
