[Computex 2023] NVIDIA phát hành siêu máy tính AI DGX A100 144TB ,18.000 CPU , mạnh gấp 500 lần so thế hệ trước.
Vn-Z.vn Ngày 29 tháng 05 năm 2023, Công nghệ AI đang là hot trend hiện nay trên cộng đồng công nghệ và công nghệ này hiện đã trở thành mảng được NVIDIA quan tâm nhất.
Hôm nay, trong bài phát biểu quan trọng tại Triển lãm Máy tính Đài Bắc, NVIDIA đã ra mắt siêu máy tính DGX GH200 dành cho AI. Hệ thống này được trang bị 256 chip Grace Hopper, có tổng cộng 18.000 lõi CPU và bộ nhớ 144TB, gấp 500 lần so với trước đây.
DGX GH200 của NVIDIA sử dụng công nghệ kết nối NVLink, NVLink Switch có thể kết nối 256 vi mạch Grace Hooper siêu mạnh, giúp tăng hiệu năng và dung lượng bộ nhớ lên một mức rất cao. Công nghệ này được phát triển nhằm hỗ trợ cho tính toán trí tuệ nhân tạo đòi hỏi dung lượng bộ nhớ lớn hơn, vì DGX GH200 cung cấp khả năng xử lý và bộ nhớ vượt trội.
Được biết , vi mạch Grace Hooper là một vi mạch siêu mạnh kết hợp CPU và GPU, với bộ xử lý CPU 72 nhân được tự phát triển bởi NVIDIA, sử dụng lõi Neoverse V2 và có dung lượng bộ nhớ LPDDR5 480GB và băng thông 512GB/s.
Phần GPU của Grace Hooper là H100 với hiệu năng FP64 là 34TFLOPS, nhưng điểm mạnh hơn của nó là hiệu năng INT8 trong tính toán trí tuệ nhân tạo, đạt 3958TFLOPS và có 96GB bộ nhớ HBM3.
Tổng cộng DGX GH200 có 256 vi mạch Grace Hooper, vì vậy hệ thống này có tới 18.432 nhân CPU, bộ nhớ 144TB HBM3 , hiệu năng tính toán trí tuệ nhân tạo đạt đến 1 exaFLOPS, tương đương với 100 tỷ tỷ phép tính toán.
Có thể thấy sức mạnh tính toán này là khái niệm rất lớn. Hiện nay, siêu máy tính mạnh nhất trên thế giới (TOP500) chỉ có hiệu năng tính toán ở cấp độ tỷ tỷ lần, và đó là trong tính toán HPC. Tuy nhiên, hiệu năng tính toán trí tuệ nhân tạo của NVIDIA có thể nói là đã vượt xa tỷ tỷ lần và có thể vượt xa hơn nữa.
Để kết nối 256 vi mạch siêu mạnh này với nhau, DGX GH200 sử dụng 256 vi mạch kết nối InfiniBand với tốc độ truyền dữ liệu đơn 400Gb/s và 256 vi mạch kết nối InfiniBand với tốc độ truyền dữ liệu kép 200Gb/s. Bên cạnh đó, siêu máy tính còn sử dụng 96 cặp NVLink L1 và 36 cặp NVLink L2 để kết nối vi mạch với nhau. Thiết kế của DGX GH200 rất phức tạp và tiên tiến.
NVIDIA cho biết, Google, Meta và Microsoft là những công ty đầu tiên sử dụng hệ thống DGX GH200, các công ty này sẽ mở rộng cung cấp cho nhiều khách hàng hơn để chạy các ứng dụng tùy chỉnh của khách hàng.
Tuy nhiên, DGX GH200 vẫn không phải là hệ thống siêu mạnh nhất của NVIDIA. Vào cuối năm nay, NVIDIA sẽ tung ra hệ thống siêu máy tính AI mang tên NVIDIA Helios, siêu máy tính này bao gồm 4 bộ DGX GH200, tổng cộng 1024 vi mạch Grace Hooper siêu mạnh và có tới 576TB bộ nhớ HBM, siêu máy này sẽ là một sự cải tiến đáng kể so với DGX GH200.
Hôm nay, trong bài phát biểu quan trọng tại Triển lãm Máy tính Đài Bắc, NVIDIA đã ra mắt siêu máy tính DGX GH200 dành cho AI. Hệ thống này được trang bị 256 chip Grace Hopper, có tổng cộng 18.000 lõi CPU và bộ nhớ 144TB, gấp 500 lần so với trước đây.
DGX GH200 của NVIDIA sử dụng công nghệ kết nối NVLink, NVLink Switch có thể kết nối 256 vi mạch Grace Hooper siêu mạnh, giúp tăng hiệu năng và dung lượng bộ nhớ lên một mức rất cao. Công nghệ này được phát triển nhằm hỗ trợ cho tính toán trí tuệ nhân tạo đòi hỏi dung lượng bộ nhớ lớn hơn, vì DGX GH200 cung cấp khả năng xử lý và bộ nhớ vượt trội.
Được biết , vi mạch Grace Hooper là một vi mạch siêu mạnh kết hợp CPU và GPU, với bộ xử lý CPU 72 nhân được tự phát triển bởi NVIDIA, sử dụng lõi Neoverse V2 và có dung lượng bộ nhớ LPDDR5 480GB và băng thông 512GB/s.
Phần GPU của Grace Hooper là H100 với hiệu năng FP64 là 34TFLOPS, nhưng điểm mạnh hơn của nó là hiệu năng INT8 trong tính toán trí tuệ nhân tạo, đạt 3958TFLOPS và có 96GB bộ nhớ HBM3.
Tổng cộng DGX GH200 có 256 vi mạch Grace Hooper, vì vậy hệ thống này có tới 18.432 nhân CPU, bộ nhớ 144TB HBM3 , hiệu năng tính toán trí tuệ nhân tạo đạt đến 1 exaFLOPS, tương đương với 100 tỷ tỷ phép tính toán.
Có thể thấy sức mạnh tính toán này là khái niệm rất lớn. Hiện nay, siêu máy tính mạnh nhất trên thế giới (TOP500) chỉ có hiệu năng tính toán ở cấp độ tỷ tỷ lần, và đó là trong tính toán HPC. Tuy nhiên, hiệu năng tính toán trí tuệ nhân tạo của NVIDIA có thể nói là đã vượt xa tỷ tỷ lần và có thể vượt xa hơn nữa.
NVIDIA cho biết, Google, Meta và Microsoft là những công ty đầu tiên sử dụng hệ thống DGX GH200, các công ty này sẽ mở rộng cung cấp cho nhiều khách hàng hơn để chạy các ứng dụng tùy chỉnh của khách hàng.
Tuy nhiên, DGX GH200 vẫn không phải là hệ thống siêu mạnh nhất của NVIDIA. Vào cuối năm nay, NVIDIA sẽ tung ra hệ thống siêu máy tính AI mang tên NVIDIA Helios, siêu máy tính này bao gồm 4 bộ DGX GH200, tổng cộng 1024 vi mạch Grace Hooper siêu mạnh và có tới 576TB bộ nhớ HBM, siêu máy này sẽ là một sự cải tiến đáng kể so với DGX GH200.
