GPU NVIDIA A100 PCIe làm mát bằng chất lỏng là sản phẩm đầu tiên trong dòng GPU dành cho các máy chủ phổ thông đáp ứng nhu cầu của khách hàng cho nhu cầu trung tính carbon, hiệu suất cao ở datacenter.
Với nỗ lực của toàn thế giới nhằm ngăn chặn biến đổi khí hậu, Zac Smith tham gia vào phong trào xây dựng các trung tâm dữ liệu mang lại hiệu suất cao và tiết kiệm năng lượng.
Ông là người đứng đầu cơ sở hạ tầng tiên tiến tại Equinix - nhà cung cấp dịch vụ toàn cầu quản lý hơn 240 trung tâm dữ liệu và cam kết trở thành công ty đầu tiên trong lĩnh vực giảm thiểu biến đổi khí hậu.
“Chúng tôi đang có 10.000 khách hàng trông cậy để được giúp đỡ trong hành trình này. Họ yêu cầu nhiều dữ liệu và nhiều hệ thống thông minh hơn, thường là AI và họ muốn nó phát triển theo một cách bền vững” Smith – nguyên là cựu sinh viên trường Julliard, người đã tham gia vào công nghệ xây dựng trang web cho các nhạc sĩ ở thành phố New York vào đầu những năm 2000, cho biết.
Tính đến tháng 4, Equinix đã phát hành 4,9 tỷ USD trái phiếu xanh. Đây các công cụ cấp độ đầu tư mà Equinix sẽ áp dụng để giảm tác động môi trường thông qua việc tối ưu hóa hiệu quả sử dụng điện (PUE) - chỉ số ngành về lượng năng lượng mà trung tâm dữ liệu này sử dụng sẽ trực tiếp cho các tác vụ tính toán.
Các nhà khai thác trung tâm dữ liệu đang cố gắng giảm tỷ lệ đó gần hơn với mức lý tưởng là 1.0 PUE. Các cơ sở của Equinix có mức trung bình là 1.48 PUE hiện nay với các trung tâm dữ liệu mới tốt nhất của nó đạt mức dưới 1.2
Equinix đang đạt được tiến bộ ổn định về hiệu quả năng lượng của các trung tâm dữ liệu của mình khi được đo bằng PUE (inset).
Trong một bước tiến khác, vào tháng Một, Equinix đã mở một cơ sở chuyên dụng để theo đuổi những tiến bộ trong hiệu quả năng lượng. Một phần của công việc đó là tập trung vào làm mát bằng chất lỏng.
Ra đời trong kỷ nguyên của siêu máy tính, làm mát bằng chất lỏng đang phát triển mạnh mẽ trong thời đại của AI. Phương thức này hiện được sử dụng rộng rãi bên trong các siêu máy tính nhanh nhất thế giới ở phương thức tiên tiến có tên là làm mát trực-tiếp-trên-chip
GPU làm mát bằng chất lỏng là bước phát triển tiếp theo của GPU làm mát bằng không khí vốn đã đã mang lại hiệu suất sử dụng năng lượng tới hơn 20 lần so với sử dụng CPU thuần tuý trong các ứng dụng tăng tốc tính toán Trí tuệ nhân tạo ở biên và Tính toán hiệu năng cao
Điều đó giống như tiết kiệm năng lượng của 1.4 triệu ngôi nhà tiêu thụ trong một năm.
Ngày nay, NVIDIA đã bổ sung vào nỗ lực bền vững của mình với việc phát hành GPU PCIe cho trung tâm dữ liệu đầu tiên có sử dụng làm mát chip trực tiếp.
Equinix đang chứng tỏ việc sử dụng GPU làm mát bằng chất lỏng A100 80GB PCIe trong các trung tâm dữ liệu của mình như một phần của phương pháp tiếp cận toàn diện để làm mát hệ thống bền vững và giảm nhiệt độ hoạt động. Các GPU nói trên đang được lấy mẫu và sẽ được triển khai vào mùa hè này.
Các nhà điều hành trung tâm dữ liệu luôn mong muốn loại bỏ các thiết bị làm lạnh vốn làm bay hơi hàng triệu gallon nước mỗi năm chỉ để làm mát không khí bên trong các trung tâm dữ liệu. Làm mát bằng chất lỏng hứa hẹn các hệ thống tái chế một lượng nhỏ chất lỏng trong các hệ thống kín, tập trung vào các khu vực có nhiệt độ cao chính.
Ông nói: “Chúng tôi sẽ biến chất thải thành tài sản”
Các trung tâm dữ liệu làm mát bằng chất lỏng cũng có thể mang đến khả năng tính toán gấp đôi trong một không gian sử dụng. Đó là vì GPU A100 làm mát bằng chất lỏng chỉ sử dụng một khe cắm PCIe còn GPU A100 làm mát bằng không khí lấp thì cần hai khe.
NVIDIA cho thấy khả năng tiết kiệm điện, tăng mật độ nhờ làm mát bằng chất lỏng.
Ít nhất 10 nhà sản xuất hệ thống đang có kế hoạch kết hợp các GPU này vào sản phẩm của họ vào cuối năm nay. Có thể liệt kê một số như: ASUS, ASRock Rack, Foxconn Industrial Internet, GIGABYTE, H3C, Inspur, Inventec, Nettrix, QCT, Supermicro, Wiwynn và xFusion.
Các quy định đặt ra cho tiêu chuẩn tiết kiệm năng lượng đang chờ được áp dụng ở châu Á, châu Âu và Hoa Kỳ. Điều đó sẽ thúc đẩy các ngân hàng và các nhà khai thác trung tâm dữ liệu lớn khác cũng sẽ suy nghĩ về khả năng làm mát bằng chất lỏng.
Và công nghệ này không giới hạn ở các trung tâm dữ liệu. Ô tô và các hệ thống khác cũng cần nó để làm mát các hệ thống hiệu suất cao vốn được thiết kế bên trong các không gian hạn chế.
Thật vậy, chúng tôi đang quan tâm đến GPU A100 PCIe cho phiên bản vào năm sau sử dụng H100 Tensor Core GPU dựa trên kiến trúc NVIDIA Hopper. Chúng tôi có kế hoạch hỗ trợ làm mát bằng chất lỏng trong các GPU trung tâm dữ liệu hiệu suất cao và nền tảng NVIDIA HGX của chúng tôi trong tương lai gần.
Để được áp dụng nhanh chóng, các GPU được làm mát bằng chất lỏng ngày nay mang lại hiệu suất tương tự với ít năng lượng hơn. Trong tương lai, chúng tôi hy vọng những GPU này sẽ cung cấp tùy chọn để đạt được hiệu suất cao hơn cho cùng một mức năng lượng”
Smith cho biết: “ Chúng ta không nên chỉ quan tâm tới đo lường công suất , hiệu suất nhận được đối với tác động carbon mà bạn có là điều quan trọng hơn”
Tác giả Joe DeLaere
Với nỗ lực của toàn thế giới nhằm ngăn chặn biến đổi khí hậu, Zac Smith tham gia vào phong trào xây dựng các trung tâm dữ liệu mang lại hiệu suất cao và tiết kiệm năng lượng.
Ông là người đứng đầu cơ sở hạ tầng tiên tiến tại Equinix - nhà cung cấp dịch vụ toàn cầu quản lý hơn 240 trung tâm dữ liệu và cam kết trở thành công ty đầu tiên trong lĩnh vực giảm thiểu biến đổi khí hậu.
“Chúng tôi đang có 10.000 khách hàng trông cậy để được giúp đỡ trong hành trình này. Họ yêu cầu nhiều dữ liệu và nhiều hệ thống thông minh hơn, thường là AI và họ muốn nó phát triển theo một cách bền vững” Smith – nguyên là cựu sinh viên trường Julliard, người đã tham gia vào công nghệ xây dựng trang web cho các nhạc sĩ ở thành phố New York vào đầu những năm 2000, cho biết.
Tính đến tháng 4, Equinix đã phát hành 4,9 tỷ USD trái phiếu xanh. Đây các công cụ cấp độ đầu tư mà Equinix sẽ áp dụng để giảm tác động môi trường thông qua việc tối ưu hóa hiệu quả sử dụng điện (PUE) - chỉ số ngành về lượng năng lượng mà trung tâm dữ liệu này sử dụng sẽ trực tiếp cho các tác vụ tính toán.
Các nhà khai thác trung tâm dữ liệu đang cố gắng giảm tỷ lệ đó gần hơn với mức lý tưởng là 1.0 PUE. Các cơ sở của Equinix có mức trung bình là 1.48 PUE hiện nay với các trung tâm dữ liệu mới tốt nhất của nó đạt mức dưới 1.2
Equinix đang đạt được tiến bộ ổn định về hiệu quả năng lượng của các trung tâm dữ liệu của mình khi được đo bằng PUE (inset).
Ra đời trong kỷ nguyên của siêu máy tính, làm mát bằng chất lỏng đang phát triển mạnh mẽ trong thời đại của AI. Phương thức này hiện được sử dụng rộng rãi bên trong các siêu máy tính nhanh nhất thế giới ở phương thức tiên tiến có tên là làm mát trực-tiếp-trên-chip
GPU làm mát bằng chất lỏng là bước phát triển tiếp theo của GPU làm mát bằng không khí vốn đã đã mang lại hiệu suất sử dụng năng lượng tới hơn 20 lần so với sử dụng CPU thuần tuý trong các ứng dụng tăng tốc tính toán Trí tuệ nhân tạo ở biên và Tính toán hiệu năng cao
Hiệu Quả Thông Qua Việc Tăng Tốc
Nếu bạn chuyển tất cả các máy chủ chỉ dùng CPU để xử lý AI trên toàn thế giới thành các hệ thống được tăng tốc bằng GPU, bạn có thể tiết kiệm được 10 nghìn tỷ watt-giờ năng lượng mỗi năm.Điều đó giống như tiết kiệm năng lượng của 1.4 triệu ngôi nhà tiêu thụ trong một năm.
Ngày nay, NVIDIA đã bổ sung vào nỗ lực bền vững của mình với việc phát hành GPU PCIe cho trung tâm dữ liệu đầu tiên có sử dụng làm mát chip trực tiếp.
Equinix đang chứng tỏ việc sử dụng GPU làm mát bằng chất lỏng A100 80GB PCIe trong các trung tâm dữ liệu của mình như một phần của phương pháp tiếp cận toàn diện để làm mát hệ thống bền vững và giảm nhiệt độ hoạt động. Các GPU nói trên đang được lấy mẫu và sẽ được triển khai vào mùa hè này.
Tiết Kiệm Nước Và Điện Năng
Smith cho biết: “ Thật hào hứng ghi nhận việc sử dụng GPU làm mát bằng chất lỏng đầu tiên trong phòng thí nghiệm của chúng tôi, các khách hàng của chúng tôi luôn khao khát những cách bền vững để khai thác AI”.Các nhà điều hành trung tâm dữ liệu luôn mong muốn loại bỏ các thiết bị làm lạnh vốn làm bay hơi hàng triệu gallon nước mỗi năm chỉ để làm mát không khí bên trong các trung tâm dữ liệu. Làm mát bằng chất lỏng hứa hẹn các hệ thống tái chế một lượng nhỏ chất lỏng trong các hệ thống kín, tập trung vào các khu vực có nhiệt độ cao chính.
Ông nói: “Chúng tôi sẽ biến chất thải thành tài sản”
Giữ Vững Hiệu Suất, Giảm Thiểu Điện Năng
Trong các thử nghiệm riêng biệt, cả Equinix và NVIDIA đều nhận thấy một trung tâm dữ liệu sử dụng làm mát bằng chất lỏng sử dụng ít hơn khoảng 30% năng lượng so với một trung tâm dữ liệu làm mát bằng không khí khi có cùng khối lượng công việc. NVIDIA ước tính trung tâm dữ liệu làm mát bằng chất lỏng có thể đạt 1,15 PUE, thấp hơn rất nhiều so với người anh em làm mát bằng không khí.Các trung tâm dữ liệu làm mát bằng chất lỏng cũng có thể mang đến khả năng tính toán gấp đôi trong một không gian sử dụng. Đó là vì GPU A100 làm mát bằng chất lỏng chỉ sử dụng một khe cắm PCIe còn GPU A100 làm mát bằng không khí lấp thì cần hai khe.
NVIDIA cho thấy khả năng tiết kiệm điện, tăng mật độ nhờ làm mát bằng chất lỏng.
Ít nhất 10 nhà sản xuất hệ thống đang có kế hoạch kết hợp các GPU này vào sản phẩm của họ vào cuối năm nay. Có thể liệt kê một số như: ASUS, ASRock Rack, Foxconn Industrial Internet, GIGABYTE, H3C, Inspur, Inventec, Nettrix, QCT, Supermicro, Wiwynn và xFusion.
Xu Hướng Toàn Cầu
Trong số những người dùng, Bytedance - nhà cung cấp TikTok và một loạt các ứng dụng kinh doanh, giáo dục và giải trí - đang áp dụng tính năng làm mát bằng chất lỏng. Đó là một cách nhà cung cấp dịch vụ có thể giảm cả tác động môi trường và chi phí trong khi đáp ứng nhu cầu ngày càng tăng về hiệu suất.Các quy định đặt ra cho tiêu chuẩn tiết kiệm năng lượng đang chờ được áp dụng ở châu Á, châu Âu và Hoa Kỳ. Điều đó sẽ thúc đẩy các ngân hàng và các nhà khai thác trung tâm dữ liệu lớn khác cũng sẽ suy nghĩ về khả năng làm mát bằng chất lỏng.
Và công nghệ này không giới hạn ở các trung tâm dữ liệu. Ô tô và các hệ thống khác cũng cần nó để làm mát các hệ thống hiệu suất cao vốn được thiết kế bên trong các không gian hạn chế.
Con Đường Đến Sự Bền Vững
Smith cho biết: “Đây là bước khởi đầu của một cuộc hành trình.Thật vậy, chúng tôi đang quan tâm đến GPU A100 PCIe cho phiên bản vào năm sau sử dụng H100 Tensor Core GPU dựa trên kiến trúc NVIDIA Hopper. Chúng tôi có kế hoạch hỗ trợ làm mát bằng chất lỏng trong các GPU trung tâm dữ liệu hiệu suất cao và nền tảng NVIDIA HGX của chúng tôi trong tương lai gần.
Để được áp dụng nhanh chóng, các GPU được làm mát bằng chất lỏng ngày nay mang lại hiệu suất tương tự với ít năng lượng hơn. Trong tương lai, chúng tôi hy vọng những GPU này sẽ cung cấp tùy chọn để đạt được hiệu suất cao hơn cho cùng một mức năng lượng”
Smith cho biết: “ Chúng ta không nên chỉ quan tâm tới đo lường công suất , hiệu suất nhận được đối với tác động carbon mà bạn có là điều quan trọng hơn”
Tác giả Joe DeLaere
