Vn-Z.vn Ngày 23 tháng 07 năm 2024, Elon Musk đã xây dựng cụm AI mạnh nhất thế giới!. Thông tin gây chấn động này được chính Elon Musk công bố trên tài khoản Twitter của ông.
Cụ thể vào lúc 4:20 sáng theo giờ địa phương, cụm siêu máy tính Memphis, được hợp tác xây dựng bởi xAI, X, và Nvidia, đã bắt đầu được đưa vào sử dụng.
Cụm AI này bao gồm 100,000 card H100 và hiện là cụm đào tạo AI mạnh nhất thế giới. Theo các tuyên bố trước đó, cần 100.000 chiếc H100 để huấn luyện Grok-3.
Quy mô của cụm AI này đã vượt xa siêu máy tính mạnh nhất thế giới là Frontier.
Nơi đặt Cụm AI chụp từ trên cao
Các thành viên sáng lập xAI cho biết rằng: " Khi chúng tôi thành lập công ty này cách đây một năm, mục tiêu là đạt được ba ưu thế: ưu thế về dữ liệu, ưu thế về nhân tài và ưu thế về tính toán."
Elon Musk cũng chia sẻ trên twitter vào tháng 6 năm 2024, đề cập rằng việc đầu tư 1GW điện cho H100 là không xứng đáng. Mùa hè tới, một cụm gồm 300.000 chiếc B200 có thể được đưa vào sử dụng.
Trước đó, giới truyền thông quốc tế đưa tin vào tháng 5 năm 2024, Elon Musk dự định xây dựng một cụm siêu máy tính gồm 100,000 tấm H100 trước mùa thu năm 2025 và hợp tác với Oracle.
Những nguồn tin lúc đó cho rằng: xAI sẽ đầu tư 100 tỷ USD để thuê máy chủ của Oracle. Lúc đó, có người nghi ngờ tại sao phải xây dựng vào năm sau mà lại sử dụng công nghệ thế hệ cũ? Bởi vì NVIDIA đã ra mắt các sản phẩm B100 và B200 dựa trên kiến trúc Blackwell mới, có hiệu suất huấn luyện mô hình lớn vượt trội so với H100.
Bây giờ nhìn lại, có lẽ thời gian trong thông tin có sự nhầm lẫn? Elon Musk hoàn thành kế hoạch xây dựng cụm siêu AI trong năm nay hợp lý hơn nhiều.
Các thông tin sau đó được chia sẻ trên twitter cho thấy Dell và Super Micro đã trở thành đối tác mới của Musk.
Giám đốc điều hành Dell và Giám đốc điều hành Supermicro gần đây đều tweet rằng sự hợp tác đang được tiến hành và kèm theo những bức ảnh về trung tâm dữ liệu.
Trong quá trình xây dựng cụm AI , đích thân Musk đã đến thăm địa điểm này. Đồng thời, trên Twitter của ông cũng tiết lộ rằng Grok đang huấn luyện ở Memphis và Grok-2 sẽ ra mắt vào tháng 8.
Dù trước đó Oracle đã đưa ra quan ngại về vấn đề cung cấp điện tại địa điểm mà cụm được thành lập. Theo ước tính, 100.000 chiếc H100 cần 150 megawatt điện được phân bổ từ lưới điện, nhưng có vẻ như Musk đã giải quyết được vấn đề này.
Tin tức mới nhất cho thấy cụm AI hiện tại đã tạm thời thu được 8 megawatt. Sau khi ký thỏa thuận vào ngày 1 tháng 8, sẽ có được 50 MW. Hiện có 32.000 thẻ trực tuyến và sẽ trực tuyến 100% trong quý 4 - đủ để hỗ trợ các hoạt động đào tạo mô hình quy mô GPT-5.
Có thể khẳng định rằng các ông lớn trong ngành AI đều cho rằng việc nắm giữ sức mạnh tính toán trong tay mình là đáng tin cậy hơn, vì thế việc chi tiêu điên cuồng cho kế hoạch nắm giữ sức mạnh này rất xứng đáng.
Ước tính chi phí, mỗi tấm H100 có giá khoảng 30,000 đến 40,000 USD. Cụm siêu máy tính của Elon Musk sẽ có giá trị lên đến 4 tỷ USD. Microsoft và OpenAI đang xây dựng một dự án trung tâm dữ liệu trị giá 100 tỷ USD có tên là "Stargate".
Người trong cuộc tiết lộ rằng Oracle và Microsoft đang đạt được một thỏa thuận liên quan đến 100,000 tấm B200. Cụm máy tính này có thể sẽ sẵn sàng vào mùa hè năm sau.
Ngoài ra, Meta cũng từng bị rò rỉ thông tin về cụm siêu máy tính xa xỉ, các nhà cung cấp dịch vụ đám mây như AWS cũng đang đầu tư lớn hơn vào các trung tâm dữ liệu.
Cụ thể vào lúc 4:20 sáng theo giờ địa phương, cụm siêu máy tính Memphis, được hợp tác xây dựng bởi xAI, X, và Nvidia, đã bắt đầu được đưa vào sử dụng.
Cụm AI này bao gồm 100,000 card H100 và hiện là cụm đào tạo AI mạnh nhất thế giới. Theo các tuyên bố trước đó, cần 100.000 chiếc H100 để huấn luyện Grok-3.
Quy mô của cụm AI này đã vượt xa siêu máy tính mạnh nhất thế giới là Frontier.
Nơi đặt Cụm AI chụp từ trên cao
Elon Musk cũng chia sẻ trên twitter vào tháng 6 năm 2024, đề cập rằng việc đầu tư 1GW điện cho H100 là không xứng đáng. Mùa hè tới, một cụm gồm 300.000 chiếc B200 có thể được đưa vào sử dụng.
Trước đó, giới truyền thông quốc tế đưa tin vào tháng 5 năm 2024, Elon Musk dự định xây dựng một cụm siêu máy tính gồm 100,000 tấm H100 trước mùa thu năm 2025 và hợp tác với Oracle.
Những nguồn tin lúc đó cho rằng: xAI sẽ đầu tư 100 tỷ USD để thuê máy chủ của Oracle. Lúc đó, có người nghi ngờ tại sao phải xây dựng vào năm sau mà lại sử dụng công nghệ thế hệ cũ? Bởi vì NVIDIA đã ra mắt các sản phẩm B100 và B200 dựa trên kiến trúc Blackwell mới, có hiệu suất huấn luyện mô hình lớn vượt trội so với H100.
Bây giờ nhìn lại, có lẽ thời gian trong thông tin có sự nhầm lẫn? Elon Musk hoàn thành kế hoạch xây dựng cụm siêu AI trong năm nay hợp lý hơn nhiều.
Các thông tin sau đó được chia sẻ trên twitter cho thấy Dell và Super Micro đã trở thành đối tác mới của Musk.
Giám đốc điều hành Dell và Giám đốc điều hành Supermicro gần đây đều tweet rằng sự hợp tác đang được tiến hành và kèm theo những bức ảnh về trung tâm dữ liệu.
Trong quá trình xây dựng cụm AI , đích thân Musk đã đến thăm địa điểm này. Đồng thời, trên Twitter của ông cũng tiết lộ rằng Grok đang huấn luyện ở Memphis và Grok-2 sẽ ra mắt vào tháng 8.
Dù trước đó Oracle đã đưa ra quan ngại về vấn đề cung cấp điện tại địa điểm mà cụm được thành lập. Theo ước tính, 100.000 chiếc H100 cần 150 megawatt điện được phân bổ từ lưới điện, nhưng có vẻ như Musk đã giải quyết được vấn đề này.
Có thể khẳng định rằng các ông lớn trong ngành AI đều cho rằng việc nắm giữ sức mạnh tính toán trong tay mình là đáng tin cậy hơn, vì thế việc chi tiêu điên cuồng cho kế hoạch nắm giữ sức mạnh này rất xứng đáng.
Ước tính chi phí, mỗi tấm H100 có giá khoảng 30,000 đến 40,000 USD. Cụm siêu máy tính của Elon Musk sẽ có giá trị lên đến 4 tỷ USD. Microsoft và OpenAI đang xây dựng một dự án trung tâm dữ liệu trị giá 100 tỷ USD có tên là "Stargate".
Người trong cuộc tiết lộ rằng Oracle và Microsoft đang đạt được một thỏa thuận liên quan đến 100,000 tấm B200. Cụm máy tính này có thể sẽ sẵn sàng vào mùa hè năm sau.
Ngoài ra, Meta cũng từng bị rò rỉ thông tin về cụm siêu máy tính xa xỉ, các nhà cung cấp dịch vụ đám mây như AWS cũng đang đầu tư lớn hơn vào các trung tâm dữ liệu.
BÀI MỚI ĐANG THẢO LUẬN