Vn-Z.vn Ngày 17 tháng 12 năm 2024, Bốn năm trước, AMD đã đặt mục tiêu đến năm 2025 sẽ nâng cao hiệu suất năng lượng của dòng bộ xử lý EPYC và chip AI Instinct lên 30 lần so với năm 2020. Tuy nhiên, với chip AI MI300X, AMD đã đạt được mục tiêu này trước thời hạn một năm.
Thành tựu ấn tượng
Theo báo cáo từ THW, AMD đã thử nghiệm trên một hệ thống gồm:
• 2 CPU EPYC 9575F 64 nhân,
• 8 chip Instinct MI300X,
• Bộ nhớ DDR5 dung lượng lên đến 2304GB,
với bài kiểm tra hiệu suất Llama 3.1-70B.
Kết quả cho thấy hệ thống mới đạt hiệu suất năng lượng gấp 28,3 lần so với hệ thống năm 2020. Dù AMD không tiết lộ chi tiết cấu hình hệ thống cũ, nhiều khả năng đó là các chip EPYC 7002 (kiến trúc Zen 2) và chip AI Instinct MI100 (CDNA 1).
AMD nhấn mạnh, bước tiến vượt bậc này không chỉ nhờ cải tiến phần cứng mà còn đến từ sự tối ưu về kiến trúc và phần mềm.
Chip AI mới: Instinct MI325X
Tại sự kiện Advancing AI 2024, AMD đã ra mắt GPU tăng tốc Instinct MI325X, kế thừa thành công của MI300X với những cải tiến mạnh mẽ:
• Dung lượng HBM3E lên đến 256GB, tăng thêm 64GB so với MI300X.
• Hỗ trợ 8 GPU hoạt động song song, tạo nên một nền tảng với:
• 2TB HBM3E, băng thông lên đến 48TB/s,
• Tổng hiệu suất đạt 10.4 PFlops (FP16) và 20.8 PFlops (FP8).
So với NVIDIA H200, MI325X vượt trội:
• Hiệu suất suy luận với các mô hình AI lớn dẫn trước 20-40%,
• Hiệu suất huấn luyện:
• Dẫn trước 10% với đơn card,
• Tương đương trên nền tảng 8 card.
Kế hoạch triển khai
• GPU MI325X sẽ được sản xuất trong quý IV năm 2024,
• Hệ thống hoàn chỉnh từ các đối tác sẽ ra mắt từ quý I năm 2025, mở ra một giai đoạn mới cho hiệu suất chip AI.
Theo báo cáo từ THW, AMD đã thử nghiệm trên một hệ thống gồm:
• 2 CPU EPYC 9575F 64 nhân,
• 8 chip Instinct MI300X,
• Bộ nhớ DDR5 dung lượng lên đến 2304GB,
với bài kiểm tra hiệu suất Llama 3.1-70B.
Kết quả cho thấy hệ thống mới đạt hiệu suất năng lượng gấp 28,3 lần so với hệ thống năm 2020. Dù AMD không tiết lộ chi tiết cấu hình hệ thống cũ, nhiều khả năng đó là các chip EPYC 7002 (kiến trúc Zen 2) và chip AI Instinct MI100 (CDNA 1).
AMD nhấn mạnh, bước tiến vượt bậc này không chỉ nhờ cải tiến phần cứng mà còn đến từ sự tối ưu về kiến trúc và phần mềm.
Chip AI mới: Instinct MI325X
Tại sự kiện Advancing AI 2024, AMD đã ra mắt GPU tăng tốc Instinct MI325X, kế thừa thành công của MI300X với những cải tiến mạnh mẽ:
• Dung lượng HBM3E lên đến 256GB, tăng thêm 64GB so với MI300X.
• Hỗ trợ 8 GPU hoạt động song song, tạo nên một nền tảng với:
• 2TB HBM3E, băng thông lên đến 48TB/s,
• Tổng hiệu suất đạt 10.4 PFlops (FP16) và 20.8 PFlops (FP8).
So với NVIDIA H200, MI325X vượt trội:
• Hiệu suất suy luận với các mô hình AI lớn dẫn trước 20-40%,
• Hiệu suất huấn luyện:
• Dẫn trước 10% với đơn card,
• Tương đương trên nền tảng 8 card.
Kế hoạch triển khai
• GPU MI325X sẽ được sản xuất trong quý IV năm 2024,
• Hệ thống hoàn chỉnh từ các đối tác sẽ ra mắt từ quý I năm 2025, mở ra một giai đoạn mới cho hiệu suất chip AI.
