Vn-Z.vn Ngày 17 tháng 12 năm 2024, Bốn năm trước, AMD đã đặt mục tiêu đến năm 2025 sẽ nâng cao hiệu suất năng lượng của dòng
bộ xử lý EPYC và
chip AI Instinct lên 30 lần so với năm 2020. Tuy nhiên, với chip AI
MI300X, AMD đã đạt được mục tiêu này trước thời hạn một năm.
Thành tựu ấn tượng
Theo báo cáo từ THW, AMD đã thử nghiệm trên một hệ thống gồm:
•
2 CPU EPYC 9575F 64 nhân,
•
8 chip Instinct MI300X,
• Bộ nhớ DDR5 dung lượng lên đến
2304GB,
với bài kiểm tra hiệu suất Llama 3.1-70B.
Kết quả cho thấy hệ thống mới đạt hiệu suất năng lượng gấp
28,3 lần so với hệ thống năm 2020. Dù AMD không tiết lộ chi tiết cấu hình hệ thống cũ, nhiều khả năng đó là các chip
EPYC 7002 (kiến trúc Zen 2) và
chip AI Instinct MI100 (CDNA 1).
AMD nhấn mạnh, bước tiến vượt bậc này không chỉ nhờ cải tiến phần cứng mà còn đến từ sự tối ưu về
kiến trúc và
phần mềm.
Chip AI mới: Instinct MI325X
Tại sự kiện
Advancing AI 2024, AMD đã ra mắt GPU tăng tốc
Instinct MI325X, kế thừa thành công của MI300X với những cải tiến mạnh mẽ:
•
Dung lượng HBM3E lên đến 256GB, tăng thêm 64GB so với MI300X.
• Hỗ trợ
8 GPU hoạt động song song, tạo nên một nền tảng với:
•
2TB HBM3E, băng thông lên đến
48TB/s,
• Tổng hiệu suất đạt
10.4 PFlops (FP16) và
20.8 PFlops (FP8).
So với NVIDIA H200, MI325X vượt trội:
• Hiệu suất suy luận với các mô hình AI lớn dẫn trước
20-40%,
• Hiệu suất huấn luyện:
• Dẫn trước
10% với đơn card,
• Tương đương trên nền tảng 8 card.
Kế hoạch triển khai
• GPU MI325X sẽ được sản xuất trong
quý IV năm 2024,
• Hệ thống hoàn chỉnh từ các đối tác sẽ ra mắt từ
quý I năm 2025, mở ra một giai đoạn mới cho hiệu suất chip AI.