OpenAI sẽ cần 720.000 chiếc Nvidia H100 cho mô hình AI tạo sinh video Sora

VNZ-NEWS
Vn-Z.vn Ngày 27 tháng 03 năm 2024, Gần đây công ty nghiên cứu thị trường Factorial Funds đã đưa ra một báo cáo, tin rằng việc triển khai mô hình chuyển văn bản thành video Sora của OpenAI sẽ cần 720.000 chiếc AI NVIDIA H100 vào thời điểm cao điểm.

b7FcXDy.jpeg

Ước tính tính toán Sora từ Factorial Funds:

Triển khai quy mô lớn: 720.000 H100s

Huấn luyện: 4.200 - 10.500 H100s trong 1 tháng

Suy luận: trên một H100 đơn lẻ, mất 12 phút để tạo ra một video có độ dài 1 phút.
Nếu tính dựa trên chi phí của mỗi card GPU tăng tốc AI NVIDIA H100 là 30.000 USD thì 720.000 chiếc sẽ có giá 21,6 tỷ USD. Và đây chỉ là giá thành của card tăng tốc H100 thôi, để chạy hệ thống này thì phải tiêu tốn rất nhiều điện năng, mỗi chiếc H100 tiêu tốn 700W, còn 720.000 chiếc là 504.000.000W.

AI-Facetory-Fund.webp


Factorial Funds ước tính rằng việc đào tạo Sora trong một tháng cần sử dụng 4.200 đến 10.500 GPT tăng tốc AI Nvidia H100. Nếu sử dụng một GPT tăng tốc H100 duy nhất, sẽ mất 12 phút để hiển thị một video dài 1 phút.

 
Trả lời