Hỏi/ Thắc mắc Tư vấn build máy phục vụ cho Machine learning

[trungnghiatn]

Chào anh em,
Mình có nhu cầu chạy machine learning nên muốn tự build một dàn máy (chạy Linux). Mình ngắm sẵn trong đầu một số thành phần rồi (sau khi tham khảo từ tiền bối), nhưng vẫn chưa đầy đủ nên nhờ anh em hỗ trợ nốt.
- Chip: i7 7700 HQ hoặc AMD Ryzen 1600
- RAM: 32 hoặc 64 GB
- SSD: 1 TB
- HDD: 2 TB
- GPU: GTX 1080 12 GB VRAM
Cấu hình trên là tối thiểu, hiện vẫn còn thiếu nguồn, tản nhiệt... các thứ mà mình chưa build máy nên không rõ. Mong anh em hỗ trợ. Nếu biết giá hườm hườm thì anh em chỉ giúp nhé.
Cảm ơn anh em nhiều.
P/s: Nếu nhầm box mong Mod đừng xóa bài tội em, nhờ mod đưa về đúng box giùm nhé

 

[sukoharin]

Chào anh em,
Mình có nhu cầu chạy machine learning nên muốn tự build một dàn máy (chạy Linux). Mình ngắm sẵn trong đầu một số thành phần rồi (sau khi tham khảo từ tiền bối), nhưng vẫn chưa đầy đủ nên nhờ anh em hỗ trợ nốt.
- Chip: i7 7700 HQ hoặc AMD Ryzen 1600
- RAM: 32 hoặc 64 GB
- SSD: 1 TB
- HDD: 2 TB
- GPU: GTX 1080 12 GB VRAM
Cấu hình trên là tối thiểu, hiện vẫn còn thiếu nguồn, tản nhiệt... các thứ mà mình chưa build máy nên không rõ. Mong anh em hỗ trợ. Nếu biết giá hườm hườm thì anh em chỉ giúp nhé.
Cảm ơn anh em nhiều.
P/s: Nếu nhầm box mong Mod đừng xóa bài tội em, nhờ mod đưa về đúng box giùm nhé

Bác nên dùng bên Intel hơn là AMD.

 

[caduoicakho]

Em có đọc được trên mạng, việc chạy machine learning bằng CPU vs GPU (card màn hình).
Nếu có kinh phí, bác nên cân nhắc thêm về mảng GPU nữa nhé.

 

[doanhanam]

Có nhiều loại lắm . Tùy trường phái machine learning mà sử dung . Thông thưởng thì dùng machine learning thì sử dụng GPU để sử lý . Vì các lĩnh vực AI không đòi hỏi tính toán nặng mà nhiều nhưng nhẹ . GPU có tới cả ngàn core nên làm rất nhanh . Bạn phải dùng tới GPU càng nhiều nhân càng tốt và xung nhịp càng cao càng tốt . Cũng có trường phái sài về CPU nhưng phần đông đi theo GPU . Làm AI thì hầu như sài giống máy chủ vì phần mềm AI để theo kiều đóng gói thì bán được 1 lần và lần sau bị sài không bản quyền . Nên đòi hỏi hoạt động 24/7 . Do đó cần tản nhiệt thât tốt thì máy mới có thể sài trên 10 năm . Còn không thì 2 năm hay 3 năm là máy rã luôn giống mấy tiệm net . Tản nhiệt nước bình thường , tản nhiệt nước 0 độ C cho chuyên gia , -60 độ cho giới nghiên cứu . Với 0 độ chuyên cho ép xung , các hoạt động server liên tục ngày ngày qua ngày khác , các chuyên gia về làm phim , đồ họa , chuyên thiết kế , kiến trúc .. . Với - 190 độ cho giới nghiên cứu cần các chức năng nghiên cứu , khoa học . Tham khảo http://makecool.ddns.net

 

[trungnghiatn]

Có nhiều loại lắm . Tùy trường phái machine learning mà sử dung . Thông thưởng thì dùng machine learning thì sử dụng GPU để sử lý . Vì các lĩnh vực AI không đòi hỏi tính toán nặng mà nhiều nhưng nhẹ . GPU có tới cả ngàn core nên làm rất nhanh . Bạn phải dùng tới GPU càng nhiều nhân càng tốt và xung nhịp càng cao càng tốt . Cũng có trường phái sài về CPU nhưng phần đông đi theo GPU . Làm AI thì hầu như sài giống máy chủ vì phần mềm AI để theo kiều đóng gói thì bán được 1 lần và lần sau bị sài không bản quyền . Nên đòi hỏi hoạt động 24/7 . Do đó cần tản nhiệt thât tốt thì máy mới có thể sài trên 10 năm . Còn không thì 2 năm hay 3 năm là máy rã luôn giống mấy tiệm net . Tản nhiệt nước bình thường , tản nhiệt nước 0 độ C cho chuyên gia , -60 độ cho giới nghiên cứu . Với 0 độ chuyên cho ép xung , các hoạt động server liên tục ngày ngày qua ngày khác , các chuyên gia về làm phim , đồ họa , chuyên thiết kế , kiến trúc .. . Với - 190 độ cho giới nghiên cứu cần các chức năng nghiên cứu , khoa học . Tham khảo http://makecool.ddns.net

Cảm ơn bác chia sẻ
Nhưng mà mình còn mơ hồ quá, bác có thể cho chi tiết một dàn máy được không?

 

[doanhanam]

Mình nói lại cho ngắn gọn đây :
Bạn làm machine learning nếu có dùng phần mềm từ ngoài vào và đòi hỏi dùng GPU làm chủ lực thì bạn sắm GPU ( ví dụ RTX ) càng nhiều càng tốt nhưng chỉ được sài chip gpu của Nvidia thôi , đừng đụng tới của bên khác cụ thể là amd . Vì nvidia đã thiết kế hỗ trợ phần này rồi và các machine learning software khác sử dụng để phát triễn từ đó . Cứ mua nhiều GPU của nvidia vào và nhớ kiểm tra bootle neck từ https://pc-builds.com/calculator/ .
Nếu bạn tự viết soft cho AI mà không cần dùng tới GPU bạn tự đi theo lối đi riêng , không đi theo kiểu mọi người thường đi thì khỏi đầu tư GPU chi cho mất công . Lúc đó sắm cái cpu nào nhiều core . Ví dụ như bên nhiều core nhưng giá phải chăng là AMD . Chịu khó sắm tản nhiệt tốt cái vì amd nổi tiếng là nóng . Lúc đó bạn tha hổ mà code . Vì AI là không có bán phần mềm đóng gói , nên phải có máy chủ để triễn khai . Bạn thấy cortana , siri , chị google . Có cái nào dám đóng gói cho sài không . Bị bẻ khóa là cả đống tiền khỏi lấy lại liền ! . Mà máy chủ thì phải 24/7 và đừng nói là bạn host trên máy thuê nhé ! . Bạn tin tưởng mà giao cho người ta không ? . Do đó máy bạn cần trở thàng server luôn đấy .


Trên đây là toàn bộ những gì bạn cần . Hãy suy nghĩ và nhờ kỹ thuât tư vấn cho phù hơp . Chứ ai biết bạn có bao nhiêu và tương lai có định chuyện gì khác như nâng cấp hay làm phần nào nữa mà kêu bạn mua một cái card hay cpu nào đó cụ thể . Tư vấn cho bạn biết tại sao phải mua thôi . Mua cái gì thì hỏi kỹ thuật và hỏi cái ví của mình nữa .

 

[trungnghiatn]

Mình nói lại cho ngắn gọn đây :
Bạn làm machine learning nếu có dùng phần mềm từ ngoài vào và đòi hỏi dùng GPU làm chủ lực thì bạn sắm GPU ( ví dụ RTX ) càng nhiều càng tốt nhưng chỉ được sài chip gpu của Nvidia thôi , đừng đụng tới của bên khác cụ thể là amd . Vì nvidia đã thiết kế hỗ trợ phần này rồi và các machine learning software khác sử dụng để phát triễn từ đó . Cứ mua nhiều GPU của nvidia vào và nhớ kiểm tra bootle neck từ https://pc-builds.com/calculator/ .
Nếu bạn tự viết soft cho AI mà không cần dùng tới GPU bạn tự đi theo lối đi riêng , không đi theo kiểu mọi người thường đi thì khỏi đầu tư GPU chi cho mất công . Lúc đó sắm cái cpu nào nhiều core . Ví dụ như bên nhiều core nhưng giá phải chăng là AMD . Chịu khó sắm tản nhiệt tốt cái vì amd nổi tiếng là nóng . Lúc đó bạn tha hổ mà code . Vì AI là không có bán phần mềm đóng gói , nên phải có máy chủ để triễn khai . Bạn thấy cortana , siri , chị google . Có cái nào dám đóng gói cho sài không . Bị bẻ khóa là cả đống tiền khỏi lấy lại liền ! . Mà máy chủ thì phải 24/7 và đừng nói là bạn host trên máy thuê nhé ! . Bạn tin tưởng mà giao cho người ta không ? . Do đó máy bạn cần trở thàng server luôn đấy .


Trên đây là toàn bộ những gì bạn cần . Hãy suy nghĩ và nhờ kỹ thuât tư vấn cho phù hơp . Chứ ai biết bạn có bao nhiêu và tương lai có định chuyện gì khác như nâng cấp hay làm phần nào nữa mà kêu bạn mua một cái card hay cpu nào đó cụ thể . Tư vấn cho bạn biết tại sao phải mua thôi . Mua cái gì thì hỏi kỹ thuật và hỏi cái ví của mình nữa .

Đầu tiên cảm ơn bạn nhé.
Tiếp theo, mình nói rõ hơn. Như mình đã đề cập thì mình đã liệt kê ra các thành phần chính của PC mình định build rồi. Mình xin liệt kê lại, bao gồm:
- Chip: i7 7700 HQ hoặc AMD Ryzen 1600
- RAM: 32 hoặc 64 GB
- SSD: 1 TB
- HDD: 2 TB
- GPU: GTX 1080 12 GB VRAM
Trên đây mới chỉ là thông số mong muốn (ngoại trừ chip và card đồ họa), còn lại thì một số các thiết bị hỗ trợ khác như main, nguồn, tản nhiệt... cho phù hợp với các thứ kia. Nên cái mình cần là mong được tư vấn về các sản phẩm cụ thể, hoặc thương hiệu của các thành phần trong PC mình định build, vì mình k rõ.
Ví dụ như RAM thì nên mua con RAM xxx của hãng yyy, SSD thì dùng con zzz của hãng abc. Để fit hết các thứ đó thì chạy trên main AAA, nguồn tối thiểu cũng khoảng ddd W của hãng MMM.
Tiêu chí thì sẽ dung hòa giữa chất lượng và chi phí.

 

[doanhanam]

Thôi được , tư vấn mua đồ cho bạn luôn .
Bạn cho biết giá của toàn bộ bạn có thể mua là bao nhiêu . Tức là cái ví của bạn ấy .
Bạn là lâp trình trí tuệ nhân tạo sử dụng open source nào .
Bạn có đinh làm gì với nó hay không . Ý là một mình bạn sài trí tuê nhân tạo bạn viết ra hay là muốn bán cho nhiều người sử dung .
Bạn có làm gì về đồ họa hay không hay là những gì phát sinh nếu sau này bạn muốn .
Bạn muốn máy của bạn sài trong vòng bao lâu .



Bạn nó rõ yêu cầu . Mình sẽ build pc cho bạn trong giới hạn đó . Thiết bị cụ thể luôn và nơi mua luôn . Quyết định còn lại là tùy ở bạn .


Mình sản xuất về tản nhiệt nên biết rõ về phần cứng và sự bền của nó . Nếu cấu hình bạn cao , tản nhiệt tốt thì máy bạn sài hơn 10 năm luôn .

 

[doanhanam]

Nhưng nếu bạn có khả năng tài chính thì Intel nhé , vì có thể Oc sau này khi cpu đó đã trở lên lỗi thời . Chứ còn AMD thì nhanh lỗi thời vì AMD cpu xung nhịp không cao , OC có giới hạn hơn nhiều so với Intel .