Intel bước vào thời đại AI PC! Core 13 hỗ trợ mô hình lớn 16 tỷ tham số

VNZ-NEWS
Vn-Z.vn Ngày 21 tháng 08 năm 2023, Intel đã bước vào thời đại AI PC với dòng vi xử lý thế hệ thứ 13 Core i thú vị. Các chip này đã hỗ trợ chạy các mô hình lớn 16 tỷ tham số, mang lại khả năng xử lý mạnh mẽ cho các ứng dụng AI. Ngoài ra, các hệ thống sử dụng card đồ họa Arc cũng giúp tăng tốc độ lên đến 54%.

Không thể phủ nhận , AI sinh trắc học tạo ra (AIGC) đang là chủ đề và ứng dụng rất hot hiện nay, với sự đầu tư tận tâm từ các nhà sản xuất phần cứng và phần mềm.

Là một nhà sản xuất hàng đầu trong ngành với phần cứng mạnh mẽ và hệ sinh thái rộng, Intel cũng đang tích cực thúc đẩy triển khai ứng dụng PC AIGC. Họ cung cấp hỗ trợ toàn diện từ phần cứng đến phần mềm đảm bảo sự phát triển và ứng dụng toàn diện của công nghệ AIGC trên máy tính cá nhân. Bằng cách cung cấp bộ xử lý hiệu năng cao và các công cụ phần mềm phát triển cùng nhau, Intel cam kết cung cấp cơ sở hạ tầng mạnh mẽ cho các nhà phát triển để họ có thể tạo ra các ứng dụng AIGC tiên tiến và sáng tạo hơn.

Intel cũng tích cực hợp tác với các đối tác để thúc đẩy việc áp dụng công nghệ AIGC trong hệ sinh thái, đẩy mạnh sự phát triển trong lĩnh vực này. Nỗ lực của họ nhằm thúc đẩy sự phổ biến và thương mại hóa công nghệ AIGC, cung cấp cho người dùng trải nghiệm máy tính cá nhân thông minh và hoàn toàn mới.

Intel-AIPC.jpg


Hiện tại trên nền tảng PC, các dòng vi xử lý Core i thế hệ 12/13 đã được Intel phát hành, cùng với dòng card đồ họa Arc A-Series và thế hệ tiếp theo của Core i Ultra sắp được ra mắt, đều đáp ứng yêu cầu về khả năng tính toán cao cho AIGC.

Thêm vào đó, việc xây dựng hệ sinh thái phần mềm và tối ưu hóa mô hình cũng đồng hành, các ứng dụng AIGC có thể được triển khai trên các thiết bị như máy tính để bàn, laptop mỏng nhẹ, laptop đa năng, laptop chơi game, giúp tăng đáng kể hiệu suất trong cuộc sống hàng ngày và công việc.

Trong đó, giải pháp dựa trên OpenVINO PyTorch backend, thông qua PyTorch API, cho phép các mô hình mã nguồn mở trong cộng đồng chạy tốt trên bộ xử lý , card đồ họa tích hợp trong vi xử lý , card đồ họa độc lập và bộ máy trí tuệ nhân tạo chuyên dụng của Intel.

Intel-AIPC-web.jpg

Ví dụ, việc triển khai Stable Diffusion , giao diện web tự động đã có thể chạy mô hình lớn với độ chính xác dấu chấm động FP16 trên bộ xử lý và card đồ họa Intel, hỗ trợ các chức năng như tạo hình ảnh từ văn bản, tạo ảnh từ hình ảnh, và sửa chữa cục bộ.

Intel đã thông qua tối ưu hóa mô hình giúp giảm yêu cầu về tài nguyên phần cứng và tăng tốc độ suy luận của mô hình, cho phép các mô hình mã nguồn mở trong cộng đồng hoạt động tốt trên máy tính cá nhân.

Hiện nay, dòng vi xử lý Core i thế hệ 13 của Intel có thể tăng tốc XPU, lượng tử hóa low-bit và tối ưu hóa phần mềm khác, cho phép các mô hình ngôn ngữ lớn với đến 160 tỷ tham số chạy trên các máy tính cá nhân có dung lượng RAM từ 16GB trở lên thông qua framework BigDL-LLM.

Các mô hình đã được xác minh bao gồm : LLAMA/LLAMA2, ChatGLM/ChatGLM2, MPT, Falcon, MOSS, Baichuan, QWen, Dolly, RedPajama, StarCoder, Whisper được hỗ trợ bởi API Transformers, LangChain trên các hệ điều hành Windows và Linux.

Dòng vi xử lý Core i với tên mã Meteor Lake, dự kiến sẽ trở thành một cột mốc quan trọng trong lịch sử PC AI.

Ban-sao-Intel-AIPC-01.jpg

Dòng Core i Ultra sử dụng kiến trúc mô-đun phân tách và tích hợp một đơn vị tăng tốc trí tuệ nhân tạo (AI) độc lập được gọi là "VPU" (AI Acceleration Unit) có thể cung cấp cho người dùng PC những tính năng và ứng dụng mới được định hướng bởi trí tuệ nhân tạo. Ví dụ, trong Adobe Premiere Pro, tính VPU có thể tự động xây dựng lại cấu trúc hình ảnh, phát hiện chỉnh sửa cảnh và cung cấp tăng tốc học máy hiệu quả hơn.

Hiện tại, Intel đang hợp tác với các đối tác trong ngành PC để thúc đẩy triển khai và phổ biến ứng dụng tăng tốc trí tuệ nhân tạo. Trong tương lai, các sản phẩm cơ sở hạ tầng tiếp theo cũng sẽ mở rộng khả năng trí tuệ nhân tạo.


Ban-sao-Intel-Arc-AIPC.jpg


Trong một diễn biến khác, các card đồ họa Intel Arc Alchemist liên tục được Intel cập nhật driver và bản vá , Intel Arc đã có thể hỗ trợ tốt cho Stable Diffusion, đem lại hiệu năng cải thiện đáng kể.

Tom's Hardware đã tiến hành kiểm tra hiệu năng của Arc A770 16GB và Arc A750, sử dụng Automatic1111 WebUI và OpenVINO.

Trong các kiểm tra trước đây, hiệu năng của Arc A770 16GB và Arc A450 so với RTX 4060 chỉ thấp khoảng 20%. Tuy nhiên, hiện nay, hiệu năng của Arc A770 16GB đã tăng lên đáng kể, tăng 54%, và hiệu năng của Arc A750 tăng 40%. So với RTX 4060, Arc A770 16GB vượt trội 25% và Arc A750 vượt trội 6%.

Ban-sao-Intel-Arc-AIPC-new-2023.jpg

Mặc dù hiệu năng chơi game của Intel Arc không bằng RTX 4060, nhưng hiện nay dòng card đồ họa của Intel có hiệu suất trí tuệ nhân tạo (AI) cao hơn, điều này thể hiện rõ sự xuất sắc của Intel trong hiệu năng phần cứng và tối ưu phần mềm.

Nếu xem xét hiệu suất với card đồ họa AMD, có thể thấy sự tiến bộ vượt bậc của Intel. Hiệu suất của dòng RX 6000 vẫn rất thấp, thậm chí hiệu suất của RX 6800 cũng chỉ bằng khoảng hơn một nửa của Arc A750.
 
Trả lời

mrfedex

Búa Gỗ
Intel có vẻ đang đi xuống so với các nhà phát triển khác rồi.