gputaskman: Phần mềm mã nguồn mở giám sát GPU, theo dõi VRAM và ứng dụng đang sử dụng card đồ họa

Phó chủ tịch Microsoft và GitHub phát hành công cụ mã nguồn mở giám sát GPU, giúp theo dõi chi tiết ứng dụng đang sử dụng card đồ họa​

Scott Hanselman, nhà phát triển kỳ cựu của Microsoft, đồng thời là Phó chủ tịch Microsoft và GitHub, vừa giới thiệu một công cụ giám sát GPU mã nguồn mở có tên gputaskman. Công cụ này được phát triển nhằm giúp người dùng xác định rõ chương trình nào đang tiêu thụ tài nguyên card đồ họa, thay vì chỉ nhìn thấy những con số phần trăm sử dụng GPU chung chung.
Scott Hanselman là gương mặt quen thuộc trong cộng đồng phát triển .NET, mã nguồn mở, công cụ lập trình AI và cộng đồng nhà phát triển. Ông có hơn 30 năm kinh nghiệm lập trình, từng làm việc tại Intel, Nike, STEP Technology và hiện giữ chức Phó chủ tịch kiêm thành viên kỹ thuật tại Microsoft/GitHub.


Trước đó, vào tháng 4 năm nay, Hanselman cũng từng giới thiệu công cụ PeekDesktop, giúp đưa tính năng nhấp vào hình nền để hiển thị màn hình Desktop vốn có trên macOS Sonoma sang Windows 10 và Windows 11.

Theo trang công nghệ NeoWin, mặc dù Windows Task Manager từ lâu đã hỗ trợ hiển thị mức sử dụng GPU, nhiệt độ và một số thông số tổng thể khác, người dùng vẫn gặp khó khăn khi muốn tìm hiểu chi tiết từng tiến trình đang thực hiện những tác vụ gì trên card đồ họa. Trong tab Details, Windows Task Manager cho phép bật chế độ theo dõi mức sử dụng bộ nhớ GPU theo từng tiến trình, nhưng thông tin cung cấp vẫn còn hạn chế.

Công cụ GPU Activity Monitor của NVIDIA cũng có khả năng liệt kê những ứng dụng đang sử dụng GPU, tuy nhiên chưa cung cấp nhiều thông tin chuyên sâu. Đây chính là khoảng trống mà gputaskman hướng đến giải quyết.

gputaskman có thể theo dõi những thông số nào?

Công cụ cho phép giám sát hoạt động GPU theo từng tiến trình, bao gồm:

• Mức độ sử dụng GPU.
• Dung lượng bộ nhớ GPU (VRAM) đang sử dụng.
• Nhiệt độ card đồ họa.
• Mức tiêu thụ điện năng.
• Xung nhịp GPU.
• Hoạt động của bộ mã hóa và giải mã video.
• Lưu lượng dữ liệu truyền qua PCIe.

Đáng chú ý, gputaskman còn hướng đến nhóm người dùng đang chạy các mô hình ngôn ngữ lớn (LLM) trực tiếp trên máy tính cá nhân. Công cụ có thể nhận diện các tiến trình LLM và hiển thị thêm thông tin như tên mô hình, môi trường chạy (runtime), trọng số mô hình, phương pháp lượng tử hóa (quantization), số lượng layer và dung lượng VRAM đang tiêu thụ.

Nhờ vậy, người dùng có thể hiểu rõ hơn các tác vụ AI chạy cục bộ đang gây áp lực lên card đồ họa như thế nào, đặc biệt khi chạy nhiều mô hình hoặc ứng dụng AI cùng lúc.

Hiện tại, gputaskman vẫn đang trong giai đoạn thử nghiệm ban đầu và hỗ trợ nhiều nền tảng, bao gồm Windows, Linux, WSL và máy Mac sử dụng chip Apple Silicon.

Tuy nhiên, công cụ vẫn còn một số hạn chế. Một số người dùng thử nghiệm phản ánh rằng thông số nhiệt độ GPU đôi khi bị giữ nguyên trong thời gian dài và không được cập nhật liên tục. Nhà phát triển cũng lưu ý trải nghiệm thực tế có thể khác nhau tùy thuộc vào phần cứng và nền tảng sử dụng.

Các bạn có thể trải nghiệm phần mềm tại đây