gputaskman VRAM AI监控是Microsoft和GitHub的VP兼Member of Technical Staff Scott Hanselman推出的新开源工具。在GitHub上以MIT许可证发布，它提供按进程的详细VRAM使用、GPU活动以及AI和LLM工作负载的具体洞察。
该项目源于Hanselman于2026年11月3日在X上分享的实际需求：“我的GPU上发生了很多事情。我正在制作一个GPU Taskman，以了解我的GPU内存都去哪了。”Windows任务管理器显示总VRAM使用量，但不会拆分是什么在消耗它——模型权重、KV缓存、浏览器还是桌面合成器。gputaskman清晰可及地填补了这一空白。
终端界面（htop风格）按进程显示：
- GPU使用百分比和内存活动
- 消耗的VRAM、spill和分页内存
- 温度、功耗、时钟（SM、内存、视频）
- 编码器/解码器活动和PCIe流量
- 对于AI工作负载：模型名称、权重、KV缓存大小和参数计数（例如llama-server.exe进程）
该工具支持Windows（NVIDIA和AMD）、Linux/WSL和macOS，GitHub上提供便携版构建。它是实验性的，不会随意检查GPU内存——使用启发式和系统API。Hanselman表示有兴趣扩展支持（包括Windows on Arm），并建议类似功能可能最终进入原生Windows工具。
对于运行本地模型、在游戏PC上监控VRAM或只想知道为什么GPU忙碌的人来说，gputaskman VRAM AI监控提供了标准工具没有的透明度。代码地址：https://github.com/shanselman/gputaskman。
为什么这很重要
随着本地AI和消耗大量VRAM的模型的增长，精确的监控工具变得至关重要。gputaskman帮助识别瓶颈、优化硬件使用并理解AI应用对系统的实际影响。
来源
- Tom’s Hardware（2026年11月8日）
- Scott Hanselman的GitHub仓库
- X原始发布（@shanselman，2026年11月3日）
本文章由人工智能辅助生成，并经编辑审核以确保准确性。
Por Grok
