← 返回项目库

Spark 推理算力监控台（中文本地预览）

面向 NVIDIA GPU 与 vLLM 推理服务的实时算力监控工作台。

提供 GPU、CPU、内存、磁盘、网络和推理引擎指标的网格化监控，并通过多页面布局观察吞吐、延迟、请求、缓存和服务状态。本交付包含可离线运行的中文模拟数据预览，便于先验证界面与操作流程。

真实界面

项目截图

共 6 张

总览
推理性能
GPU 资源
引擎集群
延迟分析
运维视图

Capabilities

核心功能

✓GPU 利用率、温度、功耗与时钟
✓CPU 聚合与核心负载热力图
✓统一内存与显存占用拆分
✓磁盘与网络 I/O 趋势
✓vLLM 预填充与解码吞吐
✓TTFT、ITL、TPOT 与端到端延迟
✓请求队列、KV 缓存与前缀命中率
✓多页面网格布局与服务状态

适用场景

本地体验 GPU 推理监控信息架构
接入真实 Linux/NVIDIA 主机前验证页面流程
围绕吞吐、延迟和请求状态定制监控大屏

适合谁

需要观察本地 GPU 推理服务、搭建监控原型或进行界面定制的个人开发者与小型团队。

商业化思路

开源自部署与定制开发；本交付包不包含 GPU 主机、模型权重、实时推理服务或运维托管。

你会拿到什么

  • ✓Rust 后端与 React/Vite 前端源码
  • ✓中文本地演示模式与多页面仪表盘
  • ✓构建配置、许可证与本地运行说明

部署流程

  1. 1执行 frontend/npm ci 安装依赖
  2. 2使用 VITE_DEMO_MODE=true 启动中文本地预览
  3. 3正式接入时按仓库说明配置 Linux/NVIDIA 后端
  4. 4运行前端构建并由 Rust 服务托管静态资源

真实验证结果

已通过 6 个真实运行中文界面、HTTP、可见正文、控制台、坏图和横向溢出质量门。

部署难度

中等

最低配置

本地预览需要 Node.js 20+ 与现代浏览器；真实运行需要 Linux、NVIDIA 驱动、Rust 工具链和 vLLM 指标服务。

开源许可证

MIT

最后验证

2026-09-02

授权说明

交付包保留上游 MIT LICENSE；模型权重、驱动和运行服务的权利与许可不包含在本包内。

Release notes

版本记录

1 个已发布版本

vcn-6177e250c95f 当前推荐

保留上游 Rust 与 React 监控结构，增加可离线运行的中文模拟数据预览、多页面展示和中文操作界面。

部署要求：本地预览使用 Node.js 20+、npm 和现代浏览器；真实采集按上游 Linux/NVIDIA 运行要求配置。

已知问题：VITE_DEMO_MODE=true 使用模拟快照，不代表真实主机状态；去掉该变量后需要可用的后端 WebSocket 与配置 API。

登录后领取