syspeek ---- 系统测试gpu性能工具

SysPeek

跨 GPU 硬件跑分工具：测量 NVIDIA GPU 的实际可达性能指标，而非纸面峰值。

支持独立显卡（如 RTX 4070）与集成式 Jetson 平台（如 Jetson Thor）。]

jetson thor测试数据

测量项

效率列（Eff.）= 实测 / 理论峰值。理论峰值来源由 --spec-source 控制（见下）。

安装

通用依赖：Python ≥ 3.10、PyTorch ≥ 2.0（CUDA 构建）。SysPeek 本体与 PyTorch 的 CUDA 版本需与当前平台一致；桌面独显与 Jetson 安装 PyTorch 的方式不同，见下表。

内存与带宽测试说明见 docs/memory.md。

桌面独显（如 RTX 4070，x86_64 + cu128）

cd SysPeek

# 可选：一键 venv + 安装 SysPeek（不含 torch）
chmod +x scripts/setup_venv.sh
./scripts/setup_venv.sh
source .venv/bin/activate

# PyTorch（CUDA 12.8 示例，与驱动/CUDA 版本对齐）
pip install torch --index-url https://download.pytorch.org/whl/cu128

# 安装 SysPeek（若未跑 setup_venv.sh）
pip install -e .

# 验证
syspeek info
syspeek run

手动 venv：

python3 -m venv .venv
source .venv/bin/activate
pip install -U pip
pip install torch --index-url https://download.pytorch.org/whl/cu128
pip install -e .

Jetson Thor（aarch64 + CUDA 13 / cu130）

Thor 运行在 JetPack 7+ / CUDA 13 上，请使用 cu130 索引，不要在 Thor 上安装桌面用的 cu128 wheel。

cd SysPeek

chmod +x scripts/setup_venv.sh
./scripts/setup_venv.sh
source .venv/bin/activate

# Jetson Thor：CUDA 13 → cu130
pip install torch --index-url https://download.pytorch.org/whl/cu130

pip install -e .

syspeek info    # platform 应显示 jetson
syspeek run

Jetson 注意：

• 若 JetPack 已预装系统级 PyTorch，也可在 venv 中单独安装 与 JetPack CUDA 13 匹配 的 cu130 wheel，避免混用 cu128。
• 统一内存：建议减小 buffer，例如
  syspeek run --transfer-mb 128 --device-mem-mb 256 --gemm-size 4096
• 理论峰值需在 Thor 真机标定后写入 theoretical.py（当前可能只显示实测、无 Eff.）。

方式 B：全局 / 用户目录安装

在对应平台装好 匹配的 PyTorch 后：

cd SysPeek
pip install -e .

方式 C：不安装，临时运行

# 仍需当前 shell 能 import 到 CUDA 版 torch
PYTHONPATH=src python -m syspeek.cli info
PYTHONPATH=src python -m syspeek.cli run

退出 venv：deactivate

用法

# 查看设备/平台信息
syspeek info

# 列出全部跑分项
syspeek list

# 跑全部（默认）
syspeek run

# 只跑某些项 / 某些类别 / 某些 dtype
syspeek run --bench gemm_flops --dtype fp16 --dtype bf16
syspeek run --category memory

# 调整规模与迭代
syspeek run --gemm-size 8192 --transfer-mb 256 --device-mem-mb 1024 --warmup 10 --rep 50

# 导出 JSON（便于跨设备对比）
syspeek run -o result_4070.json
syspeek run --json > result.json

常用选项

架构

分层设计，跑分项与平台解耦、可插拔注册：

SysPeek/
├── pyproject.toml
└── src/syspeek/
    ├── cli.py                 # CLI 入口（click）
    ├── reporting.py           # rich 表格 / JSON 渲染
    ├── theoretical.py         # 各设备理论峰值表（用于算效率，可编辑）
    ├── core/
    │   ├── device.py          # 设备检测（含 Jetson 判定）+ DeviceInfo
    │   ├── timing.py          # CudaTimer：CUDA event 计时 + warmup/rep + L2 flush
    │   ├── result.py          # BenchmarkResult / RunContext / TimingStats
    │   └── registry.py        # 跑分项注册表（按 name/category 过滤）
    ├── benchmarks/
    │   ├── base.py            # Benchmark 抽象基类
    │   ├── compute_flops.py   # GEMM FLOPS（多 dtype，OOM 自适应缩小）
    │   ├── memory_transfer.py # H2D / D2H（pinned / pageable）
    │   ├── memory_device.py   # GPU 本地显存 copy / write 带宽（GDDR/LPDDR）
    │   └── latency.py         # kernel 启动延迟
    └── platforms/
        ├── base.py            # Platform 抽象
        ├── desktop.py         # 独显（nvidia-smi 遥测，PCIe 链路标注）
        └── jetson.py          # Jetson（统一内存语义、INA3221 功耗读取）

设计要点：

• 跑分项自注册：每个 Benchmark 声明 name/category，import syspeek.benchmarks 即注册；CLI 通过注册表发现与过滤，新增跑分项无需改 CLI。
• 平台抽象：跑分逻辑设备无关；平台层只负责差异化标注（H2D 链路名称、理论峰值来源、功耗遥测）与告警 note。
• 计时：统一 CudaTimer（CUDA event + warmup/rep + 可选 L2 flush），与 hpc_bench 风格一致；带宽类跑分关闭 L2 flush 避免干扰。
• 效率：理论峰值由 --spec-source 决定来源；结果中 Spec src 列与 JSON 的 theoretical_source / theoretical_detail 标明每条指标的具体来源。

理论峰值来源（--spec-source）

JSON 每条结果含 theoretical_source（auto / fixed）与 theoretical_detail（推导公式或表项 key）。

平台说明

• RTX 4070（独显）：H2D/D2H 走 PCIe；device_mem_bw 测 GDDR6X 显存带宽。
  • H2D/D2H 理论值：按 GPU 的 PCIe 规格（4070 为 Gen4 x8 ≈ 15.75 GB/s/方向）显示；你测到 ~18 GB/s（pinned）说明已接近或达到链路上限，再开多 stream 提升空间有限。
  • pageable 传输 CPU 会参与页锁定/拷贝，CPU 占用高是正常现象；默认 multi_stream 可略提高 pageable 带宽，但仍低于 pinned。
  • 可选 --transfer-mode threaded 用多 CPU 线程提交 copy，主要改善 pageable 场景。
  • 注意：gemm_flops 的 fp16/bf16 走 cuBLAS 默认 FP32 累加路径，消费级 Ada 上该路径峰值约为 FP16/FP16-累加峰值的一半，理论值已按此校准。
• Jetson Thor（集成 GPU）：GPU 与 CPU 共享 LPDDR，H2D/D2H 不经 PCIe，反映的是内存子系统带宽（工具会在 note 中提示）；显存从系统内存划分，注意 buffer 大小留余量。理论峰值待在真机上标定后填入 theoretical.py。

扩展

• 新增跑分项：在 benchmarks/ 继承 Benchmark，实现 run()，在 benchmarks/__init__.py 注册。
• 新增设备理论值：在 theoretical.py 的 _TABLE 增加一条（key 为设备名/型号子串）。
• 新增平台：在 platforms/ 继承 Platform，在 get_platform() 加入判定。

License

MIT