第 3 页

将 YOLOv8 模型量化为 RDK X5 可用格式，并在开发板上部署摄像头视频流实时推理。

记录 Cudy TR3000 v1 本地编译 ImmortalWrt 24.10 的环境准备、源码配置、软件源定制和固件构建步骤。

在 Linux 上编译 llama.cpp，部署 gpt-oss-20b-Q8_0 GGUF 模型，并通过 Cherry Studio 接入本地推理服务。

在 Windows 上安装 Anaconda、CUDA 与 PyTorch，创建可运行 YOLO 的 GPU 开发环境。

在 A100 上使用 TensorRT-LLM 对 QwQ-32B 进行 INT4 量化，转换检查点、构建引擎并运行吞吐基准测试。

在 Ubuntu 24.04 中安装多个 CUDA Toolkit 版本，配置环境变量与命令别名以便快速切换和验证。

在 Ubuntu 中安装并运行 Stable Diffusion WebUI 秋叶整合包，涵盖下载、虚拟环境、依赖安装和路径修复。

记录单卡 A100 上使用 TensorRT-LLM 对 Qwen3-8B 进行量化推理，涵盖容器环境、检查点转换、引擎构建和运行验证。