摩尔线程 国产GPU全栈实战

摩尔线程 MUSA AI 教程。围绕摩尔线程 GPU 与 MTT AIBook，从本地大模型推理到图形渲染、物理仿真和视频串流，完成 8 次实践课。

第一课 本地文生文推理：Ollama / llama.cpp 在 MUSA 上的适配

本课搭建一套可以直接复现的本地大模型对话环境：

• 下载 Qwen2.5-0.5B-Instruct fp16 GGUF 模型；
• 安装 Ollama（MUSA 版或官方版），注册 qwen05b 模型；
• 编译 llama.cpp，支持两种后端：
  • CPU：只编译 GGML CPU 后端，普通 x86_64 Linux 机器可用；
  • MUSA：编译 GGML MUSA 后端，在摩尔线程显卡上启用 GPU 推理；
• 编译两个最小示例：
  • ollama_chat：通过 HTTP 调用本机 Ollama 服务；
  • llama_chat：直接链接 llama.cpp C API，演示贪婪、温度、top-k、top-p、min-p 等采样策略；
• 提供 test_llama_chat.sh，自动对比多组采样参数并输出结果。

完整依赖、手动步骤和常见问题见 INSTALL_CLASS1.md。

快速复现

环境要求：Ubuntu / Debian x86_64。MUSA 版还需要摩尔线程驱动和 MUSA SDK，并确认 mthreads-gmi 能正常输出显卡信息。

git clone https://gitlink.org.cn/xarray/mt_class.git
cd mt_class
chmod +x install_class1.sh

# 摩尔线程机器（MTT AIBook 实测无需指定 MUSA 架构）
./install_class1.sh --backend musa

# 普通 CPU 机器
./install_class1.sh --backend cpu

脚本会依次完成：系统依赖检查、模型下载、Ollama 安装与模型注册、llama.cpp 编译安装、class1 编译和冒烟测试。Ollama 安装需要 sudo 权限；如果只想先验证 llama.cpp，可以加 --skip-ollama。

更多参数：

./install_class1.sh --help

运行示例：

# 直接调用 llama.cpp（MUSA 用 --ngl 99，CPU 用 --ngl 0）
./class1/build/llama_chat -m ./models/qwen2.5-0.5b-instruct-fp16.gguf --ngl 99

# 通过 Ollama 对话
./class1/build/ollama_chat qwen05b

# 自动对比多组采样策略
NGL=99 ./class1/test_llama_chat.sh

MTT AIBook（mp21/mp22）默认架构即可，不需要 --musa-arch；MTT S80 / S70 / S3000 才需要 --musa-arch 21。

models/、llama.cpp/、sdk/、class1/build/ 都由脚本自动生成，已写入 .gitignore；仓库只需要保留源码、脚本和文档。

第二课 本地文生图推理：基于 GGML 的 stable-diffusion.cpp 实践

本课用 stable-diffusion.cpp 在 MUSA / CPU 上完成文生图和图生图，并用 sd.cpp-webui 提供可视化界面：

• 编译 stable-diffusion.cpp，生成 sd-cli、sd-server 和 C API 库；
• class2 提供两个最短示例：sd_txt2img、sd_img2img；
• sd.cpp-webui 以 sd-server 为后端，提供文生图 / 图生图界面，不依赖 PyTorch 或 ComfyUI；
• 完整依赖、手动步骤和常见问题见 INSTALL_CLASS2.md。

快速复现

chmod +x install_class2.sh

# 摩尔线程机器
./install_class2.sh --backend musa

# 普通 CPU 机器
./install_class2.sh --backend cpu

运行示例：

# 文生图
./class2/build/sd_txt2img -m ./models/v1-5-pruned-emaonly-fp16.safetensors \
  -p "a red apple on a wooden table" -o txt2img.png

# 图生图
./class2/build/sd_img2img -m ./models/v1-5-pruned-emaonly-fp16.safetensors \
  -i input.png -p "oil painting style" --strength 0.6 -o img2img.png

# 自动测试 sd_txt2img（4 组参数）
./class2/test_sd_txt2img.sh

# 可视化界面（默认 http://127.0.0.1:7860/）
./sd.cpp-webui/sdcpp_webui.sh --server --autostart

相关文件：install_class2.sh、class2/、INSTALL_CLASS2.md。

MTT AIBook（mp21/mp22）先用默认 MUSA 架构；如果遇到 no kernel image 报错，再加 --musa-arch "21;22"。stable-diffusion.cpp 的 MUSA 后端上游验证环境是 MUSA SDK 5.2.0 + MTT S5000（mp_31）。

后续课程计划

第三课 大模型 API 服务：vLLM 在 MUSA 上的部署与并发调优

第四课 本地推理加速：PyTorch / ONNX Runtime 的 MUSA 后端实战

第五课 三维图形渲染：MUSA × OpenGL 渲染管线实战

第六课 3D 高斯泼溅：MUSA 上的 3D 高斯泼溅场景生成与渲染

第七课 物理仿真：MuJoCo 等引擎库在 MUSA 上的编译与应用

第八课 视频编解码与云渲染：基于 MUSA GPU 的播放与串流优化