Skip to content

feat(bitsandbytes): 将 example 看护迁到共用引擎 - #223

Merged
hipudding merged 4 commits into
Ascend:mainfrom
licy666:feat/bitsandbytes-examples-guard
Oct 14, 2026
Merged

hipudding merged 4 commits into
Ascend:mainfrom
licy666:feat/bitsandbytes-examples-guard

Conversation

@licy666

@licy666 licy666 commented Oct 12, 2026

Copy link
Copy Markdown
Contributor

概述

  • 把 cosdt-ci-test/workflows 里已经接到共用引擎的 bitsandbytes example 看护迁到本仓:清单、脚本、CUDA 约束和薄触发器。Quick Start 线已在本仓,不在这次改动里。
  • 薄触发器只声明项目名、上游仓库、dispatch 输入和并行度。schedule 保持注释,源仓 cron 仍是生产看护。补上 pull_request,路径只含本项目目录和触发器自身。PR 并发组名带 bitsandbytes-examples-pr 前缀。
  • 下载不再走 hf-mirror,也不关闭 Xet。公开的 llama-68m 与 alpaca-cleaned 优先直连 huggingface.co。需要登录的 google/gemma-2-2b-it 失败后改下 ModelScope 上的 LLM-Research/gemma-2-2b-it,种进同一个 Hub id 的缓存,运行阶段离线。
  • cpu 微调用 CANN 9.1.0 推荐的 torch 2.12.0 CPU 轮子。compile 推理要 triton-ascend 3.2.2,该版本对 CANN 9.1.0 列出的最新 torch_npu 是 2.10.0.post4,所以 npu profile 停在这一对,不升到 2.12。

测试计划

  • PR 检查里 bitsandbytes-examples 跑完两条 supported:examples/cpu/cpu_training.py 与 examples/compile_inference.py
  • cpu 日志出现 OK: Loss decreased as expected
  • compile 日志出现 NPUCachingAllocator,以及 Write me a poem about Machine Learning
  • 镜像拉取失败、下载超时或 401 记为看护噪音,不把条目改成 unsupported
  • 合入前不要打开 schedule

香港 runner 直连 Hugging Face,gated 模型回退 ModelScope 后再离线运行。
compile 路径保持 triton-ascend 3.2.2 能配套的 torch 2.10.0.post4。
hub_cache.py 在导入时就会加载 datasets,npu 配置漏装这个包,setup 在断言通过后退出。
评审要求迁移合入时 cron 已启用且每天一次,18:00 UTC 已被 accelerate 占用。
香港池直连官网,项目脚本不再设置 HF_ENDPOINT。
两条 XPU 示例原先共用一段注释。按 0.50.2 源码拆开,分别写出默认设备和断言。
@hipudding
hipudding merged commit b1a444e into Ascend:main Oct 14, 2026
7 checks passed
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants