File tree Expand file tree Collapse file tree
Expand file tree Collapse file tree Original file line number Diff line number Diff line change 11# ROLL x Ascend
22
3- Last updated: 08/15 /2025.
3+ Last updated: 08/18 /2025.
44
55我们在 ROLL 上增加对华为昇腾设备的支持。
66
@@ -168,17 +168,15 @@ python examples/start_agentic_pipeline.py \
168168分别按照以下规则进行与 GPU 的精度与吞吐量的对比
169169精度对比:
170170根据经验,对于 Agentic 和 RLVR 等 RL 类算法,我们期望在相同配置下华为昇腾设备与 A100 的 rewards 平均绝对误差 <= 4%,计算方式参考下公式。
171- ```
172- $ Mean Error = \frac{\sum_{i=1}^{N} |reward_i^{npu} - reward_{i}^{gpu}|}{N} \leq 0.04 $
173- ```
171+ $$
172+ Mean Error = \frac{\sum_{i=1}^{N} |reward_i^{npu} - reward_{i}^{gpu}|}{N} \leq 0.04
173+ $$
174174对于 DPO 和 Distill 等类算法,我们期望在相同配置下华为昇腾设备与 A100 的 loss 相对误差 <= 4%,计算方式参考下公式。
175- ```
176- $ Mean Error = \frac{\sum_{i=1}^{N} |loss_i^{npu} - loss_{i}^{gpu}|}{N} \leq 0.04 $
177- ```
178-
175+ $$
176+ Mean Error = \frac{\sum_{i=1}^{N} |loss_i^{npu} - loss_{i}^{gpu}|}{N} \leq 0.04
177+ $$
179178吞吐对比:Ascend npu 和 A100 分别取日志中前4个 step 的 throughput 的 tpu 值 做平均, tpu ratio = npu 平均值 / A100 平均值。
180179
181180
182181## 声明
183- -----------------------------------
184182ROLL 中提供的 Ascend 支持代码皆为参考样例,商业使用请通过官方正式途径沟通,谢谢。
You can’t perform that action at this time.
0 commit comments