问题描述

深度学习多GPU训练时，tensorboard无法显示scalar曲线图的问题。
在进行双卡训练一个神经网络时，我用DistributedDataParallel的方法进行分布式训练，但是发现生成的loss曲线只有第一个点。
解决方法是在这之前添加args.local_rank==0的约束，和多卡保存ckpt的思路一样。如下：

if args.local_rank==0
	summary_writer.add_scalar(name,value,global_step)
	...
# 深度学习 # 人工智能 # python # tensorflow
Logo
九章云极普惠算力

更多推荐

cover

阿里云 Coding Plan Lite 下架，各家算力吃紧，上哪买还能支持GLM-5和5.1的coding plan？_2026-04-15

avatar 九章云极普惠算力
cover

看遍了市面上的coding plan，我发现还是这个好用

avatar 九章云极普惠算力

Kandinsky-5.0-I2V-Lite-5s惊艳效果展示：赛博朋克街景→霓虹闪烁+雨滴滑落动态视频

本文介绍了如何在星图GPU平台上自动化部署Kandinsky-5.0-I2V-Lite-5s镜像，实现高效图生视频转换。该工具能将静态赛博朋克街景图片快速转换为动态视频，添加霓虹闪烁、雨滴滑落等效果，适用于短视频制作、广告创意等场景，显著提升内容创作效率。

avatar 九章云极普惠算力