使用张量板时,如何总结多个小批量计算的损失?

2023-11-29

我想使用 Tensorboard 来可视化验证样本中损失的演变。但验证集太大,无法在一个小批量中进行计算。因此,为了计算我的验证损失,我必须在覆盖验证集的多个小批量上多次调用 session.run 。然后我将每个小批量的损失(在Python中)相加以获得完整的验证损失。

我的问题是 tf.scalar_summary 似乎必须附加到张量流节点。但我需要以某种方式将其“附加”到多次运行 session.run 时节点值的总和。

有没有办法做到这一点?也许通过直接总结包含小批量损失总和的Python浮点数?但我在文档中没有看到一种为张量板“汇总”计算之外的 python 值的方法。文档“操作方法”部分中的示例仅涉及可在对 session.run 的单次调用中计算的损失。


你可以添加一个Variable每个更新sess.Run调用并让摘要跟踪该值Variable.

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

使用张量板时,如何总结多个小批量计算的损失? 的相关文章

随机推荐