假设我训练了一个 TensorFlow 模型并保存了它,现在有一个不同的模型,并且我想将保存的模型中的一些权重用于模型中的某些层(它们具有相同的形状)。
现在,我能够找到如何从模型中保存特定变量(具有特定名称),但我无法找到任何按名称恢复这些变量的示例。
例如,假设在我保存的模型中,我保存了一个名为“v1”的权重张量(具有某种形状)。现在,在我的新模型中,我有一个名为“v2”的权重张量(其形状与“v1”张量相同)。现在我想将“v1”保存的变量加载到我的“v2”权重张量,或者更好地将这个“v1”权重加载到我的新图中的多个张量。
这可能吗?如果是这样,我该怎么做?
我找到了解决此问题的解决方法。
您可以做的是将变量值直接保存到磁盘中,无论是作为值还是作为字典,其中键作为张量名称和值。
例如:
vars_dict = {}
for tensor in (list_of_tensors_you_want_to_save):
vars_dict[tensor.name] = sess.run(tensor)
然后您可以将任何变量从该字典加载到您想要的任何其他变量。
在我的示例中,假设原始张量称为“v1”,我要加载的两个张量是“v2”和“v3”,可以执行以下操作:
tensor_to_load_1 = tf.get_default_graph().get_tensor_by_name("v2")
tensor_to_load_2 = tf.get_default_graph().get_tensor_by_name("v3")
assign_op_1 = tf.assign(tensor_to_load_1, vars_dict["v1"])
assign_op_1 = tf.assign(tensor_to_load_2, vars_dict["v1"])
sess.run([assign_op_1, assign_op_2])
当然,这仅受限于“v1”、“v2”和“v3”必须具有相同的形状。
使用此示例代码,您可以保存任何变量并将它们加载到您想要的任何其他变量,而不需要原始图表与当前图表相匹配。
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)