将元数据添加到tensorflow freeze graph pb

为了分享我们训练有素的张量流网络，我们将图冻结成.pb文件。我们还创建一个包含一些元数据的 xml 文件，例如输入张量和输出张量、要应用的预处理类型、训练数据信息等。然后使用 Java 或 C# 通过加载图形和评估张量等来提供模型。

为了使共享更容易，我想将此 xml 数据包含在.pb文件。有什么办法可以做到这一点吗？一种想法是将其作为 tf.Constant，但我不知道如何将其连接到普通图。

注意这是使用freeze_graph.py。新的SavedModel格式是否更合适？

首先，是的，您应该使用新的 SavedModel 格式，因为它是 TF 团队今后将支持的格式，并且也可以与 Keras 配合使用。您可以向模型添加一个额外的端点，该端点返回一个带有 XML 数据字符串的常量张量（如您所提到的）。

这很好，因为它是封闭的——底层的保存模型格式并不重要，因为您的元数据保存在计算图中本身。

请看这个问题的答案：使用自定义签名定义保存 TF2 keras 模型 https://stackoverflow.com/questions/56659949/saving-a-tf2-keras-model-with-custom-signature-defs。这个答案并不能让你 100% 理解 Keras，因为它不能与 tf.keras.models.load 函数很好地互操作，因为它们将其包装在一个tf.Module。幸运的是，使用tf.keras.Model如果添加 tf.function 装饰器，在 TF2 中也能正常工作：

class MyModel(tf.keras.Model):

  def __init__(self, metadata, **kwargs):
    super(MyModel, self).__init__(**kwargs)
    self.dense1 = tf.keras.layers.Dense(4, activation=tf.nn.relu)
    self.dense2 = tf.keras.layers.Dense(5, activation=tf.nn.softmax)
    self.metadata = tf.constant(metadata)

  def call(self, inputs):
    x = self.dense1(inputs)
    return self.dense2(x)

  @tf.function(input_signature=[])
  def get_metadata(self):
    return self.metadata

model = MyModel('metadata_test')
input_arr = tf.random.uniform((5, 5, 1)) # This call is needed so Keras knows its input shape. You could define manually too
outputs = model(input_arr)

然后您可以保存并加载模型，如下所示：

tf.keras.models.save_model(model, 'test_model_keras')
model_loaded = tf.keras.models.load_model('test_model_keras')

最后使用model_loaded.get_metadata()检索您的常量元数据张量。