我从 TensorFlow 开始，尝试创建一个二进制网络。更具体地说，我正在寻找一个哈希网络，它将图像编码为大小为 n 的二进制向量。所以我有一个经典的网络，我对softmax之前的最后一层进行二值化。
TensorFlow 提供了一个tf.sign函数可以做到这一点，但我无法弄清楚反向传播在实践中如何工作，因为它不是连续的。
有什么想法吗 ？
很遗憾tf.sign()的梯度始终定义为0（可能是因为没有好的方法来定义它。）
https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/ops/math_grad.py#L542 https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/ops/math_grad.py#L542
@ops.RegisterGradient("Sign")
def _SignGrad(op, _):
"""Returns 0."""
x = op.inputs[0]
return array_ops.zeros(array_ops.shape(x), dtype=x.dtype)
本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系:hwhale#tublm.com(使用前将#替换为@)
