很多大佬认为，深度学习的本质就是做两件事情：Representation Learning（表示学习）和 Inductive Bias Learning（归纳偏好学习）。在表示学习方面，如果直接对语义进行监督学习，虽然表现很好，但是它需要很多的样本并且往往是需要对特定的任务进行设计，很难具有迁移性。所以难怪各位大佬们都纷纷为自监督学习站台，自监督是未来！
自监督学习有大类方法，一个是生成方法一个对比方法，如上图。生成方法往往会对像素级损失进行约束，关于这一类笔者已经在之前的文章中进行了整理，而对比学习在表示学习上做的事情就是： 其实模型不必要知道关于特征的细节，只要学到的特征足以使其和其他样本区别开来就行。
Contrastive loss
对比损失 Contrastive loss，简单的解释就是，利用对比正-负样本来学习表示。学习的目的为：
这里 x+ 是与 x 相似或相等的数据点，称为正样本。x− 是与 x 不同的数据点，称为负样本。score 函数是一个度量两个特征之间相似性的指标，直接算内积来表示：
然后尝试优化以下期望，即让正例样本越相似，要负例样本越远就好。
其实这个叫法最初似乎出自 Yann LeCun “Dimensionality Reduction by Learning an Invariant Mapping”，本来是用于处理在降维空间中正样本和负样本之间的相似/不相似的远近距离关系，式子为：
其中 ，代表两个样本特征的欧氏距离，y 为两个样本是否匹配的标签，y=1 代表两个样本相似或者匹配，y=0 则代表不匹配，margin 为设定的阈值。
损失函数主要惩罚如果原本相似的样本 y=1，但在特征空间的欧式距离较大，则说明当前的模型不好，损失变大。同样的如果原本不相似 y=0，但其特征空间的欧式距离反而小的话，损失也会变大。
上图是 loss 与样本特征的欧式距离 d 之间的关系，其中红色虚线表示的是相似样本的损失值，蓝色实线表示的不相似样本的损失值。
def contrastive_loss(self, y,d,batch_size):
tmp= y *tf.square(d)
#tmp= tf.mul(y,tf.square(d))
tmp2 = (1-y) *tf.square(tf.maximum((1 - d),0))
return tf.reduce_sum(tmp +tmp2)/batch_size/2
而这种成对 loss 的思想在其他领域如搜索推荐会有其他的变体：
Pairwise Ranking Loss
Triplet Ranking Loss
而马上要总结的 MoCo 使用的其实是 Contrastive loss 一种变体 InfoNCE：
一个正例 ，K 个负例 ，这样可以使只有真正匹配（与 query q 算点积）的样本更相似，并且同时不匹配的不相似时，loss 才低。最初出自 Contrastive Predictive Coding，据说使用 InfoNCE，可以同时优化 encoder 和自回归模型。
如何选择正-负例pair？
Easy negative example 比较容易识别，所以相对来说找一些较难的 pair 是有利于训练的。一般可分为：
Offline mining：计算所有的数据的 embedding，然后计算所以 pair 之间的距离判断其难易程度，主要选择 hard 或者 semi-hard 的数据。
Online mining：为每一 batch 动态挖掘有用的数据，将一个 batch 输入到神经网络中，得到这个 batch 数据的 embedding，Batch all 的方式还是会计算所有的合理的，Batch hard 偏向于选择距离最大的正样本和距离最小的负样本。
这里需要思考的问题是这种 pair 对究竟多少数量是合适的？
一般来说，对比方法在有更多的负样本的情况下效果更好，因为假定更多的负样本可以更有效地覆盖底层分布，从而给出更好的训练信号。
所以回到 MoCo 的图了，既然样本数量对于学习到的样本质量有很大的影响，那么我们就扩展负样本的数量就好！但是目前对于 batch size 是没有很好的解决办法的，实际上如下图 a，loss 的梯度会流过编码器的正样本 q 和负样本 k 的 Encoder。
这意味着样本的数量被限制在 mini-batch 的尺寸上，即我们并不能采样无穷多的样本，GPU 负载能力有限。
对于查询正样本 ，要在一个 batch 中（dictionary size = mini-batch size）的所有 K 中区别开来，有上图三种方法：
end-to-end：先编码 encoder（可同可不同），然后内积算 loss 再梯度。但是这种方法由于 dictionary size 和 mini-batch 的强耦合性（负例样本对也会为 loss 产生贡献，也会回传梯度），在 batch 大的时候优化难，而在 batch 小的时候，batch 之间的参数会不一样，也就是 GPU 大小限制了模型的性能。
memory bank：把 dictionary size 从 mini-batch 中解耦出来，即先把所有样本的特征保存下来 bank，然后每次随机采样，再梯度 query 的 encoder 的参数。但是这样只有当所有 key 被 sample 完以后才会更新 memory bank，不同的 key 在和 query 是不一致的和滞后的，因为每一次 sample encoder 都会更新虽有 memory bank 后面也加入了 momentum，但是是针对 sample 来的，在更新 memory bank 时会保留一部分上一轮的特征值。
MoCo：是以上两者的融合版本，将 dictionary 作为一个 queue 进行维护当前的negative candidates pool，且它是改成了 queue 的动态更新机制，每 sample 一个 batch key（所以一个 trick 就是会使用 Shuffling BN，打乱再 BN），进队后相对于一些最早进入队列的 mini-batch 对应的 key 进行出队操作，这样保证一些过时的、一致性较弱的 key 可以被清除掉。这样就同样是解耦，K 是队列长度，K 可以设置很大，同时更新也不会有问题。
按照以上伪码，可以简单看看 MoCo 的三个比较重要的函数：
@torch.no_grad()
def _momentum_update_key_encoder(self):
"""
key encoder的Momentum update
"""
for param_q, param_k in zip(self.encoder_q.parameters(), self.encoder_k.parameters()):
param_k.data = param_k.data * self.m + param_q.data * (1. - self.m)
@torch.no_grad()
def _dequeue_and_enqueue(self, keys):
"""
完成对队列的出队和入队更新
"""
# 在更新队列前得到keys
keys = concat_all_gather(keys)#合并所有keys
batch_size = keys.shape[0]
ptr = int(self.queue_ptr)
assert self.K % batch_size == 0 # for simplicity
# 出队入队完成队列的更新
self.queue[:, ptr:ptr + batch_size] = keys.T
ptr = (ptr + batch_size) % self.K # 用来移动的指针
self.queue_ptr[0] = ptr
def forward(self, im_q, im_k):
# 计算query features
q = self.encoder_q(im_q) # queries: NxC
q = nn.functional.normalize(q, dim=1)
# 计算key features
with torch.no_grad(): # 对于keys是没有梯度的反向的
self._momentum_update_key_encoder() # 用自己的来更新key encoder
# 执行shuffle BN
im_k, idx_unshuffle = self._batch_shuffle_ddp(im_k)
k = self.encoder_k(im_k) # keys: NxC
k = nn.functional.normalize(k, dim=1)
# 还原shuffle
k = self._batch_unshuffle_ddp(k, idx_unshuffle)
# 计算概率
# positive logits: Nx1
l_pos = torch.einsum('nc,nc->n', [q, k]).unsqueeze(-1) #用爱因斯坦求和来算sum
# negative logits: NxK
l_neg = torch.einsum('nc,ck->nk', [q, self.queue.clone().detach()])
# logits: Nx(1+K)
logits = torch.cat([l_pos, l_neg], dim=1)
# 平滑softmax的分布，T越大越平
logits /= self.T
# labels是正例index
labels = torch.zeros(logits.shape[0], dtype=torch.long).cuda()
# 出队入队更新
self._dequeue_and_enqueue(k)
return logits, labels论文链接：
https://arxiv.org/abs/1911.05722
代码链接：
https://github.com/facebookresearch/moco
完整的中文源码阅读笔记：
https://github.com/nakaizura/Source-Code-Notebook/tree/master/MoCo
SimCLR
MoCo 强调 pair 对的样本数量对对比学习很重要，SimCLR 认为构建负例的方式也很重要。先说结论：
多个数据增强方法组合对于对比预测任务产生有效表示非常重要。此外，与有监督学习相比，数据增强对于无监督学习更加有用；
在表示和对比损失之间引入一个可学习的非线性变换可以大幅提高模型学到的表示的质量；
与监督学习相比，对比学习得益于更大的批量和更多的训练步骤。
模型过程如下：
先 sample 一些图片（batch）
对 batch 里的 image 做不同的 data augmentation，如图上的 和 ，将其视为正对；
一个基本的神经网络编码器 f(·)，从增强数据中提取表示向量， 作者使用 ResNet-50；
一个小的神经网络投射头（projection head）g(·)，将表示映射到对比损失的空间；
目标是希望同一张图片、不同 augmentation 的结果相近，并互斥其他结果。
作者认为多种数据增强操作的组合是学习良好表示的关键，论文里面主要讨论过的有如下：
推荐有一个 github 用于数据增强很好用，pip install imgaug：
https://github.com/aleju/imgaug
为什么要用非线性的projection head？
由图可知在 representation 与 contrastive loss 间使用了可学习的 non-linear projection，这个其实是非常简单的单层 MLP+ReLU 的架构。其优势在于避免计算 similarity 的 loss function 在训练时丢掉一些重要的 feature，可以改善之前的层的表示质量。
损失函数 NT-Xent（the normalized temperature-scaled cross entropy loss）， 和 是从 Projection Head 获得的输出矢量，output∈{0,1} if k≠i，τ 表示温度参数可以用来放缩概率。
值得注意的一个 trick 就是会算两次（即公式中间的 2N，会把 i-j 的计算，用 j-i 成对的再算一次）
做完训练后，特征表示可以拿去下游做微调，比如用于图像分类等下游任务。整体的框架图如下：
论文链接：
https://arxiv.org/abs/2002.05709
代码链接：
https://github.com/google-research/simclr
注：他们用了 128 块 GPU/TPU，来处理每个 minibatch 9000 个以上样本（这是为了获得足够的负样本对比，所以必须要比普通的 batch 要大），并完成 1000 轮的训练。
MoCo v2
在 MoCo 的基础上加入了 SimCLR 的 projection head 和多种数据增强手段如模糊等。ImageNet 任务提升了 6%。
SimCLR v2
结合无监督预训练、半监督训练、有监督的微调和未标记数据的蒸馏等等一系列的训练手段。具体如下图：
左边，非监督的方法学习一个任务无关的通用的表征，这里直接用 SimCLR，不同点在于网络变大和也借用了 MoCo 部分架构。
中间，用监督的方法进行 fine-turning
右边，在 unlabeled 大数据集上进行蒸馏
这种架构显然很适合在工业界落地。
BYOL
无需负样本也能够取得好的效果？！出自 DeepMind的 NIPS20’的Bootstrap Your Own Latent（BYOL），BYOL 认为之前的方法都基于 negative pairs，而它们很大程度上取决于图像增强的选择，所以为什么不直接从图像增强视角出发呢？框架图如下：
没有 pair，但是 BYOL 使用两个相互交互并相互学习的神经网络，分别称为在线网络和目标网络。架构如上：
上面的分支是 online network，包括了 embedding，projection 以及 prediction，其中嵌入的使我们最要想要的模块。
下面的分支是 target network，包括 embedding 和 projection 。
online 网络参数使用 L2 的梯度进行更新，而 target 网络直接通过 online 的 momentum 得到，这里 target 的就充当了之前负样本的功能。
即 target 可以随机开始得到输出比如一开始的结果为 1.4% 非常差，此时新开一个分支训练 online 去预测同一图像在不同增强视角下的 target 的表示（从一个分支直接预测了另一个分支的输出，用滚动编码方法更新），此时结果居然就可以到非常高的程度了。
也正是 BYOL 主打其 不需要进行 negative 样本的 idea。所以因此它的性能对 batch size 的大小不是特别敏感，在同等参数量的情况下，BYOL 的效果也是非常好。
为什么BYOL有效？
最近有一篇论文对其做了细致的测试，其中最关键的结论就是：BYOL 移除 BN 之后的表现就和随机瞎猜一样了。由于 BN 的出现本来就是为了克服 domain 和 target 的差异问题，即预防 mode collapse，可以将正负样本的距离拉开，所以 BYOL 可能也是做了这样的事情，做了对图片均值和方差的学习，然后重新分配结果和特征值。
BYOL和MoCo、SimCLR的区别
MoCo、SimCLR 更偏向于问这两张图片之间有何差异？
BYOL 可能是在问这张图片与这些图片的平均有什么差异？
论文链接：
https://arxiv.org/abs/2006.07733
SimSiam
孪生网络已成为无监督表达学习领域的通用架构，现有方法通过最大化同一图像的两者增广之后的相似性使其避免“崩溃解（collapsing solutions）”问题。即在训练网络的时候，网络会很迅速找了一个退化解并达到了最小可能损失 -1。
但是在 kaiming 大神的这篇文章中，他们提出的 Simple Siamese（SimSiam）网络不仅可以没有 negative sample pairs；没有 arge batch；甚至没有 momentum encoders 就学到有意义的特征表达。
主要是提出 stop-grad 的概念，结构如下：
前面的部分基本相同，输入两个随机变换的 和 ，通过相同的孪生网络提取特征并变换到高维空间，然后可以看到左边的分支有个 projection head h 得到 ，之后再与右边得到的 ，两者的结果进行匹配使 cosine 最小化：
而重点的 Stop-gradient，意思是在 loss 的第一项的时候， 不会从 接收梯度信息；同时在计算第二项，则会从 接收梯度信息，即 loss 变为：
# Algorithm1 SimSiam Pseudocode, Pytorch-like
# f: backbone + projection mlp。f是backbone+projection head部分组成
# h: prediction mlp
for x in loader: # load a minibatch x with n samples
x1, x2 = aug(x), aug(x) # random augmentation，随机增强后的x1和x2
#分别做两次投影操作
z1, z2 = f(x1), f(x2) # projections, n-by-d
p1, p2 = h(z1), h(z2) # predictions, n-by-d
#计算不对称的两个D得到loss L
L = D(p1, z2)/2 + D(p2, z1)/2 # loss
L.backward() # back-propagate，反向传播
update(f, h) # SGD update，梯度更新
def D(p, z): # negative cosine similarity
z = z.detach() # stop gradient，在这里使用detach做stopgrad的操作
p = normalize(p, dim=1) # l2-normalize
z = normalize(z, dim=1) # l2-normalize
return -(p*z).sum(dim=1).mean()
其实 stopgrad 的本质就是一个交替方案（固定一个，求解另一个）的近似求解。
论文链接：
https://arxiv.org/abs/2011.10566
最后再看个对比方便分清楚：
盘点近期大热对比学习模型：MoCo/SimCLR/BYOL/SimSiam - 专知
一文梳理无监督对比学习（MoCo/SimCLR/SwAV/BYOL/SimSiam）_code_kd的博客-CSDN博客_simclr code