程序员经验分享-hwhale

ArcFace loss与其他改进loss对比

2023-10-27

ArcFace loss与其他改进loss对比

sphereFace --  A-softmax  （cos(ma)）    角度距离
cosFace --  AM-softmax    （cosa - m）   余弦距离
ArcFace --  Arc-softmax   （cos(a + m)） 角度距离
注：a代表角度，m代表margin

sphereFace、cosFace、ArcFace中的loss均是在softmax的基础上修改得来

Name Loss公式 权重/特征归一 论文
softmax \frac{1}{N}\sum_i-log\frac{e^{w_{y_i}·x_i}}{\sum_ke^{w_k·x_i}} N/N
NormFace 同softmax Y/Y arxiv ACMMM 2017
L softmax \frac{1}{N}\sum_i-log\frac{e^{||w_{y_i}||·||x_i||·cos(m·\theta_{y_i, i})}}{e^{||w_{y_i}||·||x_i||·cos(m·\theta_{y_i, i})} + \sum_{k \neq y_i}e^{||w_k||·||x_i||·cos\theta_{k, i}}} 首次提出angular margin N/N arxiv ICML 2016
A softmax \frac{1}{N}\sum_i-log\frac{e^{||x_i||·cos(m·\theta_{y_i, i})}}{e^{||x_i||·cos(m·\theta_{y_i, i})} + \sum_{k \neq y_i}e^{||x_i||·cos\theta_{k, i}}} 增加weight norm Y/N arxiv CVPR 2017
AM softmax \frac{1}{N}\sum_i-log\frac{e^{s·(cos(\theta_{y_i, i})-m)}}{e^{s·(cos(\theta_{y_i, i})-m)} + \sum_{k \neq y_i}e^{cos\theta_{k, i}}} 增加feat norm和scale，margin由乘法变为加法 Y/Y arxiv ICLRw 2018
CosFace 同AM-Softmax，和AM-Softmax接近同时发布 Y/Y arxiv CVPR 2018
ArcFace \frac{1}{N}\sum_i-log\frac{e^{s·cos(\theta_{y_i, i}+m)}}{e^{s·cos(\theta_{y_i, i}+m)} + \sum_{k \neq y_i}e^{cos\theta_{k, i}}} 类似AM softmax，将margin由cos外移到内 Y/Y arxiv CVPR 2019
Adaptive Face \frac{1}{N}\sum_i-log\frac{e^{s·(cos(\theta_{y_i, i})-m_{y_i})}}{e^{s·(cos(\theta_{y_i, i})-m_{y_i})} + \sum_{k \neq y_i}e^{cos\theta_{k, i}}} - \lambda\frac{1}{K}\sum_km_k 将margin参数化，与类别相关 Y/Y pdf CVPR 2019
本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系:hwhale#tublm.com(使用前将#替换为@)

深度学习小记

深度学习

ArcFace loss与其他改进loss对比 的相关文章

  • Unity3D脚本中文系列教程(四)

    二 运行时类 AnimationCurve 类 动画曲线 在给定的时间添加关键帧并确定曲线 变量 var keys Keyframe 描述 定义在动画曲线中的所有键 这让你从数组中清理 添加或移除键 如果键没有按照时间顺序 它们会在赋值的时

  • 网络发送数据结构

    根据自定义数据结构 通过网络进行发送并解析数据 数据结构定义 ifndef TYPE H define TYPE H struct NetDataHeader int DataType int DataSize struct NetData

  • 使用多线程+easyexcel实现异步号码导入

    使用多线程 easyexcel实现异步号码导入 需求 最近项目需要实现excel文件上传批量导入号码 实现 通过多线程 easyexcel的方式实战一手 不多说 上代码 欢迎各位大佬指正 环境 springboot 2 6 13 mybat

  • go 版本管理器（g）源码阅读笔记

    go 版本管理器 g 源码阅读笔记 一个 go 版本管理工具 原文作者 suhanyujie 文章来自 https github com suhanyujie article transfer rs ps 水平有限 如有不当之处 欢迎指正

  • 行列式及其性质

    行列式 determinant 是方阵的一个重要特征 常记作detA或者 A 其包含了矩阵的很多重要信息 行列式为0 则矩阵不可逆 否则矩阵可逆 所以行列式可用来检验矩阵的可逆性 这篇文章主要介绍行列式的10个性质 性质1 单位矩阵的行列式

  • 员工身份管理（EIAM）如何帮助企业降本增效？

    随着市场竞争的加剧和经济环境的变化 降本增效成为了现代企业的共同目标 要实现这一目标 企业需要彻底改变传统的生产管理方式 借助数字化技术来实现数据在线 人员在线和行为在线 数据在线意味着企业的数据可以在多个平台上进行共享 协同和分析 从而大

  • Hbase工作原理

    Hbase HBase 底层原理详解 深度好文 建议收藏 腾讯云开发者社区 腾讯云 Hbase架构图 同一个列族如果有多个store 那么这些store在不同的region Hbase写流程 读比写慢 MemStore Flush Hbas

随机推荐

  • 利用Python实现闹钟功能

    今天心血来潮 想用Python实现一个类似于闹钟的事项提示工具 在坐各位都知道 平常敲代码总是会忘记时间一坐一上午 这样对身体是不好的 所以我今天就要使用Python实现定时提醒功能 在敲代码之前大致分析一下需要使用到的模块 语音播报模块

  • 采用keras深度学习框架搭建卷积神经网络模型实现垃圾分类，基于树莓派上进行实时视频流的垃圾识别源代码

    一 项目概述 简介 该垃圾分类项目主要在于对各种垃圾进行所属归类 本次项目采用keras深度学习框架搭建卷积神经网络模型实现图像分类 最终移植在树莓派上进行实时视频流的垃圾识别 前期 主要考虑PC端性能 并尽可能优化模型大小 训练可采用GP

  • 滚动条 ScrollView与Listview 嵌套 无滚动条实现滚动

    问题 ListView有时只显示一个半Item 当ListView的高度设定一定的值时 ListView同样地会显示对应的高度的Item 计算出这个ListView的总高度 再将它设置到ListView中 那么之前的滚动 高度问题就会解决

  • html最新布局书籍,HTML布局

    浏览器是怎么布局HTML的元素的 浏览器获取HTML文档后 先安置块级元素 从HTML的第一个块级元素开始 从上到下的的顺序显示所有的块级元素 一个块级元素 换行 再一个块级元素 这就是flow 块级元素内的内联元素一个挨一个的排列 一行排

  • instant-ngp获取视频或者图像相机位置信息colamp2nerf.py生成ransforms.json

    遇到的问题 在centos安装colamp需要装很多依赖 并且需要手动编译 在unbntu上安装colamp ffmpeg很方便 但是运行colamp2nerf py会报错ERROR failed to create sparse mode

  • uniapp如何引入官方的css样式库

    uniapp引入css样式 图标库 动画库 uniapp如何引入官方的css样式库 1 项目目录新建一个common的文件夹 common一般存放的是项目引入的一个css和js样式库 2 将样式库的css或者js复制到common文件夹 3

  • Three.js创建文字初体验

    效果 首先引入必要组件 import build three js import libs js controls OrbitControls js import FontLoader from libs jsm loaders FontL

  • 蓝桥杯基础练习所有VIP习题解析代码

    阶乘计算 资源限制 时间限制 1 0s 内存限制 512 0MB 问题描述 输入一个正整数n 输出n 的值 其中n 123 n 算法描述 n 可能很大 而计算机能表示的整数范围有限 需要使用高精度计算的方法 使用一个数组A来表示一个大整数a

  • Mysql 乱码问题--如何查看和修改Mysql 的字符集

    MySQL会出现中文乱码的原因不外乎下列几点 1 server本身设定问题 例如还停留在latin1 2 table的语系设定问题 包含character与collation 3 客户端程式 例如php 的连线语系设定问题 强烈建议使用ut

  • Linux下安装openldap

    Linux下安装openldap 1 安装Berkeley DB 4 7 25 伯克利大学嵌入式数据库方案 openldap用它作为存储方案 root instance 0pk09gjj ldap wget http download or

  • DAC芯片CBM128S085

    一 硬件介绍 1 1 芯片内部框架图 1 2 CBM12S085引脚定义 引脚介绍 DAC SYNC 电平触发控制输入 低电平有效 SCLK 时钟输入 DAC DIN 串行数据输入 VOUTA H则是对应的8个电压模拟输出通道 二 软件实现

  • 找出数组中每个数的右边第一个比它大的数

    vector

  • 人工智能 猴子摘香蕉问题

    1 定义描述环境状态的谓词 AT x w x在w处 个体域 x monkey w a b c box HOLD x t x手中拿着t 个体域 t box banana EMPTY x x手中是空的 ON t y t在y处 个体域 y b c

  • 三角形

    1 2 3 4 5 6

  • function 与 =＞ 的区别

    function 与 的区别主要是他们的作用域的不同 在JS中 箭头函数并不是简单的function 匿名函数的简写语法糖 实际上 箭头函数和匿名函数有个明显的区别 gt 箭头函数内部的this是词法作用域 在编写函数时就已经确定了 fun

  • CentOS8.4安装Redis6.2.6

    一 下载 官网 Redis 我们下载 Stable 稳定版 cd mydata wget https download redis io releases redis 6 2 6 tar gz 二 安装redis6 2 6 1 安装到 us

  • python编一函数s(x) 求级数和_Python 编程基础之高阶函数篇(一)

    高阶函数 能接受函数作为参数的函数 如 f abs def add x y f return f x f y 如果我们用 add 5 9 f 来调用该高阶函数 则返回结果为 14 abs是Python提供的求绝对值的函数 Python中的m

  • Django实现音乐网站 ⒅

    使用Python Django框架做一个音乐网站 本篇主要为歌单列表 歌单详情及推荐页 歌单内容改动 目录 歌单列表 设置路由 视图处理 模板渲染 歌单 单曲列表 设置路由 视图处理 模板渲染 推荐页 歌单列表 模板渲染修改 总结 歌单列表

  • C语言字节数

    bool 1字节 char 1字节 short 2字节 string 4字节 int 4字节 指针4字节 float 4字节 double 8字节 long 4或8字节 long long 8字节 long double 12字节 空类1字

  • ArcFace loss与其他改进loss对比

    ArcFace loss与其他改进loss对比 sphereFace A softmax cos ma 角度距离 cosFace AM softmax cosa m 余弦距离 ArcFace Arc softmax cos a m 角度距离

热门标签