程序员经验分享-hwhale

10 Model Card 保证AI模型伦理道德的好工具

2023-05-16

伦理道德的六个方面中每一个方面的验证都需要收集很多问题，想要通过一次性的收集整理还是很难覆盖全部的伦理道德的验证内容。所以我们应该通过有效的手段从模型建立之初就开始着手收集关于AI系统的各种信息，为伦理道德的验证提供更全面的输入和参考。Google Brain团队在2018年在《Model Cards for Model Reporting》文章中提出的Model Card，就是很好的完成上述任务的工具之一。自从Mode Card被提出来以后，微软、IBM、OpenAI、Meta等公司都在其AI系统中鼓励使用Model Cards帮助AI系统的干系人了解AI系统的相关信息，从而更好的管理模型性能风险和伦理道德风险。

Model Card就像机器学习模型的档案一样，记录了这个模型是为什么建立的，考虑了为什么人做什么样的服务，有什么样的性能表现等等内容信息，一些比较常出现在模型卡上的内容如下有模型详情、使用预期、影响因素、指标、评价数据、训练数据、质量分析、伦理道德影响因素以及其他建议和注意事项。

模型名称: 人像图片情绪分析模型
模型类型: 深度学习
模型版本: 1.0
模型简介: 该模型主要用于分析图片中人像所表达的情绪是开心还是伤心。
预期用途:通过这个模型可以分析社交媒体中分享人像图片的情感
训练数据：这个模型的训练数据是一个标记了开心还是伤心的人像图片，图片收集社交网站的分享图片。
评估数据；评估数据是一个独立于其他数据集的标记了标记了开心还是伤心的人像图片，图片收集社交网站的分享图片。
度量：该模型的F1得分是0.85
局限性：该模型可能在多人图片中表现不好，同时对于一些表现平静的人像图片可能不准确。
伦理道德：该模型的训练数据全部来自社交网络，以及人工标注可能并不准确从而导致一些偏见和歧视，因此针对不同地域的人群的使用，应该注意评估是否存在潜在偏见影响。

如上就是一个简单的Model Card

本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系:hwhale#tublm.com(使用前将#替换为@)

model

card

模型伦理道德的好工具

10 Model Card 保证AI模型伦理道德的好工具 的相关文章

  • Rails 应用程序中的 AssociationTypeMismatch（预期对象，获得 HashWithIn DifferentAccess）

    我收到 AssociationTypeMismatch 错误 但我不确定我在哪里犯了错误 我对 Rails 还很陌生 所以我猜我犯了一些愚蠢的错误 我检查了我的语法并将其与Ruby on Rails 应用程序上的 AssociationTy

  • Rails 验证虚拟属性

    我这个型号 class Bunny lt ActiveRecord Base attr accessor number validates presence of number validates numericality of numbe

  • 如何重命名项目中的 Rails 控制器和模型

    我启动了一个 Rails 应用程序 一切正常 但现在 我想重命名控制器和关联的模型 我想改变Corps控制器到Stores模型也相同 没有最后的 s 在谷歌上查看 人们建议销毁然后重新生成控制器和模型 问题是它会删除每个文件的实际代码 解决

  • Rails 使用缩写对模型进行非正统命名

    在我正在构建的应用程序中 我使用以下命令在数据库中存储 XML 文件acts as tree协会 我想给班级起个名字XMLElement但这会偏离轨道 因为大写是非标准的 它正在寻找XMLElement从文件名xml element rb

  • MVC 模型对象、域对象和 DTO 之间有什么区别

    MVC 模型对象 域对象和 DTO 之间有什么区别 我的理解是 MVC 模型对象 对要由相应视图显示的数据进行建模 它可能不会直接映射到域对象 即可能包含来自一个或多个域对象的数据 客户端 可能包含业务逻辑 例如 验证 计算属性等 没有持久

  • 为什么我的复选框没有映射到 MVC 模型成员？

    我正在尝试实现什么这个答案表明 https stackoverflow com a 10649724 57428但没有将显示名称存储在我的模型代码中 所以我相信这是一个单独的问题 我有 MVC 视图 和一个模型 public class M

  • django 模型中的星期几表示

    我正在构建这个 作业服务器 模型 我想添加一个字段来保存该作业将在一周中的哪几天运行 最终在用户界面中 我希望用户能够拥有一系列可以选择的复选框 每天一个 在我的模式中表示 一周中的几天 数据的最佳方式是什么 class Job model

  • 如何在 GEKKO 中实现 OR 约束

    我有一个优化问题 我必须找到给定电机的最低成本 并且存在一个限制 即电机要么运行 要么不运行 但如果它运行的话 它必须达到其功率范围的下限 我将包含我的代码 以展示我所尝试的内容 from gekko import GEKKO power

  • Django，多表继承有那么糟糕吗？

    这并不是 django 特有的 一罐模型 Place with location name and other common attributes Restaurant menu ConcertHall hall size 在两个单独的表中

  • ASP.NET MVC 中与嵌套子模型和 PartialView 的模型绑定

    我有以下类型和类 namespace MVC Models public class Page public EditableContent Content get set public class EditableContent publ

  • Kohana 3：经过验证的模型示例

    我找到有关模型和验证的示例和教程 我说验证 或至少大部分 应该在模型中 我同意这一点 但我无法提供任何示例或教程来说明应该如何完成此操作 谁能帮我举一个简单的例子来说明如何做到这一点 模型中的规则在哪里 验证将在哪里进行 控制器如何知道验证

  • asp.net mvc相当于rails回调before_save

    您好 我正在寻找一个 ASP NET MVC 回调 以便在保存模型之前获取详细数据 Rails 中有 before save Thanks 如果您正在使用实体框架 您的标签表明 那么这个 StackOverflow 帖子 https sta

  • Kendo UI - observable、ObservableObject 和 Model 之间的区别

    observable ObservableObject 和 Model 之间有什么区别 谢谢 Model继承自ObservableObject 而ObservableObject又继承自Observable 可观察的 http docs k

  • 如何在 Laravel 中基于迁移文件制作模型

    我已经创建了一个迁移 我想根据迁移文件制作一个模型 这可能吗 如果是这样 该怎么办 这是不可能的 到目前为止 您最多可以通过运行以下命令同时创建迁移和模型 php artisan make model ModelName m

  • MVC 模型在 OnExecuted 操作过滤器中为 null ...或者设置模型的更优雅的方式？

    我有一个 ActionFilter 它覆盖了 OnActionExecuted 方法 在 POST 操作中 filterContext Controller ViewData Model 始终为 null 我确实发现下面的文章似乎在说它不应

  • 将 Django 模型映射到外部 API

    上下文 我有一个外部 API 提供数据并允许发布新数据或修补现有数据 API 响应示例 response requests get http api band 4 print response json id 4 name The Beat

  • 使模型绑定适用于没有默认构造函数的模型

    我一直在试图找到一种方法 让模型绑定与带有参数的构造函数的模型一起进行 那个行动 HttpPost public ActionResult Create Company company HttpPostedFileBase logo com

  • 如何使用 django 更新会计应用程序中的余额？

    我正在学习 Django 尝试制作一个会计应用程序来跟踪我的开支等 我使用两种模型创建数据库 一种用于帐户 一种用于操作 但我不知道如何在每次操作时更新我的 余额 我在想 也许每次我保存一个新操作时 我都会通过覆盖操作模型的保存方法来更新余

  • zend框架找不到模型类？

    Yall 我有一个简单的问题 这可能是一个简单的配置问题 但是 我定义了一个模型 当我尝试从控制器访问它时 失败 模型位于模型目录中 当我查看快速启动应用程序时 看来这应该可行 这是我的模型 我的控制器停止了 这是控制器代码

  • 如何在模型更改时停止ListView“跳跃”

    我需要做什么 我需要创建一个聊天窗口用一个ListView在 QML 中存储聊天消息 我设置listView positionViewAtEnd 以便跟踪最后的消息 我禁用positionViewAtEnd当我向上滚动时 我可以阅读过去的消

随机推荐

  • PX4代码中LIDAR-Lite v3激光测距仪PWM驱动

    调试了LIDAR Lite v3激光测距仪PWM驱动 xff0c 在这里做一下记录 飞控硬件是pixhawk1 xff0c PX4软件版本为1 7 3 按照官方教程进行接线和配置 xff0c 链接为 https docs px4 io en

  • MAVROS 源码分析

    一 安装 MAVROS 利用机载计算机对 PX4 飞控进行 OFFBOARD 控制 xff0c 需要在机载计算机上安装 ROS 的 MAVROS 包 安装方式可以参考 PX4 开发者网站 xff0c 有二进制文件安装和源码安装两种方式 xf

  • 从 MAVROS 到 PX4 飞控的数据流向

    上一篇分析了 MAVROS 中数据收发的实现方法 当用户发送一个 ros 话题的消息后 xff0c 对应的 plugin 中的回调函数被处罚 xff0c ros 消息被包装成 mavlink 消息 xff0c 从链路中发送出去 下面以 34

  • Cortex-M0中断控制和系统控制

    目录 1 NVIC和系统控制块特性2 中断使能和清除使能3 中断挂起和清除挂起4 中断优先级5 中断控制的通用汇编代码使能和禁止中断设置和清除中断挂起状态设置中断优先级 6 异常屏蔽寄存器 xff08 PRIMASK xff09 7 中断输

  • 【折腾电脑】win笔记本雷电3外接显卡过程记录（使用内屏）、雷电三驱动怎么更新

    准备材料 xff1a 雷电3硬盘盒 xff08 400 xff09 NVME转PCIE X16转接板 xff08 75 xff0c 直接用这个关键词搜 xff0c 对应价格就是 xff09 显卡 主机电源 xff08 100 43 xff0

  • CMakeLists 文件操作命令FILE之GLOB：相对路径

    file GLOB variable RELATIVE path globbingexpressions 使用该文件操作命令时 xff0c 相对路径的书写最前面不要加任何修饰 xff0c 如 xff1a FILE GLOB EXTENDED

  • 在 JavaScript 中将数组转换为 Set

    本教程展示了将数组转换为 a 的过程 xff0c set并了解如何使用 JavaScript 将对象数组转换为多个集合 我们可以通过不同的路径将数组set转换为 JavaScript 中的转换 下面列出了其中一些 xff0c 我们将在本教程

  • 在 JavaScript 中将集合转换为数组

    在本文中 xff0c 我们将研究如何在 JavaScript 中将 Set 转换为数组 1 在本文中 xff0c 我们将研究如何在 JavaScript 中将 Set 转换为数组 Array from 允许您从以下来源构建数组 xff1a

  • Ubuntu下安装ROS以及使用ROS读取T265、D435i数据

    安装ROS xff1a ROS Melodic安装 智学无人小车平台 czxy com 创建ROS工作空间 xff1a 14条消息 ROS学习 第3篇 xff1a ROS基础 创建工作空间 北理工 王大东的博客 CSDN博客 ros创建工作

  • 9 AI系统伦理道德风险之权力谋取验证

    权力谋取主要评估AI是否在为了达到目的而不择手段 xff0c 这也是伦理道德性的重要指标 xff0c 需要通过有效的监督和制约机制来防止或减轻 权利谋取就是AI系统为自己谋取利益 xff0c 这里的利益是站在AI系统角度一些利益 测试权力谋

  • Python中的下划线到底什么意思？

    1 概述 在Python经常能见到含下划线 xff08 underscore xff09 修饰的的变量和方法 xff08 如 name xff0c var等 xff09 xff0c 这些下划线的作用称之为名字修饰 xff08 name de

  • Ubuntu远程，解决rviz无法在远程桌面下使用

    Ubuntu下远程桌面无法使用rviz 解决原理解释 将启动文件加入bash xff0c 避免每次export 具体操作 xff1a 1 检查主机与移动端机器的IP 主机IP 192 168 31 193 主机名 ada 也可使用ada l

  • 一个例子"入坑"布谷鸟算法(附完整py代码)

    布谷鸟是比较新的启发式最优化算法 但其与传统的遗传算法 退火算法等相比 被证明收敛速度更快 计算效率更高 文章目录 本文诞生的缘由布谷鸟算法思想简介更新位置的方式莱维飞行局部随机行走 抛出个栗子一些参数的建议完整的python实现运行结果参

  • python 实现批量post json数据测试

    服务器之前经常出现发消息就会宕机 xff0c 今天修改了部分之后 xff0c 就用python实现了一个批量post数据测试 直接上代码 url 是测试版 xff0c 你看到这份代码的时候 xff0c 应该已经不能用了 xff0c 童鞋需要

  • Linux —— 信号量

    目录 一 POSIX信号量 1 什么是信号量 2 信号量的基本原理 二 与信号量相关的操作 1 初始化信号量 2 销毁信号量 3 等待信号量 4 发布信号量 三 基于环形队列的生产者消费者模型 1 空间资源和数据资源 2 生产者和消费者申请

  • 记录学习crazepony飞控

    记录学习crazepony 开始之前 xff0c 弱弱的问一句 xff1a 大佬们你们是怎么学习飞控的呢 xff1f 如何抓住核心 xff1f 函数来回调 xff0c 变量在你不知道的地方悄悄改变着 如何才能清晰的知道如何理顺思路 xff0

  • 操作系统——中断

    操作系统是中断驱动的 计算机开机之后 xff0c 导引程序会把操作系统装入内存 xff0c 在完成一系列初始化之后 xff0c 操作系统就处于待命状态 xff0c 等待中断和系统调用 xff08 特殊的中断 xff09 xff0c 所以操作

  • 嵌入式 视频播放的基本原理

    当初看VLC代码花了不少时间 xff0c 其中很大的原因是不太了解视频播放的基本原理 现在看来 xff0c 几乎所有的视频播放器 xff0c 如VLC MPlayer Xine xff0c 包括DirectShow xff0c 在播放视频的

  • C 指针 数组 字符(串)

    首先看下C中的字符串是怎么定义的 参考链接 xff08 https m runoob com cprogramming c strings html ivk sa 61 1024320u xff09 在 C 语言中 xff0c 字符串实际上

  • 10 Model Card 保证AI模型伦理道德的好工具

    伦理道德的六个方面中每一个方面的验证都需要收集很多问题 想要通过一次性的收集整理还是很难覆盖全部的伦理道德的验证内容 所以我们应该通过有效的手段从模型建立之初就开始着手收集关于AI系统的各种信息 为伦理道德的验证提供更全面的输入和参考 Go

热门标签