政企市场,「观望」AI大模型

2023-10-27

数据安全等“刚需”下,私有化成为政企市场的准入门槛,然而私有化下,行业模型局限性尚未可知,加之信创化等因素,厂商仍需取长补短,为政企客户提供全方位的解决方案。

作者|斗斗

编辑|皮爷

出品|产业家

政企领域,似乎正在成为AI落地的又一标的。 

几个最新的动态是:新华三针对政企客户发布私域大模型“百业灵犀”LinSeer、中国电科发布专为党政企行业用户服务的AIGC大模型“小可”、百应科技发布政务行业专有大模型“万机”……百度智能云、阿里云、三六零、科大讯飞、商汤等也都在针对政企客户,发布了相关产品和解决方案。 

这一趋势同样发生在海外。有消息称微软正在使用其 Azure 云服务把 OpenAI 的强大的语言生成模型引入政府机构,这些模型包括 OpenAI 最新、最先进的大型语言模型(LLM)GPT-4以及 GPT-3。 

然而,从国内发布政企大模型的各大厂商的动作来看,并未有较多的落地案例。背后的原因有很多,一是产品发布时间短,无法及时得到较大反馈;二是由大模型引起的AI热潮还处于爆发期,政企对于合作厂商的选择还需考量。 

除了这些因素之外,几个关键的问题是,这些厂商针对政企客户发布的AI产品,真的是政企所需要的吗?再或者,于政企而言,其需要什么样的AI产品与服务? 

政企市场,“观望”AI 

“我们接触的客户都在探索这方面的内容,政企会有这方面的诉求。”某业内人士告诉产业家,“但对于AI大模型在政企领域的应用,大家都处于观望+探索的阶段。” 

在国内,政企普遍体量大、业务复杂、定制化要求高,有着沉重的IT建设包袱,各部门、业务之间难以协同,数据壁垒也难以打破,这使得政企的数字化转型困难重重。 

而大模型可以把人与人、人与机器之间的交互过程数据完整的沉淀下来,让它自主学习进步,持续演进。杜绝了过去的烟囱式建设,降本增效的同时还能推动政企数字化进程。 

这种技术应用的趋势,推动着诸多厂商开始将自身的TOG产品与大模型结合。 

不过客观来看,当下虽然深耕AI产业链的玩家众多,但在政企领域,出于对算力、行业专业度、数据安全、国产化等各方因素的考量,厂商难以给出合适的AI解决方案。 

AI大模型作为数字化的新基建,如何赋能行业仍需不断探索、实践。很多企业也在不断进行新的尝试。 

周鸿祎曾在微博上发文表示,“大型企业或者政府要私有化大模型。即在加入公有GPT知识和能力的基础上,再训练一个私有的GPT,只给企业自己或客户使用。” 

与周鸿祎有相同见解的,还有新华三安全产品研发总监韩小平。 

“政企大模型一方面数据不能出域;一方面需要结合其业务场景数据进行喂养训练,生成实际的业务场景App。” 

他认为,政企大模型技术本身其实不是唯一考量的因素,更重要的是对用户业务的理解。政企AI服务,行业Know-how仍是关键,没有政企业务服务经验的厂商,难以结合大模型设计出个性化的解决方案。 

两人都将政企AI大模型的落地方式瞄准了私有化。 

私有化,会是一个好的选择吗? 

“全面禁止使用ChatGPT”这句话时不时就会喜提科技榜热搜,最近一次的主角是三星。 

具体源于三星允许半导体部门的工程师使用ChatGPT参与修复源代码问题。 但在过程当中,员工们输入了机密数据,包括新程序的源代码本体、与硬件相关的内部会议记录等数据。 

起初三星全面禁止使用ChatGPT,自3月11日开始才部分开放给DS部门使用,却没想到在短短时间内就传出机密外泄。 

诸如此类机密数据泄漏事件,层出不穷。 

在海外市场,苹果、三星、摩根大通、花旗银行等知名企业都曾明确表示,禁止或限制员工在工作场合使用ChatGPT等大模型产品。 

事实上,大模型的底层逻辑是将行业数据标注出来进行深度学习,训练出专注于某一行业的垂直模型。这也意味着,企业的数据要集成到通用大模型的数据池中。 

然而,政企的数据大多涉及商业机密、个人隐私等问题,对数据安全要求甚高。 

所以,数据不出域,成为关键。而私有大模型无疑是政企的必选项。 

不过,私有化意味着需要政企客户自己收集数据进行训练。一般情况下,AI决策的及时性和准确性,取决于数据质量、数量以及算力。这意味着输入预训练模型的数据维度、数量越多,质量越高,才能真正发挥大模型真正价值。 

一个有争议的点是,专业厂商打造的私有模型,比起通用大模型的能力,能否满足政企需求。 

3月30日,彭博社创始人布隆伯格发布了一片论文,即BloombergGPT: A Large Language Model for Finance。 

在论文中,介绍了其以模3630亿token的金融领域数据集以及3450亿token的通用数据集训练出来的金融大语言模型。并进行金融领域评估与通用领域评估。 

结果显示,在金融领域任务上,该模型综合表现最好;在通用任务上,该模型的综合得分同样优于相同参数量级的其他模型,并且在某些任务上的得分要高于参数量更大的模型。 

这意味着,基于专业领域语料训练的大模型,在领域内的理解要超过通用大模型。 

一个启示是,在其他特定领域,也可以开发专用的大语言模型,并且效果可能比通用大模型更好。 

然而,这个评估实验的结论仍无法代表所有行业,有些问题仍需要被正视,例如中外金融数据维度、质量其实有着较大的差距,该金融模型作为第一个行业模型,更换不同维度、质量的数据,能否保持其结论的准确性,还未得知。 

另外,除政务系统、城市大脑以及金融等数据敏感的政企场景,其他终端场景,通用大模型的语料数据仍有很大优势。 

所以,对于政企而言,其需要的AI服务是能在保证数据安全的同时,还可以能集成通用大模型作为能力补充。 

政企大模型,亦需“群战” 

术业有专攻,大模型能力同样如此。 

在政务AI大模型应用方面,周鸿祎曾直言,预测未来中国不会只有一个大模型,每个城市、每个政府部门都会有自己的专有大模型。 

信创化的浪潮下,全技术栈的国产化已经成为服务政企客户的准入门槛。所以对于政企而言,信创生态能力成为其选择厂商的重要标准。 

目前来看,能实现全技术栈国产化的AI大模型厂商屈指可数。能否吸引更多信创伙伴成为关键,取长补短,或将实现双赢。 

此外,在国产化的基础上,不同的场景应用,也需要与不同的厂商合作,例如互联网云厂商在终端软件应用的优势;运营商的网络优势;华为在芯片、系统上的优势。 

除了基于客户需求的合作,还有来自算力等资源稀缺所带来的压力。 

AI新一轮热潮袭来,服务器需要配备大量GPU/NPU/FPGA/ASIC等芯片以支持高算力,但就目前来看,算力不仅价格高昂且资源紧张。 

目前,支撑包括ChatGPT大模型在内的95%用于机器学习的芯片都是英伟达的A100(或者国内使用的替代产品A800),该芯片的单价超过1万美元。此外,英伟达最新一代的H100芯片的性能也远超A100,但价格也更高,约合25万元人民币。 

而在取长补短的AI大模型产业生态下,将大幅度杜绝模型的重复搭建、实现数据的重复利用,大大节约算力资源利用率。同时还可以减少政企客户的AI部署成本。 

所以,对于布局政企大模型的厂商而言,在私有化的前提下,通过开源、API接口等形式,以通用大模型和客户或自身集成的数据,帮助客户调教模型,形成定制化的AI产品,或将推动政企大模型快速落地。 

一些厂商也正在验证了这种路径的可行性。 

例如中国电科面向党政企,提供“通用智能模型大循环 + 行业智能模型小循环”双循环、“模型训练 + 测试评估 + 场景精调 + 可信增强”四阶段的行业应用新范式。 

再比如,新华三面向政企发布的百业灵犀LinSeer既支持“私域大模型+新华三ICT基础架构”的模式保障数据安全,也支持“客户自选大模型+新华三ICT基础架构”的模式满足多种需求。 

政企AI服务的走向逐渐清晰,即政企或许更需要“自助餐”式的服务模式。客户可以选择适合自身需求的芯片、模型技术方、数据集成方、软件厂商等。 

经历过多次寒冬的AI,能否抓住这次时代的机遇,仍需时间来验证。 

 

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

政企市场,「观望」AI大模型 的相关文章

随机推荐

  • 手写线程池

    package cn pzh xzh javaee thread import javafx concurrent Worker import java util ArrayList import java util LinkedList
  • 【AD20学习笔记】PCB设计规则设置及手工布线

    7 21 今天干了啥 7 22 7 23 7 24 啊 咋24号了 回流为什么要打孔啊 数字地 信号地的区别 本章快捷键 shift E 捕捉捕捉不到的点 可以控制高亮的亮度 L 表示显示的板层 网络可以右击选择改变颜色 然后选择显示替换
  • C# 一种求平方根的方法 立方根也可以 极大 极小都可以

    不知道研究这些干啥 纯纯的浪费时间 public static double TQSquare double number Random random1 new Random DateTime Now Millisecond double
  • 少儿编程教育机构

    计算机就像一个人 才刚刚清醒 但已经改变了生活中的很多东西 革新了旧行业 也出现了许多新的商业模式 比如 淘宝购物 滴滴打车 支付宝付款 高德地图导航等这些习以为常的App 以及作为纽带的互联网 无不来自于我们所编写的程序 格物斯坦小坦克认
  • python期末版二版-习题题库

    Python程序设计 题库 一 填空题 1 Python安装扩展库常用的是 工具 pip 2 Python标准库math中用来计算平方根的函数是 sqrt 3 Python程序文件扩展名主要有 和两种 其中后者常用于GUI程序 py pyw
  • vue获取当前时间的前七天日期

  • SpringBoot项目配置国际化

    1 引言 效果 1 根据浏览器默认语言设置的信息切换国际化 2 点击链接切换语言 2 配置步骤 1 设置file encoding 如果不设置 获取properties内容会乱码 当前项目配置 点击setting搜索file encodin
  • 报错Unmet dependencies. Try 'apt --fix-broken install' with no packages (or specify a solution).解决方法

    在Ubuntu中用apt get安装软件 系统报出Unmet dependencies错误 Unmet dependencies Try apt fix broken install with no packages or specify
  • MYSQL的慢查询

    通过查询SQL的执行频次 我们就能够知道当前数据库到底是增删改为主 还是查询为主 那假如说是以查询为主 次数我们可以借助于慢查询日志 接下来 我们就来介绍一下MySQL中的慢查询日志 慢查询日志 慢查询日志记录了所有执行时间超过指定参数 l
  • 基于RuoYi框架快速搭建自己的后台管理系统

    RuoYi的介绍 RuoYi是一个后台管理系统 基于经典技术组合 Spring Boot Apache Shiro MyBatis Thymeleaf 主要目的让开发者注重专注业务 降低技术难度 从而节省人力成本 缩短项目周期 提高软件安全
  • 极路由2刷机为openwrt固件

    1 随着极路由插件app hiwifi com网站关闭 极路由现在想要活动root权限以及刷其他固件就变得很麻烦 最近家里的极路由2发现网络好像经常有问题不知道是不是固件问题 于是就想着刷固件 型号 极路由2 产品 HC5761 2 很多刷
  • numba.cuda OpenCV 图像处理

    文章目录 一 什么是numba 二 代码实现 三 实验结果 一 什么是numba python numba numba cuda numba能够帮助python进行动态编译 JIT 通过借助numba cuda可以实现对GPU的动态编译 实
  • html设置鼠标移入移出样式,vue鼠标移入添加class样式,鼠标移出去除样式(active)实现方法...

    鼠标移入添加class样式 HTML HTML绑定事件 加入或者移出class为active 流量套餐 JS 这里除了active这个class需要动态添加或者减去 其他的皆是移入移出都需要的class methods changeActi
  • 网页前端(HTML)

    CSS 下拉菜单 使用 CSS 创建一个鼠标移动上去后显示下拉菜单的效果 基本下拉菜单 当鼠标移动到指定元素上时 会出现下拉菜单 HTML 部分 我们可以使用任何的 HTML 元素来打开下拉菜单 如 span 或 a span
  • 小程序和H5上传图片转成Base64格式

    小程序和H5上传图片转成Base64格式 文章目录 小程序和H5上传图片转成Base64格式 前言 一 Base64是什么 二 Base转换 小程序的转换 小程序使用getFileSystemManager来获取文件管理器 使用 fileM
  • springboot里结合layui对表格数据的一些记录

    js代码 var layui active reload function 处理人的选择 var handler handler input name handler checked val 获取选中的值 var systemNo var
  • OpenSSL中AES加密的用法

    OpenSSL中AES加密的用法 作者 游蓝海 原文链接 http blog csdn net you lan hai article details 50992719 转载请注明出处 使用API的时候 需要特别小心数据长度 我在初次使用的
  • 美学生用ChatGPT写论文被识破,导师:好到不符合我对学生的预期

    据央视网快看微博3月20日消息 北密歇根大学的教授奥曼在学生作业中发现了一篇关于世界宗教的 完美论文 这篇文章写得比大多数学生都要好 好到不符合我对学生的预期 他去问ChatGPT 这是你写的吗 ChatGPT回答 99 9 的概率是的 C
  • Vue项目运行报错:“TypeError: Cannot read properties of undefined (reading ‘$on‘)“

    报错原因 无法读取未定义的属性 on 解决方法 在main js加入代码 event Bus 用于无关系组件间的通信 Vue prototype bus new Vue 我是零基础自学的菜鸟 想把这里作为笔记记录 下来我在编程路上遇到的bu
  • 政企市场,「观望」AI大模型

    数据安全等 刚需 下 私有化成为政企市场的准入门槛 然而私有化下 行业模型局限性尚未可知 加之信创化等因素 厂商仍需取长补短 为政企客户提供全方位的解决方案 作者 斗斗 编辑 皮爷 出品 产业家 政企领域 似乎正在成为AI落地的又一标的 几