ChatGLM-6B 本地安装、部署和运行的常见问题解答及优化建议

2023-10-27

分享一点自己本地安装部署运行 ChatGLM-6B 的过程中的心得和二次优化开发吧。主要是比如怎么防止GPU运行时爆显存,GPU运行时减少显存占用,一些常见的报错应该怎么解决,推理参数的调整方案,怎么开启局域网访问,怎么给网页加上HTTPS。


 目录

ChatGLM-6B 常见报错及解决方案

报错 No module named ‘transformers_modules.THUDM/chatglm-6b’

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

ChatGLM-6B 本地安装、部署和运行的常见问题解答及优化建议 的相关文章

随机推荐

  • cmd中执行netsh wlan start hostednetwork 无法启动承载网络。 组或资源的状态不是执行请求操作的正确状态。

    cmd中执行netsh wlan start hostednetwork 无法启动承载网络 组或资源的状态不是执行请求操作的正确状态 解决办法 1 打开网络共享中心 点击 更改适配器 如果没有看到 无线网络连接2 的网络连接 请尝试以下步骤
  • 日常工作总结(只读文件系统故障解决)

    centos由于文件系统的某种故障 突然变为只读文件系统后 可以通过以下几种方式来解决 1 重启解决 2 使用fsck y dev sda1 进行自动修复 用 y 选项来执行该命令对硬盘进行检查和修复 添加参数 fsck y C t ext
  • 机器学习之分类算法

    如果目标值为 类别 则属于分类问题 使用分类算法 1 sklearn转换器和预估器 估计器 转换器 特征工程的父类 1 实例化 实例化的是一个转换器类 Transformer 2 调用fit transform 对于文档建立分类词频矩阵 不
  • linux磁盘文件删除磁盘空间未释放问题排查

    背景 向友商采买数据 使用友商提供的sdk上传原始文件过去 串行 友商处理好会把结果文件下载链接返回回来 问题发现 向友商发送原始数据1 5h之后发现机器磁盘使用率增长明显不正常 于是开始查找原因 排查发现日志文件增量明显没有那么大的体积
  • 搭建权限管理系统-01安装

    搭建权限管理系统 01安装 vue typescript vue router vuex element plus 安装脚手架 vue create admin test 选择vue3 0 typescript router store j
  • HTML/CSS 一个非常漂亮的收藏列表样式

    先上效果图 收藏列表 代码部分一 HTML
  • 数据结构:最小生成树--Prim算法

    最小生成树 Prim算法 最小生成树 给定一无向带权图 顶点数是n 要使图连通只需n 1条边 若这n 1条边的权值和最小 则称有这n个顶点和n 1条边构成了图的最小生成树 minimum cost spanning tree Prim算法
  • nginx启动成功,访问不了

    前言 服务器 阿里云服务器 Ubuntu 16 04 3 LTS 自己弄了个学习的demo 搭建了vue elementui spring boot 前后端分离 将项目部署到服务器上面 装好nginx 为了避免冲突 将端口改为了8001 启
  • 屏幕内底部虚拟按键NavigationBar处理

    华为 OPPO 等手机屏幕内底部虚拟按键处理 游戏适配方案 Override public void onWindowFocusChanged boolean hasFocus super onWindowFocusChanged hasF
  • BUUCTF WEB 极客大挑战 2019 LoveSQL

    题目 解题 1 输入万能密码 用户名 admin or 1 1 密 码 1 2 确定回显列 用户名 1 union select 1 2 3 select 1 2 逐步增加 直到不报错即得到正确的列数 密 码 1 说明查询列数为3 回显列为
  • 范式:模式分解,一范式分解成二范式、三范式

    模式分解 第一范式 关系模式R中的每个关系rd的属性值都是不可再分的原子值 第二范式 关系模式R是1NF 不存在局部依赖 那么称R是2NF 第三范式 关系模式R是2NF 不存在传递依赖 那么称R是3NF 此处只讲模式分解的具体方法 讲解参考
  • 时间复杂度详解

    目录 一 算法效率 1 什么是算法效率 2 算法效率有什么用 3 算法的复杂度 二 时间复杂度 1 什么是时间复杂度 2 什么计算时间复杂度 3 大O的渐进表示法 4 时间复杂度计算实例 三 空间复杂度 1 什么是空间复杂度 2 空间复杂度
  • 图像超分辨的几种方法

    当前看了几种图像超分辨的方法 本篇博客主要介绍 最近邻插值算法 双线性插值算法 双三次插值算法 bicubic interpolation SRCNN TNRD ESPCN 几种方法 为了方便归纳 这里借鉴一下其他几个博主的相关总结 1 最
  • 【cmd】命令大全/黑窗体

    提示 该内容是作者网上查找总结的 文章目录 前言 CMD命令锦集 黑窗体命令锦集 前言 cmd常用命令记不住 没事 收藏生灰就行了 CMD命令锦集 gpedit msc 组策略 explorer 打开资源管理器 logoff 注销命令 sh
  • C语言-局部变量、全局变量、静态变量和生命周期

    一 局部变量与全局变量 1 局部变量 在函数内部定义的变量是局部变量 局部变量的有效范围是局限于函数内部的 形参也是局部变量 局部变量的改变无法影响到主调函数 正是因为局部变量的有效使用范围的局限 可以最大程度的确保各函数之间的独立性 避免
  • FPAG故障一例

    最近在弄FPGA LFXP2 5E的代码 在编译过程中老出现 module spd ignored due to previous errors 问题 经过几次总结一下这个故障的原因 1 在模块中begin 与end不对应 2 语句结束时没
  • inner join执行计划变了

    一 背景 同一个连接查询inner join 由于某一个条件in里多了几个值 执行计划变了 执行计划一 执行计划二 二 外连接与内连接的区别 连接查询的成本计算公式是这样的 连接查询总成本 单次访问驱动表的成本 驱动表扇出数 x 单次访问被
  • ES6新增方法和属性以及ajax笔记

  • Scala学习(四)

    文章目录 1 闭包 2 函数式编程递归和尾递归 2 1递归 2 2 尾递归 3 控制抽象 3 1 值调用 3 2 名调用 4 惰性函数 1 闭包 如果一个函数 访问到了它的外部 局部 变量的值 那么这个函数和它所处的环境称之为闭包 闭包练习
  • ChatGLM-6B 本地安装、部署和运行的常见问题解答及优化建议

    分享一点自己本地安装部署运行 ChatGLM 6B 的过程中的心得和二次优化开发吧 主要是比如怎么防止GPU运行时爆显存 GPU运行时减少显存占用 一些常见的报错应该怎么解决 推理参数的调整方案 怎么开启局域网访问 怎么给网页加上HTTPS