chatgpt平替,清华chatglm本地化部署

2023-10-26

ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。因为我的cpu跑不了,在linux服务器端进行部署。前提是conda已经安装并配置好,因为我的已经搞好,就不是从最初开始,但是网上有很多配置方法,操作起来也不是太难。
这里提供一些其他博主的安装和配置方法;
https://blog.csdn.net/KRISNAT/article/details/124041869#1_Anconda_1
硬件需求:
在这里插入图片描述

下载代码:
git clone https://github.com/THUDM/ChatGLM-6B.git
在这里插入图片描述

使用anaconda创建虚拟环境
pip install -r requirements.txt
在这里插入图片描述

启动命令:
python cli_demo.py
最终会显示命令行中进行交互式的对话,在命令行输入指示并回车即可生成回复,界面如下:
在这里插入图片描述

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

chatgpt平替,清华chatglm本地化部署 的相关文章

随机推荐

  • 如何在pycharm中使用git

    一 环境配置 1 下载安装git 安装成功后 打开git bash here输入以下命令配置基础信息 git config global user name 用户名 git config global user name 邮箱地址 输入命令
  • 关于配置Golang语言环境中的一些问题以及配置yum源的方法

    关于配置Go语言环境中的一些问题 坚持不做无用的 重复的 混字数的博客 所以主要谈及安装使用过程中遇到的问题 具体安装参考博客 https pmlpml github io ServiceComputingOnCloud ex instal
  • SpringBoot中注入RedisTemplate报空指针

    现象 RedisTemplate不能作为静态变量注入 否则报空指针 错误做法 private static RedisTemplate
  • Pandas 中 SettingwithCopyWarning 的原理和解决方案

    Pandas 中 SettingwithCopyWarning 的原理和解决方案 原文链接 https www dataquest io blog settingwithcopywarning 原文标题 Understanding Sett
  • 防御第二天-防火墙演示实验

    1 上课思维导图 2 防火墙演示实验 防火墙FW1 原用户名 admin 原密码 Admin 123 配地址
  • 狂神docker学习笔记

    文章目录 前言 Docker 概述 1 Docker 为什么会出现 2 Docker 历史 3 Docker 能干嘛 Docker 安装 1 Docker的基本组成 2 安装Docker 3 阿里云镜像加速 4 回顾HelloWorld流程
  • Application is running inside IIS process but is not configured to use IIS server

    删除Program webBuilder UseKestrel
  • JSON字符串转换成List对象集合

    简单说下 有一个json字符串 我想通过jackson把json字符串转换成list对象集合 网上找了很多 但都不尽人意 后来还是看jackson文档 才知道怎么做 需要的包
  • ubuntu20.04配置安装frp内网穿透

    1 frp所在的github地址 https github com fatedier frp 2 下载 wget https github com fatedier frp releases download v0 38 0 frp 0 3
  • from keras.engine.topology import Layer 无此模块问题

    这可以说是深度学习必踩坑 就是版本问题 复现别人得代码时出现得问题 一开始没发现这篇博文 在GitHub上找了一圈都没找到这个引入 还走了弯路 以为是新版本包不一样了 修改也不可行 还是见识少了 这篇博客没营养 只作踩坑记录 参考博客 Ke
  • 什么是测试开发工程师(SET)?

    经常有人问到 什么是 软件测试开发工程师 Software Engineers in Test 缩写为SET 借用Google的规范来说其实就是 在测试中的软件工程师 其工作性质上首先是测试 然后才是开发 那么这里会让大家产生一个矛盾的感觉
  • Quick - Hello World

    文章目录 背景 谈一谈为我什么学QtQuick 环境搭建 Qt 安装 VS2019 安装 Qt Visual Studio Tools Hello World pro main cpp main qml 运行效果 参考鸣谢 背景 Qt4自2
  • Mybatis和Mybatis-Plus的配置

    目录 一 springMVC中Mybatis的配置 1 添加 MyBatis 和 MyBatis Spring 的依赖 2 配置数据源 3 配置 MyBatis 4 编写 Mapper 接口和对应的 XML 文件 二 springnboot
  • 大学二年级各科的学习成绩

    快要考试了 过多三个星期就是复习周了 又得狂抓一阵子 今天打开教务处 情不自禁打开成绩列表 希望继续保持吧 分数 学分 绩点 2008 2009学年上学期 01010022 毛邓三 上 必修 94 0 3 00 13 20 01020003
  • fortran使用MKL函数库计算方阵的逆矩阵

    本篇博文简要介绍使用MKL函数库计算方阵的逆矩阵 代码如下 program MKL getrfANDgetri use lapack95 implicit none integer parameter n 3 integer i j ipi
  • Python+turtle实现一个乌龟逃跑小游戏(可以和孩子一起完成)

    直接上演示视频 这个代码也是之前当老师的时候 给孩子们写的一个小游戏 那么我们一起看一下这个小游戏是如何让完成的 1 首先完成代码的前期准备 1 这里我们t turtle Pen 海龟 表示我们操作的小海龟 2 enemy turtle P
  • Windows 下安装 Memcached

    官网上并未提供 Memcached 的 Windows 平台安装包 我们可以使用以下链接来下载 你需要根据自己的系统平台及需要的版本号点击对应的链接下载即可 32位系统 1 2 5版本 http static runoob com down
  • 【FFMPEG】AVFilter使用流程

    流程图 核心类 AVFilterGraph 于统合这整个滤波过程的结构体 AVFilter 滤波器 滤波器的实现是通过AVFilter以及位于其下的结构体 函数来维护的 AVFilterContext 个滤波器实例 即使是同 个滤波器 但是
  • Postman循环调用Post接口(Body多字段传参详细设置)

    背景 由于线上数据库 普通开发用户是无法进行增删改操作 所以如果需要调用线上的某个接口 但是又不通过界面进行操作的话 就可以通过Postman进行操作了 具体操作 新建项目 创建接口 编辑接口 单击新建的接口 输入相应的url及登录toke
  • chatgpt平替,清华chatglm本地化部署

    ChatGLM 6B 是一个开源的 支持中英双语的对话语言模型 基于 General Language Model GLM 架构 具有 62 亿参数 因为我的cpu跑不了 在linux服务器端进行部署 前提是conda已经安装并配置好 因为