闻达搭建paddingpadding

2023-11-03

项目地址wenda-LLM/wenda: 闻达:一个LLM调用平台。为小模型外挂知识库查找和设计自动执行动作,实现不亚于于大模型的生成能力 (github.com)

git clone https://github.com/wenda-LLM/wenda.git

cd wenda

mkdir model

文件夹下放入俩模型

chatglm-6b-int4

text2vec-large-chinese 这两个自行下载

mkdir txt

把知识库放入这个文件夹下, 格式 就是 问:xxxx  答:xxxx

然后 python plugin/gen_data_st.py 运行命令把知识弄进去

然后 就可以运行了

nohup python  wenda.py -t glm6b &

控制台会打印 访问端口,用浏览器打开就可以用了

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

闻达搭建paddingpadding 的相关文章

  • Django模型和数据库操作

    文本参考菜鸟教程 创建模型和数据库 并对mysql数据库进行操作 1 创建数据库 在mysql命令行 输入创建数据库语句 create database runoob default charset utf8 2 修改settings py

随机推荐