DeepSpeed 部署中bug以及解决方法

2023-11-05

text-generation

1. can’t find Rust compiler

在Linux上安装Rust:
您可以使用curl或者类似包管理器的工具来安装Rust:

  1. 使用curl命令安装Rust和Cargo:
curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh

此命令将下载并运行脚本,该脚本将自动安装Rust和Cargo,并将其添加到环境变量中。

  1. 安装完成后,重新打开终端以更新环境变量。您可以通过以下命令检查Rust是否正确安装:
rustc --version

2. ImportError: cannot import name ‘LlamaTokenizerFast’ from ‘transformers’

这个错误提示表明无法从 Transformers 库中导入名为 LlamaTokenizerFast 的类。要解决这个问题,您可以尝试以下几个步骤:

  1. 确认您已经安装了最新的 Transformers 库:请检查您是否已经安装了最新版本的 Transformers 库,您可以使用pip命令来更新Transformers库:
pip install --upgrade transformers
  1. 检查LlamaTokenizerFast是否存在于Transformers库中:请确保您在Transformers库中找到了LlamaTokenizerFast类。您可以查看Transformers文档或使用以下命令来检查:
python -c "from transformers import LlamaTokenizerFast"

如果该命令未报告任何错误,则表示LlamaTokenizerFast类可用。

  1. 检查Python路径:请确保您的Python路径已正确设置,并且可以找到Transformers库和所需的依赖项。您可以通过运行以下命令来检查Python路径:
python -c "import sys; print(sys.path)"

如果您发现缺少某些目录,请将它们添加到PYTHONPATH环境变量中。

  1. 检查其他依赖项:某些Transformers库的功能可能需要其他依赖项。请参阅Transformers文档以了解所需的依赖项,并确保它们已正确安装和配置。

3. RuntimeError: Failed to import transformers.models.llama.tokenization_llama_fast because of the following error (look up to see its traceback): tokenizers>=0.13.3 is required for a normal functioning of this module, but found tokenizers==0.12.1.

这个错误提示表明 Transformers 库中的 Llama 模型需要使用版本号为0.13.3或更高的 tokenizers 库,但当前安装的是较低版本的0.12.1。要解决这个问题,您可以尝试以下几个步骤:

  1. 更新tokenizers库:请使用pip命令更新tokenizers库,以确保其版本达到所需的最低版本0.13.3或更高版本:
pip install --upgrade tokenizers
  1. 检查Python路径:请确保您的Python路径已正确设置,并且可以找到Transformers库和所需的依赖项。您可以通过运行以下命令来检查Python路径:
python -c "import sys; print(sys.path)"

如果您发现缺少某些目录,请将它们添加到PYTHONPATH环境变量中。

  1. 重新启动Python解释器:有时在更新库之后,需要重新启动Python解释器才能使新的库版本生效。请尝试退出Python解释器并重新启动它,然后再次尝试导入Llama模块。

如果上述步骤无法解决问题,请参阅Transformers文档或提交问题报告以获取更多帮助。

stable-diffusion

  1. symbol cublasLtGetStatusString version libcublasLt.so.11 not defined in file libcublasLt.so.11 with link time reference

解决方法:

pip uninstall nvidia_cublas_cu11

参考:https://stackoverflow.com/questions/74394695/how-does-one-fix-when-torch-cant-find-cuda-error-version-libcublaslt-so-11-no

4 Connection error, and we cannot find the requested files in the cached path." ValueError: Connection error, and we cannot find the requested files in the cached path. Please try again or make sure your Internet connection is on. #10067

解决办法,导入代理
https://stackoverflow.com/questions/56628194/sslerror-installing-with-pip/56628419

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

DeepSpeed 部署中bug以及解决方法 的相关文章

  • Spring boot Mybatis type-aliases-package错误解决

    背景 最近在练习spring boot 2 7 0整合mybatis 2 1 3时 发现在使用mybatis type aliases package配置后 xml中的别名会出现爆红的现象 错误复现 配置文件中 使用mybatis type
  • 开关电源基本原理和种类-反激-正激

    不可不知的几种开关电源及工作原理 前面分享了部分开关电源的基础知识 里面经常涉及不同种类的开关电源 虽然说 开关电源再怎么变 原理都一样 但过程细节总有区别 比如说 石墨和钻石都是同一种元素 碳 但性质有天地之别 扯远了 这次 我总结归纳了
  • **全排列实现数字1-9排序**

    在为蓝桥杯比赛备考过程中 真正体验到自己编程能力的薄弱 在一次小练习中接触全排列这一算法 基于对全排列的熟悉掌握 通过C语言代码实现数字1 9的全排列 当然也可以进行全排列的拓展 C语言实现数字1 9全排列 include

随机推荐

  • 计算机组成原理笔记03

    计算机组成原理笔记03 做题笔记1 内容 教材的思维导图 课后练习 计算部分 中国大学MOOC计算机组成原理 计算部分 1 教材的思维导图 在看题之前 最好先看这篇定点运算 写的特别清晰明了 2 课后练习 3 2 选择题 1 一个C语言程序
  • vue.config.js

    use strict const path require path function resolve dir return path join dirname dir const CompressionPlugin require com
  • 【学习笔记】springboot的AutoConfigurationImportSelector 、@EnableAutoConfiguraion和@import解析

    文章目录 EnableAutoConfiguration介绍 AutoConfigurationImportSelector 例子 使用importSelector 自动装配原理分析 总结 EnableAutoConfiguration介绍
  • ElasticSearch 索引查询使用指南——详细版

    我们通常用用 cat API检测集群是否健康 确保9200端口号可用 curl localhost 9200 cat health v 绿色表示一切正常 黄色表示所有的数据可用但是部分副本还没有分配 红色表示部分数据因为某些原因不可用 2
  • 面试了38位Java候选人之后,我总结出了他们关于面试中的16条通病

    都说现在Java面试卷 前段时间项目招人的时候 我刚好就作为面试官面试了一些人 在整个面试的过程中 我就发现了一些关于面试的通病 所以呢 趁着这次金 铜 九银 铁 十的机会 我就把面试别人时的感受结合自身的所见所闻 整理成16条小建议分享给
  • 【C语言/C++_数组长度问题】如何获取数组长度?

    problem 我们怎么获取数组长度 常规数组 int float double 我们怎么获取字符串数组长度 字符串数组 未完待续 Solution 1 使用sizeof 函数 获取所求数组的的总大小 再获取该数组中单个元素所占空间大小 进
  • Windows 10 系统服务的 “自动(延迟启动)” 时间

    简而言之 设置为Automatic的服务将在引导过程中启动 而设置为Delayed的服务将在引导后立即启动 启动服务延迟可以提高服务器的启动性能 并且具有安全性优势 这些优势在Adriano的文章中列出 默认情况下 自动 延迟启动 实际上是
  • 牛客网Verilog快速入门题目收获——异步复位的串联T触发器(VL2)

    一 题目要求 给出信号示意图以及波形示意图 用verilog实现两个串联的异步复位的T触发器的逻辑 二 完成题目前的知识储备 1 书写规范 根据verilog代码书写规范 低电平复位信号用 rst n 高电平复位用rst 这里题目低电平复位
  • 优秀的框架stylefeng——guns/roses

    Guns基于SpringBoot 致力于做更简洁的后台管理系统 完美整合springmvc shiro mybatis plus beetl Guns项目代码简洁 注释丰富 上手容易 同时Guns包含许多基础模块 用户管理 角色管理 部门管
  • 平均年薪超105万元,区块链开发待遇这么高?

    近段时间 没有比 区块链 更火的词了 2019年10 月 24 日时国家就区块链技术发展现状与趋势进行第十八次集体学习 学习时着重强调 区块链技术的集成应用在新的技术革新和产业变革中起到重要作用 这意味着区块链技术将加速与产业的融合 也就是
  • 【形形色色的卷积】差分卷积

    文章目录 0 前言 1 中心差分卷积 2 像素差分卷积 3 参考 0 前言 普通卷积不能显式地提取图像的梯度信息 因此不能较好地描述细粒度的纹理信息 在人脸活体检测 边缘检测等对细粒度纹理信息敏感的任务中难以取得理想的结果 针对上述问题 O
  • 梁乾东:4.10黄金下周涨跌怎么看?黄金原油最新策略解析

    黄金下周行情解析 周五 4月9日 上海黄金交易所收涨0 54 报370 11元 克 白银T D收涨0 71 报5267元 公斤 金价收高 主要由于美债收益率下跌 美元短线走弱 也给金价带来短期支撑 但由于全球经济复苏良好 这始终对金价构成下
  • idea报错一个包找不到另一个包 com.j8.enity.User cannot be cast to com.j8.enity.lx

    要注意自己定义的类是否是正确的 否则就会出现这样的错误
  • 阿里天池-全球数据智能大赛

    里面的数据解析 https tianchi aliyun com forum issueDetail spm 5176 12282029 0 0 1549467d4xr1bT postId 62363 用NotePad 或其他的软件打开se
  • 鸽巢算法

    该算法主要用来对给定数据集进行排序的 可以快速求出第N大的数字 时间为常数时间 缺点 数据的范围不能太大 步骤如下 1 给定一个待排序数组 相当于一群鸽子 创建一个备用数组 叫鸽巢数组 并初始化元素为0 备用数组的索引 鸽巢的编号 即是待排
  • 让人工智能机器人学会自我情绪管理

    人类微观管理的一个影响是显而易见的 它会减慢速度 人类也是如此 一个不得不向上级请求命令的人类士兵的反应会比一个有权采取主动的人反应更慢 这对人工智能来说是一个更大的刹车 机器人教育课件它的电子思维过程比人类的神经化学大脑循环要快得多 一个
  • 超详细的Node.js环境搭建

    在使用Node js前 我们需要先进行Node js安装和配置 1 下载 Node js官网地址 https node js org 从官网上可以看到有两个版本的安装包 14 15 1和15 3 0 15 3 0是当前最新版 14 15 1
  • a-table及相关组件的使用

    a table及相关组件的使用 基础的渲染
  • 第38.1节 osg加载大tif-编译vpb

    目录 本节内容 具体内容 本节内容 本节开始实现使用osg加载超大tif的功能 具体有多大的tif可以支持呢 就是要多大有多大 要不是网友们提这个功能 我基本上已经忘记vpb了 它是osg早期关于使用影像和高程大图来生成瓦片地形的这么一个工
  • DeepSpeed 部署中bug以及解决方法

    text generation 1 can t find Rust compiler 在Linux上安装Rust 您可以使用curl或者类似包管理器的工具来安装Rust 使用curl命令安装Rust和Cargo curl proto htt