如果您不介意要绑定哪个变压器和加速版本,请执行以下操作以使用 Google Colab 中的最新版本:
! pip install -U accelerate
! pip install -U transformers
然后您遇到的加速问题应该会自动解决。
Note:
-
指定不足pip install -U transformers
代替pip install transformers[pytorch]
可能会更容易,因为这是大多数用户所做的,并且库的开发人员将确保基本 pip 与常见函数和类一起使用,例如TrainingArguments
-
而不是指定加速到pip install accelerate>=0.20.1
,如果您没有特别需要修复版本,自动升级到最新版本可能会让您在使用该库时更加稳定,尤其是。具有(几乎)每天都在不断变化的“热门”/“趋势”库。
如果需要进一步调试,即如果上述方法不起作用。要检查您的变压器和加速版本,请执行以下操作:
import accelerate
accelerate.__version__
最有可能的是你可能有一个ImportError
如果安装时尚未安装加速,则在第一行transformers
.
然后如果第一行有效并且第二行没有输出版本>=0.20.1
,那么这就是你的问题的原因。
迄今为止(2023 年 7 月)的当前版本是:
import accelerate
import transformers
transformers.__version__, accelerate.__version__
[out]:
('4.30.1', '0.21.0')
这是一个示例笔记本,其中包含您希望根据问题中的评论使用的模型,https://colab.research.google.com/drive/1D79AjHMeE6HAZC-g2S83baTgsHtDUu5i?usp=sharing https://colab.research.google.com/drive/1D79AjHMeE6HAZC-g2S83baTgsHtDUu5i?usp=sharing
如果此后错误仍然存在pip install ...
,尝试重新启动运行时。
如果您找不到重新启动的按钮,请在单元格中尝试此操作在 Google Colab 中重新启动内核 https://stackoverflow.com/questions/55005114/restart-kernel-in-google-colab然后重新运行单元格import ...
import os
os._exit(00)