我在 Airflow(在 GCP 上)部署了一个 dag,但收到错误“没有名为 'scipy' 的模块”。
如何在 Airflow 中安装软件包?
我尝试添加一个单独的 DAG 来运行
def pip_install(package):
subprocess.call([sys.executable, "-m", "pip", "install", package])
def update_packages(**kwargs):
logging.info(list(sys.modules.keys()))
for package in PACKAGES:
pip_install(package)
我尝试在 GCP 的 shell 上编写 pip3 install scipy ;
我尝试将 pip install scipy 添加到图像生成器。
这些方法都没有任何结果。
如果您在 GCP 上使用 Cloud Composer,则应检查https://cloud.google.com/composer/docs/how-to/using/installing-python-dependencies https://cloud.google.com/composer/docs/how-to/using/installing-python-dependencies
Pass a requirements.txt
文件到gcloud
命令行工具。将每个需求说明符放在单独的行上格式化文件。
示例requirements.txt文件:
scipy>=0.13.3
scikit-learn
nltk[machine_learning]
通过requirements.txt
文件到gcloud
命令来设置安装依赖项。
gcloud composer environments update ENVIRONMENT-NAME \\
--update-pypi-packages-from-file requirements.txt \\
--location LOCATION
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)