如何在 Airflow 中安装软件包?

2024-04-01

我在 Airflow(在 GCP 上)部署了一个 dag,但收到错误“没有名为 'scipy' 的模块”。 如何在 Airflow 中安装软件包?

我尝试添加一个单独的 DAG 来运行

def pip_install(package):
    subprocess.call([sys.executable, "-m", "pip", "install", package])


def update_packages(**kwargs):
    logging.info(list(sys.modules.keys()))
    for package in PACKAGES:
        pip_install(package)

我尝试在 GCP 的 shell 上编写 pip3 install scipy ;

我尝试将 pip install scipy 添加到图像生成器。

这些方法都没有任何结果。


如果您在 GCP 上使用 Cloud Composer,则应检查https://cloud.google.com/composer/docs/how-to/using/installing-python-dependencies https://cloud.google.com/composer/docs/how-to/using/installing-python-dependencies

Pass a requirements.txt文件到gcloud命令行工具。将每个需求说明符放在单独的行上格式化文件。

示例requirements.txt文件:

scipy>=0.13.3
scikit-learn
nltk[machine_learning]

通过requirements.txt文件到gcloud命令来设置安装依赖项。

gcloud composer environments update ENVIRONMENT-NAME \\
--update-pypi-packages-from-file requirements.txt \\
--location LOCATION
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

如何在 Airflow 中安装软件包? 的相关文章

随机推荐