--ntasks 或 -ntasks 在 SLURM 中起什么作用？

我正在使用SLURM http://slurm.schedmd.com/使用一些计算集群，它有-ntasks or -n。我显然已经阅读了它的文档（http://slurm.schedmd.com/sbatch.html http://slurm.schedmd.com/sbatch.html):

sbatch 不启动任务，它请求分配资源 并提交批处理脚本。此选项建议 Slurm 控制器 在分配内运行的作业步骤将启动最多 数量任务并提供足够的资源。默认为 每个节点一个任务，但请注意 --cpus-per-task 选项将 更改此默认值。

具体部分我不明白它的意思是：

在分配内运行将启动最大数量的任务并 提供足够的资源。

我有几个问题：

1. 我想我的第一个问题是“任务”这个词是什么意思，区别在于 SLURM 上下文中的“工作”这个词。我通常认为工作是在 sbatch 下运行 bash 脚本，如下所示sbatch my_batch_job.sh。不确定任务是什么意思。
2. 如果我将“任务”一词与“工作”等同起来，那么我认为它会根据以下参数多次运行相同的 bash 脚本-n, --ntasks=<number>。但是，我显然在集群中测试了它，运行了echo hello with --ntask=9我预计 sbatch 会向 stdout 回显 hello 9 次（收集于slurm-job_id.out，但令我惊讶的是，我的 echo hello 脚本执行了一次那么这个命令到底做了什么？看起来它什么也没做，或者至少我看不到应该做什么。

我确实知道-a, --array=<indexes>存在多个作业的选项。那是另一个话题了。我只是想知道什么--ntasks应该这样做，最好有一个例子，以便我可以在集群中测试它。

The --ntasks如果您想要在同一批处理脚本中并行运行命令，则参数非常有用。 这可能是两个单独的命令，由&或 bash 管道中使用的两个命令（|).

例如

使用默认 ntasks=1

#!/bin/bash

#SBATCH --ntasks=1

srun sleep 10 & 
srun sleep 12 &
wait

会抛出警告：

作业步骤创建暂时禁用，请重试

默认情况下，任务数指定为一个，因此在第一个任务完成之前，第二个任务无法启动。 这项工作将在大约 22 秒内完成。分解一下：

sacct -j515058 --format=JobID,Start,End,Elapsed,NCPUS

        JobID               Start                 End    Elapsed      NCPUS
------------ ------------------- ------------------- ---------- ----------
515058       2018-12-13T20:51:44 2018-12-13T20:52:06   00:00:22          1
515058.batch 2018-12-13T20:51:44 2018-12-13T20:52:06   00:00:22          1
515058.0     2018-12-13T20:51:44 2018-12-13T20:51:56   00:00:12          1
515058.1     2018-12-13T20:51:56 2018-12-13T20:52:06   00:00:10          1

这里任务 0 开始并完成（12 秒内），然后是任务 1（10 秒内）。使总用户时间达到22秒。

要同时运行这两个命令：

#!/bin/bash

#SBATCH --ntasks=2

srun --ntasks=1 sleep 10 & 
srun --ntasks=1 sleep 12 &
wait

运行与上面指定的相同的 sacct 命令

    sacct -j 515064 --format=JobID,Start,End,Elapsed,NCPUS
    JobID               Start                 End    Elapsed      NCPUS
    ------------ ------------------- ------------------- ---------- ----------
    515064       2018-12-13T21:34:08 2018-12-13T21:34:20   00:00:12          2
    515064.batch 2018-12-13T21:34:08 2018-12-13T21:34:20   00:00:12          2
    515064.0     2018-12-13T21:34:08 2018-12-13T21:34:20   00:00:12          1
    515064.1     2018-12-13T21:34:08 2018-12-13T21:34:18   00:00:10          1

这里整个工作需要 12 秒。不存在作业等待资源的风险，因为批处理脚本中已指定任务数量，因此作业具有同时运行这么多命令的资源。

每个任务都会继承为批处理脚本指定的参数。这就是为什么--ntasks=1需要为每个srun任务指定，否则每个任务都使用--ntasks=2因此，在第一个任务完成之前，第二个命令不会运行。

继承批处理参数的任务的另一个警告是如果--export=NONE被指定为批处理参数。在这种情况下--export=ALL应为每个 srun 命令指定，否则 sbatch 脚本中设置的环境变量不会被 srun 命令继承。

补充笔记：
使用 bash 管道时，可能需要指定 --nodes=1 以防止管道两侧的命令在单独的节点上运行。
使用时&要同时运行命令，wait至关重要。在这种情况下，如果没有wait命令，任务 0 将自行取消，前提是任务 1 成功完成。