Keras 的 OrderedEnqueuer 是否保证了批次的顺序？

我有一个习惯keras.utils.sequence它以特定（且关键）的顺序生成批次。

但是，我需要跨多个核心并行化批量生成。名字是不是'OrderedEnqueuer' 意味着结果队列中批次的顺序保证与原始队列的顺序相同keras.utils.sequence?

我认为这个订单不能得到保证的原因是：

1. OrderedEnqueuer 使用 pythonmultiprocessing's apply_async内部。
2. Keras 的文档明确指出OrderedEnqueuer保证不重复批次 - 但不保证订单。

我这么认为的理由是：

1. 名字！
2. 我明白那个keras.utils.sequence对象是可索引的。
3. 我在 Keras 的 github 上找到了测试脚本，这些脚本似乎是为了验证顺序而设计的 - 尽管我找不到任何有关这些脚本是否通过或是否真正具有决定性的文档。

如果这里的顺序不能保证，我欢迎任何关于如何在保持保证顺序的同时并行化批处理准备的建议，条件是它必须能够并行化任意Python代码 - 我相信例如tf.data.DatasetAPI 不允许这样做（tf.py_function回调到原始 python 进程）。

是的，已经订购了。

通过以下测试亲自检查一下。

首先，我们创建一个虚拟对象Sequence在等待随机时间后仅返回批次索引（随机时间是为了确保批次不会按顺序完成）：

import time, random, datetime
import numpy as np
import tensorflow as tf

class DataLoader(tf.keras.utils.Sequence):
    def __len__(self):
        return 10
    def __getitem__(self, i):
        time.sleep(random.randint(1,2))
        #you could add a print here to see that it's out of order
        return i

现在让我们创建一个测试函数来创建入队并使用它。 该函数获取工作人员的数量并打印所花费的时间以及返回的结果。

def test(workers):
    enq = tf.keras.utils.OrderedEnqueuer(DataLoader())
    enq.start(workers = workers)
    gen = enq.get()

    results = []
    start = datetime.datetime.now()
    for i in range(30):
        results.append(next(gen))
    enq.stop()
    print('test with', workers, 'workers took', datetime.datetime.now() - start)
    print("results:", results)

Results:

test(1)
test(8)

1 名工人的测试耗时 0:00:45.093122
结果：[0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 0, 1, 2, 3 , 4, 5, 6, 7, 8, 9]
8 名工人的测试耗时 0:00:09.127771
结果：[0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 0, 1, 2, 3 , 4, 5, 6, 7, 8, 9]

请注意：

• 8 个工作线程比 1 个工作线程快得多 -> 可以并行化
• 两种情况的结果均已排序