合并多个排序列表基本上有三种不同的方法:
- 连续双向合并
- 分而治之
- 基于优先级队列
在下面的讨论中,n
指所有列表中组合的项目总数。k
指列表的数量。
情况 1 是最容易设想的,但也是效率最低的。假设您有四个列表:A、B、C 和 D。使用此方法,您可以合并 A 和 B 以创建 AB。然后合并 AB 和 C 以创建 ABC。最后,将 ABC 与 D 合并以创建 ABCD。该算法的复杂度接近O(n*k)。您迭代 A 和 B 3 次,C 2 次,D 1 次。
分而治之的解决方案是将 A 和 B 合并以创建 AB。然后合并C和D以创建CD。然后合并AB和CD以创建ABCD。在最好的情况下,当列表具有相似数量的项目时,此方法的时间复杂度为 O(n * log(k))。但如果列表的长度变化很大,该算法的运行时间可能会接近 O(n*k)。
有关这两种算法的更多信息,请参阅我的博客文章,仔细观察成对合并 http://blog.mischel.com/2014/11/20/a-closer-look-at-pairwise-merging/。有关分而治之方法的更多详细信息,请参阅合并多个列表的不同方式 http://blog.mischel.com/2014/11/17/a-different-way-to-merge-multiple-lists/.
基于优先级队列的合并工作原理如下:
Create a priority queue to hold the iterator for each list
while the priority queue is not empty
Remove the iterator that references the smallest current number
Output the referenced value
If not at end of iterator
Add the iterator back to the queue
该算法被证明是 O(n * log(k))在最坏的情况下。您可以看到每个列表中的每个项目都恰好被添加到优先级队列一次,并从优先级队列中删除一次。但队列只包含k
随时物品。所以内存需求非常小。
Java 中迭代器的实现使得优先级队列的实现稍微不方便,但是可以通过一些帮助器类轻松修复。最重要的是,我们需要一个迭代器,让我们可以查看下一个项目而不消耗它。我称其为PeekableIterator
,看起来像这样:
// PeekableIterator is an iterator that lets us peek at the next item
// without consuming it.
public class PeekableIterator<E> implements Iterator<E> {
private final Iterator<E> iterator;
private E current;
private boolean hasCurrent;
public PeekableIterator(Iterator<E> iterator) {
this.iterator = iterator;
if (iterator.hasNext()) {
current = iterator.next();
hasCurrent = true;
}
else {
hasCurrent = false;
}
}
public E getCurrent() {
// TODO: Check for current item
return current;
}
public boolean hasNext() {
return hasCurrent;
}
public E next() {
// TODO: Error check to see if there is a current
E rslt = current;
if (iterator.hasNext()) {
current = iterator.next();
}
else {
hasCurrent = false;
}
return rslt;
}
public void remove() {
iterator.remove();
}
然后,由于优先级队列将保存迭代器而不是单个项目,因此我们需要一个比较器来比较两个项目的当前项目PeekableIterator
接口。这很容易创建:
// IteratorComparator lets us compare the next items for two PeekableIterator instances.
public class IteratorComparator<E> implements Comparator<PeekableIterator<E>> {
private final Comparator<E> comparator;
public IteratorComparator(Comparator<E> comparator) {
this.comparator = comparator;
}
public int compare(PeekableIterator<E> t1, PeekableIterator<E> t2) {
int rslt = comparator.compare(t1.getCurrent(), t2.getCurrent());
return rslt;
}
}
这两个类是您为获取和比较各个迭代器的下一项而编写的代码的更正式实现。
最后,MergeIterator
初始化一个PriorityQueue<PeekableIterator>
这样你就可以调用hasNext
and next
迭代合并列表的方法:
// MergeIterator merges items from multiple sorted iterators
// to produce a single sorted sequence.
public class MergeIterator<E> implements Iterator<E> {
private final IteratorComparator<E> comparator;
private final PriorityQueue<PeekableIterator<E>> pqueue;
// call with an array or list of sequences to merge
public MergeIterator(List<Iterator<E>> iterators, Comparator<E> comparator) {
this.comparator = new IteratorComparator<E>(comparator);
// initial capacity set to 11 because that's the default,
// and there's no constructor that lets me supply a comparator without the capacity.
pqueue = new PriorityQueue<PeekableIterator<E>>(11, this.comparator);
// add iterators to the priority queue
for (Iterator<E> iterator : iterators) {
// but only if the iterator actually has items
if (iterator.hasNext())
{
pqueue.offer(new PeekableIterator(iterator));
}
}
}
public boolean hasNext() {
return pqueue.size() > 0;
}
public E next() {
PeekableIterator<E> iterator = pqueue.poll();
E rslt = iterator.next();
if (iterator.hasNext()) {
pqueue.offer(iterator);
}
return rslt;
}
public void remove() {
// TODO: Throw UnsupportedOperationException
}
}
我创建了一个小测试程序来演示它是如何工作的:
private void DoIt() {
String[] a1 = new String[] {"apple", "cherry", "grape", "peach", "strawberry"};
String[] a2 = new String[] {"banana", "fig", "orange"};
String[] a3 = new String[] {"cherry", "kumquat", "pear", "pineapple"};
// create an ArrayList of iterators that we can pass to the
// MergeIterator constructor.
ArrayList<Iterator<String>> iterators = new ArrayList<Iterator<String>> (
Arrays.asList(
Arrays.asList(a1).iterator(),
Arrays.asList(a2).iterator(),
Arrays.asList(a3).iterator())
);
// String.CASE_INSENSITIVE_ORDER is a Java 8 way to get
// a String comparator. If there's a better way to do this,
// I don't know what it is.
MergeIterator<String> merger = new MergeIterator(iterators, String.CASE_INSENSITIVE_ORDER);
while (merger.hasNext())
{
String s = merger.next();
System.out.println(s);
}
}
我对分治法和优先级队列合并的性能比较表明,分治法can be比使用优先级队列更快,具体取决于比较的成本。当比较成本较低时(例如,原始类型),成对合并速度更快,尽管它做了更多工作。随着键比较变得更加昂贵(例如比较字符串),优先级队列合并具有优势,因为它执行的比较更少。
更重要的是,成对合并需要的内存是优先级队列方法的两倍。我的实现使用了 FIFO 队列,但即使我构建了一棵树,成对合并也将需要更多内存。另外,正如您的代码所示,您仍然需要PeekableIterator
and IteratorComparator
类(或类似的东西)如果你想实现成对合并。
See 测试合并性能 http://blog.mischel.com/2014/12/21/testing-merge-performance/有关这两种方法的相对性能的更多详细信息。
由于我上面详述的原因,我得出的结论是优先级队列合并是最好的方法。