Node.js 将大型 Xml 文件的 Xml 转换为 JSON 的示例

2024-04-02

我对 Node.js 比较陌生。我正在尝试将 83 个 XML 文件(每个文件大小约为 400MB)转换为 JSON。

每个文件都包含这样的数据(除了每个元素都有大量附加语句):

<case-file>
  <serial-number>75563140</serial-number>
  <registration-number>0000000</registration-number>
  <transaction-date>20130101</transaction-date>
  <case-file-header>
     <filing-date>19981002</filing-date>
     <status-code>686</status-code>
     <status-date>20130101</status-date>
  </case-file-header>
  <case-file-statements>
     <case-file-statement>
        <type-code>D10000</type-code>
        <text>"MUSIC"</text>
     </case-file-statement>
     <case-file-statement>
        <type-code>GS0351</type-code>
        <text>compact discs</text>
     </case-file-statement>
  </case-file-statements>
  <case-file-event-statements>
     <case-file-event-statement>
        <code>PUBO</code>
        <type>A</type>
        <description-text>PUBLISHED FOR OPPOSITION</description-text>
        <date>20130101</date>
        <number>28</number>
     </case-file-event-statement>
     <case-file-event-statement>
        <code>NPUB</code>
        <type>O</type>
        <description-text>NOTICE OF PUBLICATION</description-text>
        <date>20121212</date>
        <number>27</number>
     </case-file-event-statement>
   </case-file-event-statements>

我尝试了很多不同的 Node 模块,包括 sax、node-xml、node-expat 和 xml2json。显然,我需要从文件中传输数据并通过 XML 解析器进行管道传输,然后将其转换为 JSON。

我还尝试阅读一些博客等,尝试解释(尽管很肤浅)如何解析 Xml。

在 Node 宇宙中,我首先尝试了 sax,但我不知道如何以可以将其转换为 JSON 的格式提取数据。 xml2json 不适用于流。 node-xml 看起来令人鼓舞,但我无法弄清楚它如何以任何有意义的方式解析块。 node-expat 指向 libexpat 文档,该文档似乎需要博士学位。 Node elementree 也做了同样的事情,指向 Python 实现,但没有解释已实现的内容或如何使用它。

有人可以指出我可以用来开始的例子吗?


虽然这个问题很老了,但我正在分享我的问题和解决方案,这可能对所有尝试转换的人有所帮助XML to JSON.

这里的实际问题不是转换,而是处理巨大的 XML 文件而不需要立即将它们保存在内存中。

使用几乎所有广泛使用的软件包时,我遇到了以下问题 -

  • 很多包支持XML to JSON转换覆盖所有场景,但它们不适用于大文件。

  • 很少的包(比如xml-flow https://www.npmjs.com/package/xml-flow, xml流 https://www.npmjs.com/package/xml-stream)支持大型 XML 文件转换,但转换过程会遗漏一些极端情况,在这些情况下,转换要么失败,要么给出不可预测的 JSON 结构(在这个SO问题中解释了 https://stackoverflow.com/questions/52129764/xml-flow-npm-package-unexpected-xml-parsing-behaviour).

理想的解决方案是结合这两种方法的优点,这正是我所做和想出的xtreamer 节点包 https://www.npmjs.com/package/xtreamer.

简单来说,xtreamer接受重复节点就像xml-flow / xml-stream但发出重复的 xml 节点而不是转换后的 JSON。这提供了以下优点 -

  • 我们可以用管道xtreamer与任何可读流一起扩展transform stream.
  • 发出的 XML 节点可以传输到任何 XML 到 JSON 解析器以获得所需的 JSON。
  • 我们可以更进一步,将 JSON 解析器与xtreamer& 它将调用 JSON 解析器并相应地发出 JSON。
  • xtreamer has stream作为其唯一的依赖项并且是转换流扩展,它可以灵活地与其他流进行管道传输。

如果 XML 结构不固定怎么办?

我想出了另一个sax基于节点包xtagger https://www.npmjs.com/package/xtagger它读取 XML 文件并提供以下格式的文件结构 -

structure: { [name: string]: { [hierarchy: number]: number } };

该包允许找出重复的节点名称,然后将其传递给xtreamer用于解析。

我希望这有帮助。 :)

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Node.js 将大型 Xml 文件的 Xml 转换为 JSON 的示例 的相关文章

随机推荐