使用 C# XmlSerializer 为大量对象分块写入以避免内存不足

2023-11-30

我喜欢 XmlSerialize 的工作方式,如此简单、优雅,并且具有属性 =p 但是,在序列化到 xml 文件之前构建所有对象的集合时,我遇到了内存不足问题。

我正在从 SQL 数据库填充一个对象,并打算使用 XmlSerialize 将对象写入 XML。它对于小子集非常有用,但如果我尝试从数据库中获取所有对象,则会出现内存不足异常。

XmlSerialize 是否有某种功能可以让我从数据库中批量抓取 100 个对象,然后写入它们,抓取下一批 100 个对象并附加到 xml?

我希望我不必陷入 XmlDocument 或需要更多手动编码工作的东西......


XmlSerializer事实上,可以在序列化时将可枚举的数据传入和传出。它对实现的类有特殊处理IEnumerable<T>。来自docs:

XmlSerializer 对实现 IEnumerable 或 ICollection 的类给予特殊处理。实现 IEnumerable 的类必须实现采用单个参数的公共 Add 方法。 Add 方法的参数必须与从 GetEnumerator 返回的值的 Current 属性返回的类型相同,或者该类型的基数之一。

当序列化此类时,XmlSerializer只需迭代将每个当前值写入输出流即可枚举。它does not首先将整个可枚举加载到列表中。因此,如果您有一些在类型结果中动态分页的 Linq 查询T从数据库中分块(例如here),您可以使用以下包装器将它们全部序列化,而无需一次加载它们:

// Proxy class for any enumerable with the requisite `Add` methods.
public class EnumerableProxy<T> : IEnumerable<T>
{
    [XmlIgnore]
    public IEnumerable<T> BaseEnumerable { get; set; }

    public void Add(T obj)
    {
        throw new NotImplementedException();
    }

    #region IEnumerable<T> Members

    public IEnumerator<T> GetEnumerator()
    {
        if (BaseEnumerable == null)
            return Enumerable.Empty<T>().GetEnumerator();
        return BaseEnumerable.GetEnumerator();
    }

    #endregion

    #region IEnumerable Members

    System.Collections.IEnumerator System.Collections.IEnumerable.GetEnumerator()
    {
        return GetEnumerator();
    }

    #endregion
}

请注意,此类仅适用于序列化,不适用于反序列化。以下是如何使用它的示例:

public class RootObject<T>
{
    [XmlIgnore]
    public IEnumerable<T> Results { get; set; }

    [XmlArray("Results")]
    public EnumerableProxy<T> ResultsProxy { 
        get
        {
            return new EnumerableProxy<T> { BaseEnumerable = Results };
        }
        set
        {
            throw new NotImplementedException();
        }
    }
}

public class TestClass
{
    XmlWriter xmlWriter;
    TextWriter textWriter;

    public void Test()
    {
        try
        {
            var root = new RootObject<int>();
            root.Results = GetResults();

            using (textWriter = new StringWriter())
            {
                var settings = new XmlWriterSettings { Indent = true, IndentChars = "  " };
                using (xmlWriter = XmlWriter.Create(textWriter, settings))
                {
                    (new XmlSerializer(root.GetType())).Serialize(xmlWriter, root);
                }
                var xml = textWriter.ToString();
                Debug.WriteLine(xml);
            }
        }
        finally
        {
            xmlWriter = null;
            textWriter = null;
        }
    }

    IEnumerable<int> GetResults()
    {
        foreach (var i in Enumerable.Range(0, 1000))
        {
            if (i > 0 && (i % 500) == 0)
            {
                HalfwayPoint();
            }
            yield return i;
        }
    }

    private void HalfwayPoint()
    {
        if (xmlWriter != null)
        {
            xmlWriter.Flush();
            var xml = textWriter.ToString();
            Debug.WriteLine(xml);
        }
    }
}

如果你设置了中断HalfwayPoint(),您将看到一半的 XML 已被写出,同时仍在迭代可枚举对象。 (当然,我只是为了测试目的而写入字符串,而您可能会写入文件。)

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

使用 C# XmlSerializer 为大量对象分块写入以避免内存不足 的相关文章

  • C++ 标准是否允许未初始化的 bool 导致程序崩溃?

    我知道一个 未定义的行为 C 几乎可以让编译器做任何它想做的事情 然而 我遇到了一次令我惊讶的崩溃 因为我认为代码足够安全 在这种情况下 真正的问题仅发生在使用特定编译器的特定平台上 并且仅在启用优化的情况下发生 我尝试了几种方法来重现问题
  • TCP客户端;网络流;异步读取; C#

    请原谅我对任务和异步缺乏了解 使用 TcpClient 类 我正在创建与可用服务器的连接 void async RunClientAsync TcpClient client new TcpClient try await client C
  • stl 集的 C# 等效项是什么?

    我想使用 C 将一些值存储在平衡二叉搜索树中 我查看了泛型命名空间中的集合 但没有找到与 stl 集合等效的集合 我可以使用什么通用集合 我不想存储键 值对 只是值 你可以使用HashSet http msdn microsoft com
  • 运行 C# exe 文件

    复制 为什么我的 NET 应用程序在从网络驱动器运行时会崩溃 https stackoverflow com questions 148879 why does my net application crash when run from
  • 如何在C中将2个4位无符号数组合成1个8位数

    我有 2 个 4 位数字 X0X1X2X3 和 Y0Y1Y2Y3 我想将它们组合起来 这样我就可以创建一个像这样的 8 位数字 X0X1X2X3 Y0Y1Y2Y3 gt X0Y0X1Y1X2Y2X3Y3 我知道如何连接它们以创建X0X1X1
  • .NET Core 2 - 从启动中调用存储库方法[重复]

    这个问题在这里已经有答案了 我有以下存储库和类 public interface IValueService GetAll public class ValueService IValueService private DataContex
  • 如何使用 DesignData 帮助开发 Metro 应用程序?

    我一直在 Windows Phone 应用程序中愉快地使用 DesignData 我希望使用它来帮助在 VS2012 Blend for VS 中的 Metro 风格应用程序中可视化设计 我已经尝试过希望显而易见的方法
  • 用于 RSS feed 解析的 Objective-C 库?

    我正在为 iOS 应用程序寻找一个 Objective C 库 该库将解析并显示 RSS 提要中的文章 具体来说 我正在寻找为新闻网站制作一个应用程序 如果可能的话 该框架应该能够使用各种 RSS XML 结构 嗯 有两个不同的新闻网站 一
  • const_iterators 更快吗?

    我们的编码指南更喜欢const iterator 因为它们比正常的要快一点iterator 当您使用时 编译器似乎会优化代码const iterator 这真的正确吗 如果是的话 内部到底发生了什么使得const iterator快点 编辑
  • 有没有办法关闭 Hangfire 使用 Serilog 进行的日志记录?

    有没有办法关闭 Hangfire 使用 Serilog 进行的日志记录 我们正在使用我们自己的抽象 我不希望在使用 Serilog 时来自 Hangfire 记录器的所有额外噪音 INIT call under web project na
  • 泛型类上的 DebuggerDisplay

    我在应用时遇到问题DebuggerDisplay泛型类的属性 DebuggerDisplay foo class Foo DebuggerDisplay Bar t class Bar
  • 使用 INF 文件 C++ 以编程方式安装驱动程序

    这里有人可以告诉我如何安装第 3 方设备驱动程序吗 如果提供了所有必需的文件 即 inf 文件 sys 等 则以编程方式进行 这 该解决方案应运行的最低操作系统是Windows2000 我尝试复制 inf文件放入Win文件夹 INF文件夹和
  • C++ fill() 与 uninitialized_fill()

    您好 我是初学者 我想知道容器的 fill 和 uninitialized fill 之间的区别 我在谷歌上进行了快速搜索 但没有得到很好的答案 有人可以帮助我吗 fill 将值 使用赋值运算符 分配给已构造的对象 uninitialize
  • C++头文件问题

    我在处理类时尝试了一些 C 代码 这个问题出现在我身上 并且让我有点烦恼 我创建了一个包含类定义的头文件和一个包含实现的 cpp 文件 如果我在不同的 cpp 文件中使用此类 为什么要包含头文件而不是包含类实现的 cpp 文件 如果我包含类
  • C++20 views::join 在生成的嵌套范围::single_view 上进入无限循环

    我正在使用 GCC 实现 v10 2 和 v11 来处理 C 20 范围 测试的行为std views join https en cppreference com w cpp ranges join view 我尝试使用生成嵌套视图sin
  • 如何在 C# 中停止程序进一步执行

    string FirstName Console ReadLine if FirstName Length gt 12 Console WriteLine if FirstName Length lt 3 Console WriteLine
  • C# 的 xml 序列化中是否有一个属性可以跳过空数组?

    C 的 xml 序列化中是否有一个属性可以跳过空数组 这将提高 xml 输出的可读性 好吧 你也许可以添加一个ShouldSerializeFoo method using System using System ComponentMode
  • 在运行时将项目添加到 ToolStrip

    您好 我有一个带有 收藏夹 菜单的 ToolStripMenu 我想在运行时在 WinForms 应用程序中添加子项目 我有一个 datagridview 右键单击它会显示一个包含 添加到收藏夹 选项的上下文菜单 当该事件被触发时 我想使用
  • 使用 /clr 或 clr:pure(cpprestsdk 又名 casablanca)编译时不支持互斥

    我创建一个CLR project in visual c with 64 bit配置 并尝试使用cpprestsdk aka casablanca 64bit 但是当我运行项目时 出现了错误 1 gt Build started Proje
  • 我应该为每个 Web 请求使用静态缓存的 ResourceManager 还是一个新实例?有关系吗?

    创建新的 NET 对性能 或其他 有何影响 如果有 ResourceManager根据每个请求new ResourceManger myResourceType FullName myResourceType Assembly 与在 Des

随机推荐

  • android渲染使用CPU而不是GPU?

    很奇怪的是 在 systrace 工具中 当我看到 SurfaceFlinger 执行绘图命令和窗口合成时 它是在 CPU 上运行的 而不是在 GPU 上运行的 但根据 Romain Guy 的 google 演讲 他们表示绘图命令的组合和
  • PHP 致命错误:使用 laravel4 找不到类“PDO”

    一小时后尝试解决这个问题我失败了 我的错误消息是 Generating autoload files PHP Fatal error Class PDO not found in usr share nginx html laravel a
  • C 函数局部变量的作用域

    当我开始用 C 语言编程时 我就听说过以下场景 尝试从外部访问函数局部变量将导致错误 或垃圾值 由于当我们从函数返回时堆栈被清除 但我的下面的代码示例打印的值为 50 我正在使用最新的 GCC 编译器编译代码 include
  • 如何根据下面的示例从 SQL Server 检索数据?

    实际上我在这里发布了与此相关的类似问题如何按照下面的要求从 SQL Server 检索数据 现在我需要对此进行一些更改 因此请在提出建议之前查看此内容 我有一张这样的桌子 CustName Country RecordedTime Alex
  • 使用 Scala 符号文字会导致 NoSuchMethod

    我最近开始使用 Scala 我在其中编写了一个 DSL 可用于描述中的处理管道medici 在我的 DSL 中 我使用符号来表示锚点 它可用于在管道中放置叉子 或 T 恤 如果您愿意 这是一个正确运行的小示例程序 object Test e
  • Rails 4 表单:基于单选按钮选择条件显示字段

    首先 如果这个问题很愚蠢 请原谅我 我刚刚开始了解 Rails Javascript 和 jQuery 对我来说是一个全新的世界 我发现了以下类似的问题 但根本不明白它们如何适用于我的情况 如果选中复选框则显示 隐藏 div 根据所选的单选
  • 合并 d3 中的转换

    如何在不中断第一个转换的情况下将第二个转换添加到 D3 中正在进行的转换 我创建了一个jsbin来说明问题 在示例中 一个按钮触发一个转换以增加矩形的宽度 另一个按钮触发一个转换以将其填充变为红色 function changeFill d
  • getenv() 如何是线程安全的?

    我想使用getenv 功能 现在我收到某人的评论 如果多个线程调用这个函数 这将不是线程安全的 但是如果我看看信息页对于这个函数 它指出 只要环境保持不变 并发调用该函数是安全的 我理解静态数据块的概念 并且该函数返回指向它的指针 据我了解
  • 在sqlite3中用REGEXP替换字符串的一部分

    我安装了 REGEX 支持 apt get install sqlite3 sqlite3 pcre 现在我可以在 bash 控制台上的查询中使用 REGEX 例如 DB somedb db REGEX EXTENSION SELECT l
  • 为什么这段文本没有出现在 JSF 中?

    我有以下 HTML 文件 Hello
  • Inno Setup Windows DLL 函数调用,带有指向结构的指针

    我正在尝试使用 Inno Setup 的 Pascal 脚本语言来设置服务的失败操作 我收到经典 地址访问冲突 错误 似乎这是不可能的 因为该语言不支持指针 有任何想法吗 这是代码片段 type TScAction record aType
  • 执行存储为字符串的 JavaScript 代码

    如何执行一些字符串形式的 JavaScript function ExecuteJavascriptString var s alert hello how do I get a browser to alert hello 随着eval函
  • Android Instant App 未正确安装(行为与普通应用程序相同)

    我正在尝试使用以下步骤向移动设备启动即时应用程序 在 Android Studio 中生成 Instant App 的签名 apk 这将生成一个包含 Base apk 文件和 feature apk 文件的 zip 文件 解压生成的文件 使
  • 如何在使用 symfony2(和 fosUserBundle)登录时动态添加用户角色?

    在我的应用程序中 用户可以随着时间的推移在免费用户和高级用户之间切换 当他们的订阅到期时 他们不再拥有高级权限 我想我可以走捷径 不将高级用户角色存储在数据库中 只存储他们付款的日期 从而消除了添加或删除用户的高级角色的 cron 作业的需
  • 是否可以在 Fortran 2003 的类型中实现“抽象”变量?

    我想写一个抽象类型 type abstract Vehicle real dimension allocatable Wheels contains procedure Compute Weight deferred VehicleWeig
  • 如何让 ServiceStack 序列化/反序列化具有正确类型的 Expando 对象

    只是想弄清楚 servicestack text 支持将 Expando 对象序列化到 json 或从 json 序列化的情况如何 我知道 Expando 对象实现了 IDictionary 当我序列化到 json 或从 json 序列化时
  • Rails:表单确认消息以及提交表单中的数据

    尝试为 Rails 表单制作自定义 confirm 消息 该消息从提交的表单返回数据 而不仅仅是静态字符串 这个想法是 如果用户在柱数文本字段中输入数字 3 确认消息将显示如下 您真的确定要使用 3 个柱吗 有什么想法如何做到这一点 尝试这
  • 防止AlertView自动旋转

    我的应用程序的启动页面设置为portrait仅用这一点代码 NSUInteger supportedInterfaceOrientations return UIInterfaceOrientationMaskPortrait 当应用程序启
  • 对于 CV_CAP_PROP_FRAME_COUNT,cvGetCaptureProperty 始终返回 0!

    这是 O Reilly Learning Opencv 的代码片段 cvNamedWindow Example3 CV WINDOW AUTOSIZE g capture cvCreateFileCapture argv 1 int fra
  • 使用 C# XmlSerializer 为大量对象分块写入以避免内存不足

    我喜欢 XmlSerialize 的工作方式 如此简单 优雅 并且具有属性 p 但是 在序列化到 xml 文件之前构建所有对象的集合时 我遇到了内存不足问题 我正在从 SQL 数据库填充一个对象 并打算使用 XmlSerialize 将对象