SQL Server 到 MySQL 数据传输

2024-03-07

我正在尝试将批量数据从 SQL Server 数据库恒定且连续地传输到 MYSQL 数据库。我想使用 SQL Server 的 SSMS 复制,但这显然仅适用于 SQL Server 到 Oracle 或 IBM DB2 的连接。目前,我们正在使用 SSIS 来转换数据并将其推送到 MYSQL 数据库中的临时位置并进行复制。我想要最快的数据传输方法,并且使多种方法变得复杂。

我计划采用一种新方法来转换数据,我确信这将解决大多数时间问题,但我想确保我们将来不会遇到时间问题。我已经设置了一个链接服务器,它使用 MYSQL ODBC 驱动程序在 SQL Server 和 MYSQL 之间进行通信。这看起来很慢。我有一些代码也使用 Microsoft 的 ODBC 驱动程序,但使用得很少,以至于我无法衡量性能。有谁知道这两个数据库之间的快速通信方式?我一直在研究 MYSQL 的数据提供程序,它们似乎与 OleDB 层进行通信。我不太确定该相信什么以及该走哪条路,有什么想法吗?


过去,我使用 Java 中的 jdbc-odbc 桥来完成此操作,但通过 ODBC 的性能并不好。我建议看看类似的东西http://jtds.sourceforge.net/ http://jtds.sourceforge.net/这是一个纯 Java 驱动程序,您可以将其放入简单的 Groovy 脚本中,如下所示:

import groovy.sql.Sql
sql = Sql.newInstance( 'jdbc:jtds:sqlserver://serverName/dbName-CLASS;domain=domainName',     
'username', 'password', 'net.sourceforge.jtds.jdbc.Driver' )
sql.eachRow( 'select * from tableName' ) { 
  println "$it.id -- ${it.firstName} --" 
  // probably write to mysql connection here or write to file, compress, transfer, load
}

以下性能数据可让您了解其性能:http://jtds.sourceforge.net/benchTest.html http://jtds.sourceforge.net/benchTest.html

您可能会发现将数据转储为 mysql 转储文件格式并使用 mysql loaddata 而不是逐行写入具有一些性能优势。如果您加载 infile 并执行诸如原子表交换之类的操作,MySQL 对于大型数据集会有一些显着的性能改进。

我们使用类似的方法将大型数据文件从一个系统快速加载到 mysql 到另一个系统,例如这是将数据加载到 mysql 的最快机制。但实时逐行可能是在 groovy + 一些表中执行的一个简单循环,以跟踪已移动的行。

mysql> select * from table into outfile 'tablename.dat';  

shell> myisamchk --keys-used=0 -rq '/data/mysql/schema_name/tablename'

mysql> load data infile 'tablename.dat' into table tablename;

shell> myisamchk -rq /data/mysql/schema_name/tablename

mysql> flush tables;
mysql> exit;

shell> rm tablename.dat
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

SQL Server 到 MySQL 数据传输 的相关文章

随机推荐

  • ANT 有没有一种方法可以从 JAR 中提取一个类文件并将其放入另一个 JAR 中?

    我的 ANT 构建脚本使用名为 createEJBStubs 的 WebSphere 命令 该命令生成一个 JAR 文件 其中包含所有内容以及一个新生成的类 即 com myapp services User Service Stub cl
  • 批处理脚本 - 对目录中的每个文件运行命令

    我需要将一些 xls 文件转换为 xlsx 文件 我可以通过在 cmd 提示符 Windows 中运行以下命令成功地将一个 xls 文件转换为 xlsx ssconvert inputFileName xls outputFileName
  • 由于新的 couchbase 安装,将数据恢复到 couchbase

    我们有一个 couchbase 服务器 不知何故进行了全新安装 并且我们在那里的所有数据都丢失了 我已经设法备份了 opt couchbase var lib couchbase data 现在 当我尝试将数据复制回来时 它没有显示 cou
  • 自动选择毒理学部分中的平台(或其他)条件

    我想专门运行某个有毒部分 然后在特定平台上自动决定 如果我刚刚运行 下面的示例代码片段可以正常工作tox e ALL 然后平台条件可以很好地找出正确的平台 然而 我想only地址并运行特定部分 例如类似的内容tox e other not
  • 如何使用 C# 裁剪图像

    我有一张用相机拍摄的文档照片 现在我要做的就是从该图像中仅裁剪文档 请任何人建议我如何最好地做到这一点 或者首先是否可能 Edit 欲了解更多信息 我的下一个问题如何获取图像的边缘坐标 https stackoverflow com que
  • Bittorrent 协议如何处理数据块?

    BitTorrent 协议中如何处理数据块 当客户想要下载时 例如Linux 发行版中 跟踪器是否返回对等点列表 然后客户端连接到该列表并向每个对等点请求块 或者跟踪器是否返回对等点列表以及哪个对等点具有哪些数据的信息 数据块在哪里管理或处
  • 多维动态数组中什么需要最终确定?

    我经常使用动态数组 并且对 SetLength 和 Finalize 过程没有任何问题 我最近有理由使用动态数组 其中每个数组元素本身可以包含可变数量的元素 声明是这样的 TScheduleArray array of array of a
  • 使用 Sharepoint Word Automation 进行文本替换

    我正在使用 sharepoint 2010 我想做的是采用一个 word 文档模板 对几个关键字进行替换 例如 替换 ClientID 与客户端的 ID 并以特定名称将其保存在共享点上的库中 我已经弄清楚如何使用 word interop
  • ASP.NET登录页面问题

    Q The login page是任何网站的起点 也是验证用户身份的最重要的事情 当我开始构建任何网络应用程序时 我花了很多时间思考如何设计一个具有灵活界面且安全的登录页面 我的问题是 Is当我开始构建这个特殊页面时 有任何常见的建议 提示
  • TeamCity 中的“dotnet 恢复”与“nuget 恢复”

    我有一个 ASP NET Core 项目 可以使用 Visual Studio 正确构建 但不能在 MSBuild 下构建 它没有找到所有公共库 系统等 我正在使用 TeamCity 构建过程的一部分是nuget restore 我尝试执行
  • JSF:为支持 bean 中的属性创建别名

    我指的是 EL 中相当深的对象层次结构和相当神秘的名称 如下所示 myBean configBaseStack excludeMethodFromAccounting method TimeoutBehaviorEnabled 我想通过别名
  • 如何在 SharedPreferences 中存储 ArrayList> ?

    我希望在 SharedPreferences 中存储一个包含 Hashmap 的 ArrayList 我怎样才能做到这一点 您可以将集合转换为 json 并将其存储在共享首选项中 每当您需要获取数据时 只需获取字符串并将 JSON 转换回您
  • 哈希表。命名历史。为什么不用哈希表呢?

    we know ArrayList LinkedList TreeMap 以及其他 以及所有名称均采用 CamelCase 格式 但为什么Hashtable not HashTable 这是一个无原则的问题 只是想知道 Hashtable是
  • 当前枚举命名空间中的全局变量的首选方法是什么?

    我曾经为此查看 G 的源代码 但最近 Intersystems 已停止分发 INT 代码 我想理论上我可以在循环中使用 eXecute 语句来检查每个合法全局名称上的 D 但这是愚蠢且不合理的慢 那么目前正确的做法是什么 您始终可以在中使用
  • 如何从 Visual Studio 文件搜索中排除 Designer.cs

    在 Visual Studio 2005 8 中进行搜索时 是否有办法排除特定类型的 cs 文件 Example 在重构场景中 我可能会搜索以识别代码中的字符串文字 以便我可以将它们重构为常量或类似内容 但是 designer cs 文件充
  • 我可以将 WidgetKit 扩展添加到目标 iOS < 14 的应用程序中吗?

    我想向我的 iOS 应用程序添加一个 WidgetKit 小部件 应用程序本身应保持 14 的设备上可用 但应用程序也应在所有其他设备上运行 这可能吗 是的 您可以 因为我在 iOS13 Xcode 项目上开发小部件 您可以在运行 iOS1
  • Pandas - 如何将样式数据框保存到图像

    我已经设计了数据帧输出的样式 并让它在 Jupyter Notebook 中显示我想要的方式 但我遇到问题 找不到一种将其保存为图像的好方法 我努力了https pypi org project dataframe image https
  • 如何对子目录内的服务进行 GRPC 调用? (在.Net框架中)

    我正在尝试连接到 NetFramework 4 5 Windows 应用程序中的 gRPC 服务 我目前正在使用元包 nuget Grpc 我知道它现在仅处于维护模式 我需要访问不在主机 端口位置但有子路径 子目录的服务 我的服务位于这里
  • 如何知道设备是左横向还是右横向?

    我的应用程序有一个浮动搜索视图 https github com arimorty floatingsearchview占据屏幕的全宽 当方向为横向时 它会位于导航栏后面 因此我想为其添加一些边距 问题是 当我旋转左横向 右侧导航栏 时 浮
  • SQL Server 到 MySQL 数据传输

    我正在尝试将批量数据从 SQL Server 数据库恒定且连续地传输到 MYSQL 数据库 我想使用 SQL Server 的 SSMS 复制 但这显然仅适用于 SQL Server 到 Oracle 或 IBM DB2 的连接 目前 我们