SQL查询大约需要10 - 20分钟

2024-04-14

我有一个选择(没什么复杂的)

Select * from VIEW

该视图大约有 6000 条记录和大约 40 列。它来自 Lotus Notes SQL 数据库。所以我的 ODBC 驱动程序是 LotusNotesSQL 驱动程序。执行该查询大约需要 30 秒。我工作的公司使用过EXCEL运行查询并将所有内容写入工作表。由于我假设它会逐个单元地写入所有内容,因此过去需要 30 - 40 分钟才能完成。

然后我使用了MS access。我在 Access 上创建了一个副本本地表来存储数据。我的第一次尝试是

INSERT INTO COLUMNS OF LOCAL TABLE
FROM (SELECT * FROM VIEW)

请注意,这是伪代码。运行成功,但又花费了 20 - 30 分钟。然后,我使用 VBA 循环遍历数据并为每个单独的记录手动插入数据(使用 INSERT 语句)。这大约需要 10 - 15 分钟。这是我迄今为止最好的案例。

之后我需要做什么:获得数据后,我需要按部门对其进行过滤。问题是,如果我在 SQL 查询中放置一个 where 子句(执行查询的时间从 30 秒跳到大约 10 分钟+写入本地表/excel 的时间)。我不知道为什么。也许是因为这些列都是文本列?

如果我们将某些列更改为整数,就 where 子句而言,这会使其更快吗?

我正在寻找有关如何解决此问题的建议。我的老板说我们可以采用一些基于 Java 的解决方案。这会有帮助吗?我不是java人,而是c#人,也许我会说服他们也使用c#,但我主要寻找有关如何减少时间的建议。我已经将它从 40 分钟缩短到 10 分钟,但他们希望它在 2 分钟以内。

只是回顾一下:

查询执行大约需要 30 秒

在 Excel/Access 本地使用查询大约需要 15 - 40 分钟

需要在 2 分钟内完成

可以使用基于java的解决方案

您可能会建议其他解决方案而不是java。


您是否尝试过使用批量查询?本周早些时候,我在使用 C# 时也遇到了同样的问题;我必须插入大约 25000 条记录,大约花了 30 分钟。改用批量插入可将时间缩短至约 5 秒。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

SQL查询大约需要10 - 20分钟 的相关文章

  • 如何使用 ORACLE SQL 从 XML 中单独提取可重复的 json 节点值?

    我有以下 XML 我想提取 json 参数 serviceNumber 的值分别地我尝试使用 EXTRACT 函数 但我得到了连接的结果 但我希望将它们分开
  • 从函数调用动态 SQL

    我正在编写一个返回表的函数 有两个参数传递给该函数 并构建并执行查询并将其插入到返回的表中 但是我收到这个错误 只能从函数内执行函数和一些扩展存储过程 我不想使用存储过程 因为这是一个简单的实用函数 有谁知道这是否可以做到 我的函数编码如下
  • SQL 查询返回按周、月和年分组的记录。没有记录的周数应返回 0

    给出以下数据 ID CreatedDate ID1 2014 06 04 01 40 56 880 ID8 2014 06 05 00 27 02 403 ID6 2014 06 04 01 51 47 060 ID7 2014 06 05
  • 无法使用 LISTAGG

    SELECT deptno LISTAGG ename WITHIN GROUP ORDER BY ename AS employees FROM emp GROUP BY deptno Error ORA 00923 FROM keywo
  • 查找分区内最大的连续数字组

    我有以下按player id 和match date 排序的数据 我想找出连续运行次数最多的记录组 从2014 04 03到2014 04 12连续3次运行4次 player id match date runs 1 2014 04 01
  • 哪种 jQuery 选择方法更快?

    我想知道使用 jQuery 进行选择时使用上下文参数与使用普通 CSS 范围选择器相比是否有任何优势 假设我有这个 html div class contacts h1 All contacts h1 div class contact n
  • 发生错误:“无法调用 nvarchar 上的方法。”

    我编写了一个查询来查找与特定问题相关的答案 但在运行此代码时收到此错误 无法调用 nvarchar 上的方法 select Posts Id as Answer ParentId as question User DisplayName a
  • 检索多行最后插入的 id

    当将数据插入具有自动递增 PK 的表时 我需要获取该密钥以在另一个语句中使用 正如许多问题所示 这可以在 PHP 中使用mysql insert id 但是 我一直将插入内容分组在一起 因此一次插入不止一行 我这样做是因为我猜测可能会存在一
  • 查找包含具有指定名称的列的所有表 - MS SQL Server

    想要改进这篇文章吗 提供此问题的详细答案 包括引用和解释为什么你的答案是正确的 不够详细的答案可能会被编辑或删除 是否可以查询包含以下列的表名 LIKE myName 搜索表 SELECT c name AS ColumnName SCHE
  • Python 比 C++ 更快、更轻吗? [关闭]

    就目前情况而言 这个问题不太适合我们的问答形式 我们希望答案得到事实 参考资料或专业知识的支持 但这个问题可能会引发辩论 争论 民意调查或扩展讨论 如果您觉得这个问题可以改进并可能重新开放 访问帮助中心 help reopen questi
  • Athena date_parse 用于具有可选毫秒字段的日期

    我在 S3 中有日期 使用它创建了 Athena 表 我在 S3 中有一些 json 格式的日期条目 在运行查询时 Athena 不接受这些条目作为日期或时间戳 使用 AWS Athena 它使用 Prestodb 作为查询引擎 示例 js
  • 插入到表中并在 SQL 中拆分字符串

    我想将分割字符串插入到我的表中 如您所见 create table Organization organizationId bigint provienceId bigint CityId bigint TownId bigint Inse
  • Python:为什么 IDLE 这么慢?

    IDLE http en wikipedia org wiki IDLE Python 是我最喜欢的 Python 编辑器 它提供了非常漂亮且直观的 Python shell 对于单元测试和调试非常有用 并且还提供了一个简洁的调试器 然而
  • 如何在codeigniter中从数据库返回最后一条记录?

    我正在尝试获取我拥有数据的最后日期 所以我想打印 date data 列中的最后一个日期 在模型中 public function last record query this gt db gt select LAST date data
  • 如何使用 CodeIgniter 计算 MySQL 中给定行之前的行数?

    简单来说 如何计算某一行之前有多少行 我使用的是增量 ID 但行是随机删除的 因此仅检查 ID 是行不通的 比如说 如果我有 30 行 并且我根据名称 或任何实际内容 选择了一行 那么在该行之前有多少行 它可以是 16 1 12 或任何值
  • C# 和 .NET 的“最佳”数据访问框架/方法是什么?

    编辑 我将其设为社区维基 因为它更适合协作格式 有多种方法可以从 NET 访问 SQL Server 和其他数据库 一切都有其优点和缺点 这永远不会是一个简单的问题 哪个是 最好的 答案永远是 这取决于 然而 我正在寻找在不同级别的系统背景
  • 最快的 SQL Server 协议?

    最快的 SQL Server 连接协议是什么 相关 哪些协议可以远程使用 哪些可以本地使用 这会影响最快协议的选择吗 VIA 这是最快的 SQL 协议 它在专用硬件上运行 并用于执行 SQL Server 基准测试记录 请注意 VIA 协议
  • 如何从一个 cfc 文件中函数的查询中调用另一个 CFC 文件中的函数?

    我有一个具有多种功能的 cfc 文件 info cfc 如下所示
  • 从文件执行db语句

    我在我的应用程序中使用嵌入式 Apache derby 我有一个名为的 SQL 脚本创建的数据库 sql创建数据库中的所有表并用初始数据填充它 例如 SET SCHEMA APP CREATE TABLE study study id bi
  • 如何找到与日期范围最重叠的时间段

    假设您有一个包含标识符 开始时间和结束时间的表 这些开始和结束时间可以是任意时间长度 开始时间始终早于结束时间 假设没有空值 什么样的查询会告诉我最 流行 的时间 即每行中的两个范围与大多数其他行重叠的位置 它的实际应用是它是一个记录用户登

随机推荐

  • 检查Java版本是否大于Java中的某个迭代?

    我想检查用户的 Java 版本是否至少为 1 8 0 171 我的意思是特定迭代或更高版本 例如 1 8 0 151 将不起作用 我原本计划使用 org apache commons lang3 SystemUtils isJavaVers
  • C# 如何检查一个对象是否是多维数组

    我是 C 的新手 我有一个 C 对象 如何检查它是单维数组还是多维数组 int array new int 2 3 object obj object array if obj is Array if obj Rank 2 I need t
  • 如何增加谷歌语音API的收听时间?

    我已经使用谷歌语音到文本 api 制作了一个工作语音到文本程序 该程序记录语音并将其复制到 txt 中 但是 谷歌语音 api 不会监听很长时间 大约 9 秒 有什么办法可以增加这个时间 或者在 python 中使用更好的 api 可以边听
  • 检测页面是在三星股票浏览器中查看还是作为独立的网络应用程序查看

    正如标题所述 我试图检测我的网页是否被视为三星股票浏览器中的网页 或者是否作为保存在主屏幕上的独立网络应用程序打开 但据我所知 我发现的 javascript 代码只适用于 Safari 和 Chrome 有人可以为此提供一个好的解决方案吗
  • PHP - htmlspecialchars 和 UTF-8

    我只是想确认一些事情html特殊字符 http php net manual en function htmlspecialchars php 我刚刚将数据库转换为 UTF 8 我想我终于可以正常工作了 但是在我的代码中我使用了PHP ht
  • 在 Go 中生成长随机字符串的最快方法是什么?

    像 a zA Z0 9 字符串 na1dopW129T0anN28udaZ 或十六进制字符串 8c6f78ac23b4a7b8c0182d 我所说的 长 是指 2K 及更多字符 我的盒子上的速度约为 200MBps 显然还有改进的空间 ty
  • 是否还能获取Skype用户的在线状态?

    正如标题所说 API 服务发生 重大 变化后 是否仍然可以在 Skype 上查看用户的状态 在线 离线 忙碌 开发者部分现在看起来非常非常有限 http developer skype com http developer skype co
  • 从类库项目中的 App.config 读取

    我正在开发一个简单的类库项目 这会给我一个 dll 我想从配置文件中读取特定值 所以我在我的项目中添加了一个 App config 文件
  • 为什么 Linux/gnu 链接器选择地址 0x400000?

    我正在 Linux x86 64 上试验 ELF 可执行文件和 gnu 工具链 我已经链接并剥离 手动 Hello World 测试 global start text start mov 1 rax 转换为 267 字节 ELF64 可执
  • “&”和 std::reference_wrapper 之间的区别?

    我有以下代码 include
  • 开放固件设备树概述/参考手册

    我正在尝试为嵌入式 PowerPC 板设置驱动程序 今天执行此操作的正确方法是使用 OpenFirmware 设备树数据结构 dtb 文件 从 dts 文件编译 创建树非常简单 但是如何让我的设备驱动程序找到它的节点和其中的数据 我还没有找
  • 在棒棒糖之前的设备工具栏上添加标高/阴影

    我将我的 Android 应用程序更新为新的材料设计 但我还想向工具栏添加一些阴影或高度 似乎有一些 hacky 方法可以通过 images 9 patches 来完成此操作 但我想知道是否可以通过支持库来完成 就像CardView可以有海
  • 如何使用 Moq 对不同参数设置两次方法

    我想用最小起订量设置一个方法两次 但似乎最后一个方法覆盖了前面的方法 这是我的初始设置 string username foo string password bar var principal new GenericPrincipal n
  • Redux 表单中 中的 className

    我创建了一个 redux form 我想将 className 添加到每个字段以使用 css 自定义它们 每个字段的代码是
  • Android Google 日历“无法启动活动”

    Case 1我主持了 iCal 日历活动 icsAmazon AWS 上的文件及其 HTTP URL 集成在我的 Android 应用程序中 这是文件 https s3 ap southeast 1 amazonaws com endcar
  • 使不同纵横比的响应图像具有相同的高度

    我正在尝试找出一种方法 使响应式图像行具有相同的高度 而不管每个图像的纵横比或容器的宽度如何 实际图像文件的高度相同 但宽度不同 问题是 当容器变小时 在某些宽度下 舍入误差会导致图像的高度相差一个或两个像素 这是一个小提琴http jsf
  • 如何向导航栏添加阴影而不是默认边框

    我想替换默认边框UINavigationBar与阴影 有什么办法可以实现这一点吗 我尝试使用与向 UIView 添加阴影相同的方法 但它增加了导航栏的高度 尝试这个 self navigationController navigationB
  • Angular2创建一个显示外部网页内容的组件

    我需要创建一个显示另一个网页内容的组件 例如 如果我有 stackoverflow 站点 我想创建一个组件来执行 http 请求并通过我的应用程序显示内容 顺便说一下 外部网站只是 django rest swagger 要访问它 我每次访
  • 在 Rails 应用程序中使用自定义函数

    我试图遵循以下关于在 Rails 中使用自定义函数的答案中的简短示例 http stackoverflow com questions 2879679 where to put code snippets in rails 在 lib ma
  • SQL查询大约需要10 - 20分钟

    我有一个选择 没什么复杂的 Select from VIEW 该视图大约有 6000 条记录和大约 40 列 它来自 Lotus Notes SQL 数据库 所以我的 ODBC 驱动程序是 LotusNotesSQL 驱动程序 执行该查询大