Java使用多线程导入数据到Oracle中

2023-11-18

Oracle中的设置

多线程导入数据到Oracle中,如果是自己设置主键的值,那么肯定会遇到主键冲突的问题。例如线程A计算出的id为10(max(id) + 1),在A线程还没有完成导入时线程B用相同办法得到的id也是10,这时两个线程都请求插入数据时就会出现违反唯一约束条件的错误。

为了解决这个问题,我想到两种解决方法。

  • java代码控制

一种是自己设置一个类,在一开始计算出所有的id值存在一个数组中,用一个方法来每次获取一个id值返回给来索要的线程,用同步锁把这个方法锁起来,这样就可以保证每个线程获取的id值不一样。但是我想这样锁着方法肯定会影响速度,而且如果开多个程序同时导入的话会出现大问题。(个人水平有限,想到的方法缺陷肯定很大,因此不推荐用这种方法)

  • Oracle控制

自己不管主键的增加,把这个任务交给Oracle来完成。Oracle端通过序列和触发器完成,在完成插入前,从序列中获取到下一个值设置成id。

1.设置序列

create sequence SEQ_TEST
increment by 1
start with 1
nomaxvalue
nocycle

定义好sequence后,你就可以用currVal,nextVal取得值:
CurrVal:返回 sequence的当前值
NextVal:增加sequence的值,然后返回增加后sequence值

2.设置触发器

create or replace trigger TRG_TEST 
before insert on TEST
for each row
begin
select SEQ_TEST.nextval into :new.TEST_ID from dual;
end;

这个的意思就是在向test表插入数据前,用序列SEQ_TEST的下一个值代替test表的TEST_ID.

至此,多线程导入数据可能会出现的主键冲突问题得以解决。

Java代码

其实代码思想很简单,就是将原始数据分成多个部分,每个线程分工导入不同的部分。我要实现的功能是将Excel表中的数据导入到Oracle中,因此我只需要先读取整个Excel,得到总行数,然后设置每个线程负责部分的开始位置和结束位置。贴代码:

//每个线程的起始位置
int startFirst = 1;
int startSecond = Methods.totalRows / 3;
int startThird = Methods.totalRows / 3 + Methods.totalRows / 3;

//每个线程的步长
int stepFirst = startSecond - 1 - 1;
int stepSecond = startThird - startSecond - 1;
int stepThird = Methods.totalRows - startThird;

new Thread(new InsertThread(startFirst, stepFirst, Methods.orclConnectionFirst)).start();
new Thread(new InsertThread(startSecond, stepSecond, Methods.orclConnectionSecond)).start();
new Thread(new InsertThread(startThird, stepThird, Methods.orclConnectionThird)).start();

注意这里一定要一个线程对应一个connection,公用一个connection达不到提速效果。此处的InsertThread就是自己定义个一个实现Runnable接口的类,在重写的run方法里进行插入Oracle操作,贴代码:

public class InsertThread implements Runnable{
    private int startRow;
    private int step;
    private Connection connection;

    public InsertThread(int startRow, int step, Connection connection){
        this.startRow = startRow;
        this.step = step;
        this.connection = connection;
    }
    @Override
    public void run() {
        // TODO Auto-generated method stub
        ...
        //这里进行插入操作
        ...
    }
}
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Java使用多线程导入数据到Oracle中 的相关文章

  • Jackson反序列化SNS消息错误MismatchedInputException

    我正在编写一个通过 SNS HTTP 请求处理来自 Amazon Simple Email Service 的回调的功能 我想将亚马逊提供的消息解析为本地对象结构 问题是 SNS 将 JSON 消息包装成字符串 并且 Jackson 无法解
  • 匿名类*总是*维护对其封闭实例的引用吗?

    我正在处理一些代码 其中一个对象 foo 正在创建另一个对象 对象 bar 并将其传递给Callable 之后 foo 将返回 bar 然后我希望 foo 变得无法访问 即 可用于 垃圾收集 我最初的想法是创建Callable匿名 例如 c
  • 如何将 Struts 2 与 Velocity 和 Tiles 结合使用

    有人能够获得与 struts 2 一起使用的速度和图块吗 我在网上查找示例或教程时遇到一些问题 从我从邮件列表中收集到的信息来看 这似乎根本不可能 但邮件已经很旧了 https struts apache org docs tiles pl
  • Java OR 运算符优先级

    如何在 Java 中以 if 的方式链接条件语句b是假的 不如不检查c If a and c是假的 并且b是真的 确实c会被检查吗 if a b c 我正在寻找 PHP 所拥有的类似功能 但两者之间存在差异OR and 爪哇 如果左操作数是
  • 通过 Session.update 和 HibernateTemplate.merge 进行 Hibernate 更新的区别

    我看到了更新操作的类型 第一的 getHibernateTemplate execute new HibernateCallback public Object doInHibernate Session session session f
  • 使android listview布局可滚动

    我有一个 xml 文件 其布局为 ASCII 形式 ImageView TextView List
  • 如何从 Jackson 中的自定义解串器调用默认解串器

    我在杰克逊的自定义解串器有问题 我想访问默认序列化器来填充我要反序列化的对象 在填充之后 我将做一些自定义的事情 但首先我想使用默认的 Jackson 行为反序列化对象 这是我目前拥有的代码 public class UserEventDe
  • IDEA:javac:源版本1.7需要目标版本1.7

    使用 IntelliJ IDEA 运行 JUnit 测试时 我得到 我该如何纠正这个问题 使用SDK 1 7 模块语言级别为1 7 Maven 构建工作正常 这就是为什么我相信IDEA配置问题 您很可能在此处从 Maven 导入了不正确的编
  • 抽象方法实现与抽象方法重写。这两个对于抽象类意味着相同吗?

    我几乎要采取Java SE 8 程序员我 exam 1Z0 808 我正在使用这个学习指南 https www selikoff net java oca 8 programmer i study guide https www selik
  • Spring Security登录返回404

    我目前正在使用 Spring 框架开发我的博客 我正在实现 Spring Security 用于登录目的 一切都按预期进行 直到我提交始终返回 404 代码的登录凭据 这是我的 web xml 代码e
  • 在类路径中使用通配符调用 java 失败

    我当前目录中有一些 jar 它们都需要位于类路径中 因此我想对类路径使用通配符约定 命令行是 java exe classpath org python util jython args 但是我收到这个错误 Exception in thr
  • 获取 n 元组中的所有 1-k 元组

    当 n 5 且 k 3 时 以下循环将执行此操作 List
  • 在仅具有两种类型值的列上创建索引有多有效

    我在列上创建了一个索引 该列只有两个可能的值 Y 和 N 两个值的数据类型相同 假设列名称是指示符 我写了一个选择语句 例如 SELECT INDICATOR FROM TEMP TABLE ORDER BY INDICATOR 当我在 S
  • 如何使 cx-oracle 将查询结果绑定到字典而不是元组?

    这是我的代码 我想找到一种方法将查询结果作为字典列表而不是元组列表返回 看起来 cx oracle 通过部分文档讨论 绑定 来支持这一点 虽然我不知道它是如何工作的 def connect dsn cx Oracle makedsn hos
  • 如何在 Struts 2 中访问 OGNL 跟踪评估?

    有人告诉我要优化网络应用程序 为此 我使用JProfiler https www ej technologies com products jprofiler overview html 我注意到很大一部分响应时间都花在了表示层上 特别是当
  • 在大画布上滚动

    我需要一些帮助来了解滚动绘制到 Android 画布上的项目的基础知识 假设我想创建一个时间线 其中 0 处的时间是可视化的顶部 并且随着时间的增加 时间线继续呈现在上一个点下方 如果我想在 Android 上渲染它 我知道我可以通过重写
  • 使用 Spark SQL 时找不到 Spark Logging 类

    我正在尝试用 Java 进行简单的 Spark SQL 编程 在程序中 我从 Cassandra 表获取数据 将RDD into a Dataset并显示数据 当我运行spark submit命令 我收到错误 java lang Class
  • 未找到 GroovyEvaluator

    我会尝试在以下位置制作我的 PIE 3D 报告iReport 在我的 struts xml 中 我用这个来调用我的报告
  • 从 Oracle 获取包方法和参数

    我正在寻找 Oracle 查询来获取 Oracle 包 过程的所有参数 我知道有一个视图或表可以提供此功能 但我似乎不记得它是什么 注意 我并不是要从 user objects 获取包列表 而是要获取包 中每个过程的数据类型和参数名称 Th
  • 只有创建视图层次结构的原始线程才能触摸其视图。在安卓上[重复]

    这个问题在这里已经有答案了 我只是一个初学者 所以请原谅我问一个可能愚蠢的问题 我不明白只有创建视图层次结构的原始线程才能触摸其视图的含义 请有人告诉我为什么会发生此错误以及如何解决此问题 ThankYou 这是我的班级 public cl

随机推荐

  • windows利用msys2安装minGW64

    目录 下载mysy2 配置国内源 安装minGW64 下载mysy2 官网下载非常慢 所以我们可以选择从清华大学的源下载 清华大学的msys2源说明 下载msys2 x86 64 20220603 exe 配置国内源 pacman 的配置
  • springboot启动feign项目报错:Service id not legal hostname

    正经学徒 佛系记录 不搞事情 在feign项目中 定义接口调用服务 FeignClient name eureka client public interface TestInterface GetMapping value get Str
  • 99款高质量免费(X)HTML/CSS模板

    99款高质量免费 X HTML CSS模板 01 T 20 在线预览下载该模板 02 Shape 在线预览下载该模板 03 Your Business 在线预览下载该模板 04 Solitude 在线预览下载该模板 05 Fashion C
  • C# BackgroundWorker控件使用方法

    在C Winform开发中 若遇到大量数据操作或运算 通常UI界面卡死造成交互不良 解决方法 1 使用BackgroundWorker控件 2 使用多线程委托回调 本章先介绍该控件使用方法 界面展示 若没使用该控件 点击开始 进度条会滚动但
  • linux程序前后台切换

    1 怎么样使程序在后台执行 方法有很多 这里主要列举两种 假如我们有程序pso cpp 通过编译后产生可执行文件pso 我们要使pso在linux服务器后台执行 当客户端关机后重新登入服务器后继续查看本来在终端输出的运行结果 假设操作都在当
  • Python selenium —— selenium与自动化测试成神之路

    Python selenium selenium与自动化测试成神之路 忽然想谈谈自动化的学习路径 因为发现很多人总是急于求成 不懂该如何学习 在群里总是会遇到很多人问低级问题 写了一个selenium脚本 却执行失败 跑到群里来问 大神 这
  • 双指针模板

    核心思路 首先打一个 O n 2 O n 2 O n2 的暴力 然后考虑性质 当i j具有单调性的时候 那么我们才可以用双指针来优化 基础例题 最长连续不重复子
  • HTTPS加密流程

    HTTPS HTTPS 一 什么是HTTPS 二 什么是 加密 三 加密的方式有哪些 1 对称加密 2 非对称加密 3 中间人攻击 4 引入证书 HTTPS 一 什么是HTTPS HTTPS与HTTP一样都是应用层协议 与HTTPS不同的是
  • Javassist

    1 简介 Javassist JAVA programming ASSISTant 是在Java中编辑字节码的类库 它使Java程序能够在运行时定义一个新类 并在JVM加载是修改类文件 我们常用到的动态特性主要是反射 在运行时查找对象属性
  • 【华为OD统一考试B卷

    在线OJ 已购买本专栏用户 请私信博主开通账号 在线刷题 运行出现 Runtime Error 0Aborted 请忽略 华为OD统一考试A卷 B卷 新题库说明 2023年5月份 华为官方已经将的 2022 0223Q 1 2 3 4 统一
  • 谷贱伤农,薪贱伤码农!

    最近被东方甄选刷屏了 截止6月21日 粉丝已经达到1749万 飞瓜数据显示 东方甄选已经是抖音带货第一名 东方甄选火起来也就是从上周那个双语带货视频在各个社群里到处转发 走到今天 也不过才一周多点的时间 从初火到大火 东方甄选 一周封神 一
  • STM32内部ADC测量时产生噪声的原因与消除的方法

    首先让我们来看一张实际项目过程中 测试发现的问题 每隔1ms 就会起来一个信号 这个信号大概是250ns 我所使用的芯片是 STM32F103RCT6 使用内部ADC测量电压 采用定时器触发采样 每隔1ms触发采样一次 经过分析初步分析 是
  • Web前端学习(二)HTML和CSS的关系

    此节 应该上手写第一个Web网页Hello World 这在之前学习HTML基础的时候已经写过了 这里不多说 本节 主要看一下HTML和CSS之间是怎么协同工作的 话不多说直接上代码 例 为Hello World添加样式
  • Eigen几何模块的使用方法

    include
  • Win11 配置 WSL2(Windows的Linux子系统)100%成功 全网最简

    打开控制面板 程序 启用或关闭 Windows 功能 勾选 Windows 虚拟机监控程序平台 适用于 Linux 的 Windows 子系统 虚拟机平台三个选项 检查是否开启BIOS虚拟化功能 任务管理器 性能 CPU 虚拟化 禁用 已启
  • Blender-骨骼蒙皮权重基本设置,批量修改权重清零,权重的镜像对称

    问题1 权重批量删除 批量清零 解决方法 1 选择物体 进入权重绘制 2 点绘制遮罩的小方块模式 3 选择 全选或者按鼠标 L局部元素选择 4 权重设置参数为0 并点权重 设置权重 OK 全都清零了 案例 和其他角色动画的眼珠自转不同 门保
  • python中object转为float_object怎么转换成float数据

    这次给大家带来object怎么转换成float数据 object转换成float数据的注意事项有哪些 下面就是实战案例 一起来看一下 数据类型转换 今天遇到一个问题 就是DataFrame类型的数据里是str型的数字 想把数字转换为int
  • 【8558】编写算法建立的链表,实现将其分解成两个链表,其中一个全部为奇数,另一个全部为偶数(尽量利用已知存储空间)

    关注公众号程序猿从入门到入土查询更方便哦 编写算法建立的链表 实现将其分解成两个链表 其中一个全部为奇数 另一个全部为偶数 尽量利用已知存储空间 include
  • MPEG P帧编码详解

    1 当前帧与预测的当前帧相减 得到预测误差 2 预测误差进行DCT ZZ 量化 3 使用可变长编码编码预测误差并送出 3 与此同时 量化后的误差经过反量化 反zigzag 反DCT 重建误差 4 当前帧的预测误差和预测的当前帧相加 重建当前
  • Java使用多线程导入数据到Oracle中

    Oracle中的设置 多线程导入数据到Oracle中 如果是自己设置主键的值 那么肯定会遇到主键冲突的问题 例如线程A计算出的id为10 max id 1 在A线程还没有完成导入时线程B用相同办法得到的id也是10 这时两个线程都请求插入数