DataX :文本文件 -> mysql 的使用及安装教程

2023-11-13

DataX安装环境准备:

jdk1.6以上

python2.0

DataX安装:

1.官网下载DataX:https://github.com/gkbattle13/DataX   点击Download下载地址

2.解压DataX:tar -zxvf datax.tar.gz

3.根据mysql库版本替换对应的驱动包:

  替换该目录下mysql驱动包:datax/plugin/writer/mysqlwriter/  

DataX使用:

1. 准备源数据文件,记录文件所在路径

2.新建DataX的json配置文件

例如 XX.json

复制如下数据同步模板修改标红的相应参数内容:

{
 "job": {
  "setting": {
   "speed": {
    "channel": 1
   }
  },
  "content": [{
   "reader": {
    "name": "txtfilereader",
    "parameter": {
     "path": ["/opt/dataX/data/testdata"],
     "encoding": "utf-8",
     "column": [
      {
      "index": 0,
      "type": "string"
     },{
      "index": 1,
      "type": "string"
     }, {
      "index": 2,
      "type": "string"
     }, {
      "index": 3,
      "type": "date"
     }
],
     "fieldDelimiter": ","
    }
   },
   "writer": {
    "name": "mysqlwriter",
    "parameter": {
     "writeMode": "insert",
     "username": "uu",
     "password": "pp",
     "column": ["dateid","userid","last_order_time","create_time"],
     "session": [
      "set session sql_mode='ANSI'"
     ],
     "connection": [{
      "jdbcUrl": "jdbc:mysql://ip:port/db?serverTimezone=Asia/Shanghai&useUnicode=true&characterEncoding=utf-8&useLegacyDatetimeCode=false&allowMultiQueries=true",
      "table": [
       "table_name"
      ]
     }]
    }
   }
  }]
 }
}

3. 运行脚本

python /opt/dataX/datax/bin/datax.py ./XX.json

 

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

DataX :文本文件 -> mysql 的使用及安装教程 的相关文章

  • mysql+关掉密码过期

    mysql 关掉密码过期 要在MySQL中关闭密码过期功能 可以按照以下步骤进行操作 登录到MySQL服务器 使用管理员账户 如root 连接到数据库 mysql uroot ppassword 运行以下命令来查看当前的密码过期设置 SHO
  • 【计算机开题报告】 网上茶叶销售平台设计与开发

    一 选题依据 简述国内外研究现状 生产需求状况 说明选题目的 意义 列出主要参考文献 1 研究背景 随着社会经济的迅速发展和科学技术的全面进步 以计算机与网络技术为基础的信息系统正处于蓬勃发展的时期 随着经济文化水平的提高 近年来 随着科学
  • sql临时表、创建虚拟表、select临时表、多行数据、自定义数据、插入数据

    SELECT FROM VALUES John 25 Jane 30 Mike 35 AS table name name age 方法2 select 1 2 union all select 3 4
  • 实时获取建材网商品数据:API实现详解与代码示例

    一 引言 随着电子商务的快速发展 实时获取商品数据对于企业决策 市场分析以及数据驱动的营销策略至关重要 建材网作为国内知名的建材信息平台 提供了API接口 使得第三方开发者可以方便地获取商品数据 本文将详细介绍如何使用 建材网的API接口
  • 进程间通信

    进程间通信 进程间通信介绍 进程间通信目的 数据传输 一个进程需要将它的数据发送给另一个进程 资源共享 多个进程之间共享同样的资源 通知事件 一个进程需要向另一个或一组进程发送消息 通知它 它们 发生了某种事件 如进程终止 时要通知父进程
  • python按列写入数据到excel

    要将数据按列写入 Excel 可以使用 Python 的 openpyxl 库 首先 需要安装 openpyxl 库 可以使用以下命令在终端或命令提示符中安装 pip install openpyxl 然后 可以按照以下步骤编写代码 1 导
  • 智能数据分析系统:揭秘最强AI助力企业腾飞的秘密武器

    现代企业离不开数据 而数据的分析与应用更是成为企业走向成功的关键之一 然而 随着数据量的不断增长 传统的数据分析方法已经无法满足企业的需求 这时 智能数据分析系统应运而生 成为企业决策的得力助手 那么 智能数据分析系统究竟是如何帮助企业实现
  • 内网穿透的应用-使用Net2FTP轻松部署本地Web网站并公网访问管理内网资源

    文章目录 1 前言 2 Net2FTP网站搭建 2 1 Net2FTP下载和安装 2 2 Net2FTP网页测试 3 cpolar内网穿透 3 1 Cpolar云端设置 3 2 Cpolar本地设置
  • 【计算机毕业设计】航空信息管理系统

    传统信息的管理大部分依赖于管理人员的手工登记与管理 然而 随着近些年信息技术的迅猛发展 让许多比较老套的信息管理模式进行了更新迭代 飞机票信息因为其管理内容繁杂 管理数量繁多导致手工进行处理不能满足广大用户的需求 因此就应运而生出相应的航空
  • 【计算机毕业设计】校园体育赛事管理系统

    身处网络时代 随着网络系统体系发展的不断成熟和完善 人们的生活也随之发生了很大的变化 人们在追求较高物质生活的同时 也在想着如何使自身的精神内涵得到提升 而读书就是人们获得精神享受非常重要的途径 为了满足人们随时随地只要有网络就可以看书的要
  • 【计算机毕业设计】线上招聘问答系统

    计算机网络发展到现在已经好几十年了 在理论上面已经有了很丰富的基础 并且在现实生活中也到处都在使用 可以说 经过几十年的发展 互联网技术已经把地域信息的隔阂给消除了 让整个世界都可以即时通话和联系 极大的方便了人们的生活 所以说 线上招聘问
  • 【计算机毕业设计】Java图书馆智能选座系统

    现代经济快节奏发展以及不断完善升级的信息化技术 让传统数据信息的管理升级为软件存储 归纳 集中处理数据信息的管理方式 本图书馆智能选座系统就是在这样的大环境下诞生 其可以帮助使用者在短时间内处理完毕庞大的数据信息 使用这种软件工具可以帮助管
  • 软件测试/测试开发/全日制/测试管理丨Redis内存数据库

    Redis是一种开源 内存中的数据结构存储系统 它提供了高性能 灵活性和丰富的数据结构 以下是Redis内存数据库的基本介绍 键值存储 Redis基于键值对的存储模型 其中每个键都与一个特定的值相关联 这种简单的数据模型使其易于使用和理解
  • Python爬虫实战:IP代理池助你突破限制,高效采集数据

    当今互联网环境中 为了应对反爬虫 匿名访问或绕过某些地域限制等需求 IP代理池成为了一种常用的解决方案 IP代理池是一个包含多个可用代理IP地址的集合 可以通过该代理池随机选择可用IP地址来进行网络请求 IP代理池是一组可用的代理IP地址
  • 【计算机毕业设计】北工国际健身俱乐部

    本系统为会员而设计制作北工国际健身俱乐部 旨在实现北工国际健身俱乐部智能化 现代化管理 本北工国际健身俱乐部管理自动化系统的开发和研制的最终目的是将北工国际健身俱乐部的运作模式从手工记录数据转变为网络信息查询管理 从而为现代管理人员的使用提
  • 【计算机毕业设计】二手家电管理平台

    时代在飞速进步 每个行业都在努力发展现在先进技术 通过这些先进的技术来提高自己的水平和优势 二手家电管理平台当然不能排除在外 二手家电管理平台是在实际应用和软件工程的开发原理之上 运用java语言以及前台VUE框架 后台SpringBoot
  • 【计算机毕业设计】宝鸡文理学院学生成绩动态追踪系统

    研究开发宝鸡文理学院学生成绩动态追踪系统的目的是让使用者可以更方便的将人 设备和场景更立体的连接在一起 能让用户以更科幻的方式使用产品 体验高科技时代带给人们的方便 同时也能让用户体会到与以往常规产品不同的体验风格 与安卓 iOS相比较起来
  • 数据库 | 面试官:一次到底插入多少条数据合适啊?.....面试连环炮

    数据库 面试官 一次到底插入多少条数据合适啊 面试连环炮 数据库插入操作的基础知识 插入数据是数据库操作中的基础 但是 我们程序员将面临随之而来的问题 如何快速有效地插入数据 并保持数据库 性能 当你向数据库中插入数据时 这些数据直接存储到
  • Redis分布式锁--java实现

    文章目录 Redis分布式锁 方案 SETNX EXPIRE 基本原理 比较好的实现 会产生四个问题 几种解决原子性的方案
  • 30天精通Nodejs--第二十天:express-操作mysql

    目录 前言 安装依赖并配置MySQL连接 安装mysql2库 配置连接信息 在Express应用中使用MySQL 结合Express路由实现CRUD操作 整合到主应用 结语 前言 在Node js中使用Expre

随机推荐

  • angular:获取组件自身html对象

    constructor private elt ElementRef
  • 系统设计.秒杀系统

    秒杀 秒杀是以压倒性优势一招致命或在极短时间 比如一秒钟 内解决对手 或者称瞬秒 瞬间秒杀 该词最初来自网络游戏 形容一瞬间杀死一个游戏角色之快 电商系统中的秒杀是指 短时间内抢够商品的场景 这是一个营销策略 通常销售时间区间较短 价格稍低
  • 硅谷裁员10万人,一个时代结束了!

    见字如面 我是军哥 2022年7月 微软宣布裁员计划 裁员规模不超过18万员工总数的1 并于10月18日 试裁 1千人左右 11月10日 Meta的创始人兼CEO扎克伯格发布全员信 确认公司将裁员逾11000人 这是这家科技巨头18年来历史
  • 李雅普诺夫函数设计

    一 线性时不变系统 1 1 原理 对于线性时不变系统 x A
  • 一天内时针和分针重叠的次数

    一天内时针和分针重叠的次数 这是一道谷歌面试题 答案是22次 分别是上午 12 00 1 05 2 11 3 16 4 22 5 27 6 33 7 38 8 44 9 49 10 55 下午12 00 1 05 2 11 3 16 4 2
  • 动态链接库中函数的地址确定---PLT和GOT

    动态链接库中函数的地址确定 PLT和GOT 2012 09 16 20 27 42 分类 C C 前面写过动态链接库 延迟绑定的一篇博文 那篇文章我非常喜欢 但是当时刚搞清楚 自己写的比较凌乱 我最近学习了Ulrich Drepper的Ho
  • Android:寒冬已至?真正厉害的人永远没有寒冬,一次关于JVM的面试经历

    1 3 Android开发的天花板 很多人会觉得Android技术深度不深 技术栈不庞大 Android职业发展有限 这个真是大大的误解 先说技术上 Android的技术栈随着时间的推移变得越来越庞大 细分领域也越来越多 主要有Androi
  • js创建 tcp 服务器史上最快教程

    实现步骤 第一步 引入相应的包 第一步 导入net包 var net require net 第二步 创建服务器 第一步 导入net包 var net require net 第二步 创建服务器 var server net createS
  • cad尺寸标注快捷键_CAD快速标注方法你知道几种?

    CAD标注是快速出图的关键 尺寸标错 都会导致加工产品出错 那么如何快速准确地进行标注呢 这里给大家整理了CAD标注的一些方法 你知道几种呢 一 CAD自带一键标注方法 1 CAD一次性标注 qdim 输入快捷键qdim 框选需要标注的对象
  • Python 银行信用卡客户流失预测(kaggle)

    1 背景 越来越多的客户不再使用信用卡服务 银行的经理对此感到不安 如果有人能为他们预测哪些客户即将流失 他们将不胜感激 因为这样他们可以主动向客户提供更好的服务 并挽回这些即将流失的客户 2 数据集 该数据集由10 000个客户组成 其中
  • 开关电源一】电源拓扑之buck、boost、buck-boost

    目录 1 BUCK变换器 1 1 Buck电路工作原理 1 2 Buck电路输入输出关系推导 2 BOOST变换器 2 1 Boost电路工作原理 2 2 Boost电路输入输出关系推导 3 BUCK BOOST变换器 3 1 Buck B
  • shell脚本操作

    一 Shell介绍 Shell 和python都是弱语言 定义变量规则 变量名 值 1 shell定义变量的规则 1 等号两边不能有空格 2 定义特殊的变量需要用单引号或者双引号结合 3 定义linux命令需要用反单引号 区分单引号和双引号
  • DIV怎么自动添加滚动条?并给滚动条添加样式

    一 如何实现当DIV里的内容超过DIV的高度 DIV会自动添加滚动条 1 div的style设置了overflow auto后 当DIV里的内容超过DIV的高度 DIV会自动添加滚动条 拉动滚动条才能看到底 2 overflow y属性指定
  • 如何用VUE从零创建网站

    1 如何建一个网站 围绕主题 查看一些大型网站是如何设计的 自己对主题有一定了解后 设计草图 包括功能 逻辑跳转 页面大致排版等 项目成员和老师对草图设计提出意见 再进行修改 最后才到正式开发 网站推荐 松果互联 免费高级WordPress
  • 如何用手机做兼职赚钱?教你利用闲鱼赚取生活费!

    众所周知 越来越多的人光靠朝九晚五的工作薪资 已经远远满足不了生活需求 所以越来越多的人在找一些靠谱的兼职去提高收入 不过网络上的兼职多种多样 有些人通过兼职挣了些钱 而大部分人则被各种 套路 不仅没挣到钱 还被收了智商费 像网上流行的什么
  • Eclipse不能启动:JVM terminated. Exit code=-1

    JVM terminated Exit code 1 Dosgi requiredJavaVersion 1 5 Xms40m Xmx512m XX MaxPermSize 256M Djava class path D eclipse p
  • 你期待的Photoshop 2022中哪个功能吸引了你?

    万众瞩目的2022年已经到来 那些大软件的最新大版本也陆续走到我们的面前 看到很多人都在追捧的期待Photoshop 2022 你知道ta具体有哪些变化么 来看看吧 创意世界在 Photoshop 上运行 全世界数以百万计的设计师 摄影师和
  • Java入门(4)——常见的String方法

    考虑到API当中的解释 新手可能有点看不懂 我刚开始就是不太看得懂 最好的学习方法当然是是自己一个一个去试一遍 然后就可以加深印象 然后 这是我当初学习的时候用自己的大白话做的笔记 现在查阅的话我还是喜欢看自己做的这些笔记 如果我有什么理解
  • VS2022的简单设置

    一 创建一个C C 的VS新项目 1 单击右侧 创建新项目 2 语言选择 C 选择 所有平台 桌面 选择 windows桌面向导 最单击下一步 3 为项目取一个名字 放在合适的位置上 单击 创建 在弹出的窗口点击 空项目 最后单击完成 完成
  • DataX :文本文件 -> mysql 的使用及安装教程

    DataX安装环境准备 jdk1 6以上 python2 0 DataX安装 1 官网下载DataX https github com gkbattle13 DataX 点击Download下载地址 2 解压DataX tar zxvf d