使用阿里云日志服务来分析日志

2023-11-04

随着云服务技术越来越成熟,作为一枚运维,不得不感慨云计算的发展对我的职业生涯起了积极推动的作用,一方面我可以通过云服务来提高我的工作效率,另一方面我节省了更多时间来学习,在提高我专业度的同时,个人能力也越来越强,在此我就以阿里云日志服务,给我带来的便利给大家做一个分享:

一,在使用阿里云的日志服务之前,我分析日志的方法是这样婶儿的,如下图。
图片描述

通过rsyslog把服务器上的日志汇总到另外一台机器上,然后使用脚本来处理文本,获取所需的数据。
这种方式在日志分析上效率挺低的,还要耗费经历去维护rsyslog服务。

自从使用了阿里云的日志服务后就省心多了。借助阿里云的日志服务构造出来的一整套日志分析系统是这样婶儿的,如下图。

图片描述
这里主要用到阿里云的三个服务,下面来挨个介绍一下我是怎么使用的。
日志服务(Log Service,简称Log)
这个是整个架构的核心点,我目前主要用它来实现的是日志采集、日志投递以及日志查询分析。
1. 日志采集
目前是在每台机器上安装logtail Agent,来采集日志。在ECS上直接三条命令就安装了,不需要做任何的配置就可以使用了,非常省力。
2. 日志投递
如上图所示,可以把采集强调文字后的日志投递到OSS和ODPS中,这个稍后再说。
3. 日志查询分析
这里是借助于日志服务中的日志索引功能,通过控制台来查询日志,我一般是用这个来跟踪一些用户的访问行为,这里查询速度是非常快的,基本上都是一秒钟内出结果。
图片描述
当然还可以根据日志服务的API来实现更多的查询,我这里就先不介绍了。
OSS
我会把日志投递到OSS中,主要是因为两个需求。
1. 日志归档存储
把一些历史日志都存放到OSS中,以减少服务器上占用的空间。当然也不是所有历史的日志都存放到OSS中的,通过OSS中的生命周期功能来把更古老的日志删除就可以了。
2. 离线日志分析
因为我也是刚刚把日志分析这事迁移到阿里云不久,有一些古老的脚本需要通过文件来处理日志(这个需要点时间才能干掉这些脚本),目前我的做法是通过API把OSS中的日志下载到ECS中,然后再让那些古老的脚本工作(要知道,ECS通过内网访问OSS是免流量费的啦)
ODPS
ODPS中文名称叫做大数据计算服务,不过刚刚看了一下它的控制台,这个产品要下线了,取而代之的是一个叫数加的产品,其实就是再ODPS中套了一层壳,然后加了额外的一些功能。
数加这个产品暂时我还没完全研究明白,还是接着说一下我最早使用ODPS分析日志的事情吧。
把日志投递到ODPS中,是为了实现把数据更加统一的进行分析,出报表,据说使用Quick BI做报表是非常容易的,不过说来惭愧我一直都是拿ODPS单纯的当个数据库来使用的,还没有用到Quick BI(不过我当时用ODPS的时候好像Quick Bi还没有完善吧,哈哈)
二,这里就举一个简单的例子吧:
通过ODPS的API,来统计周期时间内耗时最长的URL,然后生成报表通过邮件通知(自己生成的表格确实很丑)
比如我这里刚刚统计到一些处理时间将近10秒的URL,通过排查发现都是因为调用了第三方的API,第三方的API接口耗时过长导致,猪一样的队友啊。

图片描述

OK,以上就是我借助阿里云的日志服务、OSS、ODPS(数加)来处理分析日志的一些事儿。
三,总结受益
在把日志分析切换完全切换到阿里云之前,需要查询东西都需要跑个脚本来完成,查询结果要等个十几分钟才能出来。(不知为何,当时还会归集日志还会产生重复日志的情况,还得先做一遍去重,简直就是噩梦)
现在完全利用了阿里云的日志服务之后,再有同事跑过来让我跟踪某个用户的行为日志,直接给他丢一个阿里云日志服务器的控制台链接,再加一个子账号,让他自己去查了;再有同事跑过来让我查某个接口的使用情况,直接在ODPS上执行一条SQL语句就行了;当然很多事情都做成了自动化的,比如周期内定时捕获日志中的异常,然后发送到相关负责人的邮箱中,我都不用参与了,之前的噩梦就这样变成了春梦,哈哈。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

使用阿里云日志服务来分析日志 的相关文章

  • 数据学习(十四)-方差分析与试验设计

    1 方差分析引论 2 单因素方差分析 3 方差分析中的多重比较 4 双因素方差分析 5 试验设计初步 1 方差分析引论 方差分析是比较多个总体的均值是否相等 但本质上它所研究的是变量之间的关系 1 1 方差分析及其有关术语 检验多个总体均值
  • spring boot jar部署 控制台 日志 乱码

    spring boot jar部署 控制台 日志 乱码 问题描述 spring boot jar包部署 通过java jar 命令运行 jar文件 代码中通过变量log输出到控制台的中文 乱码 但是仅仅是在运行jar时才乱码 而在用ecli
  • MySQL数据导入--load data

    起因 朋友的数据库 用的版本是5 5 19 服务端和客户端字符集都是utf8 因为某些原因 系统经过好多人的开发和处理 同一个表存在多种字符集写入 so乱码问题 时有发生 为了彻底解决这个问题 我这边的操作如下 1 核查工程中转码的地方 2
  • 【OSS】【Py】OSS出现The specified key does not exist问题

    今天接口的OSS模块出现异常 Exception status 404 x oss request id 5C50209BAE509FEEA16D753E details Code NoSuchKey Message The specifi
  • Matlab深度学习笔记——深度学习工具箱说明

    本文是Rasmus Berg Palm发布在Github上的Deep learning toolbox的说明文件 作者对这个工具箱进行了详细的介绍 原文链接 https github com rasmusbergpalm DeepLearn
  • java中的基本数据类型和引用数据类型以及它们的存储方式堆内存和栈内存

    一直对java中的基本数据类型和引用数据类型之间的关系搞不太清楚 今天做leetcode的一道题目 总算弄清楚了关系 写下来和大家一起分享一下 一 基本数据类型 数据类型在计算机语言里面 是对内存位置的一个抽象表达方式 可以理解为针对内存的
  • 统计学习方法学习笔记(一)————统计学习方法概论

    1 统计学习 1 统计学习概念 统计学习 statistical learning 是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科 统计学习也称为统计机器学习 statistical machine learn
  • 如何在阿里云linux服务器查看应用日志--部署在tomcat

    1 首先要进入tomcat的目录有一个log目录 2 直接输入 tail f 文件名进行查看日志 例如 tail f catalina out tail f jsvc outfile out
  • 【elasticsearch】ES 单分片使用 From/Size 分页遇到重复数据

    1 概述 ES 单分片使用 From Size 分页遇到重复数据 常规情况下 ES 单分片使用 From Size 是不会遇到数据重复的 数据重复的可能原因有 没有添加排序 添加了按得分排序 但是查询语句全部为 filter 过滤条件 此时
  • MODIS数据的简介和下载(一)——MODIS数据简介

    借最近上课实习上机内容 来介绍MODIS数据相关方面内容 本部分主要包括了MODIS数据的简介和下载的问题 本篇是第一部分 MODIS的简介 主要分为三个部分 1 MODIS传感器简介及参数 2 MODIS产品及命名规则 3 MODIS的典
  • java中的类型赋值常见错误

    Java中float double long类型变量赋值添加f d L尾缀问题 添加尾缀说明 我们知道Java在变量赋值的时候 其中float double long数据类型变量 需要在赋值直接量后面分别添加f或F d或D l或L尾缀来说明
  • 2013-2020年全国31省数字经济数据集

    1 时间 2013 2020年 2 来源 整理自国家统计J和统计NJ 3 指标包括 信息化基础 光缆线路长度 公里 移动电话基站 万个 信息传输 软件和信息技术服务业城镇单位就业人员 万人 年末常住人口 万人 城镇单位就业人员 万人 光缆密
  • kafka权威指南中文版之三

    第三章kafka producer 向kafka写入消息 无论你将kafka作为一个消息队列 或者消息总线 还是一个数据存储平台 你都要通过生产者producer向kafka写入数据 通过消费者consumer读取kafka的数据 例如 一
  • 智能化应用爆发,银行如何打造敏捷响应的智能中枢?

    在宏观经济增速放缓和互联网金融发展的双重压力下 银行已普遍开始了数字化转型 并向智能化方向迈进 不过在智能化转型过程中 银行也普遍面临数字资产建设能力不足 数据治理和AI模型开发自动化程度低等问题 银行需要搭建起适应未来的敏捷响应的智能中枢
  • json数组如何转换成string类型(超级好用)

    先上代码 下面解释 这个jar包地址之后更新的时候再给出来的 包的地址 JSONObject job ace text a 此时job里面的数据格式为 logid 2075 words result words acb words and
  • webshell与防范

    1 WebShell的概念和危害性 WebShell就是以asp php jsp或者cgi等网页文件形式存在的 种命令执行环境 也可以称为 种网页后门 黑客在入侵网站后 通常会将WebShell后门文件与网站服务器WEB目录下正常的网页文件
  • jxl分割excel文件

    最近在实施一个项目 其中一项工作是处理历史数据 客户提供过来的数据是excel表格 超过20万条记录 由于目标系统导入限制 每次只能导入大小不超过8M的文件 所以需要对这些数据进行分割处理 在手工处理一遍后 觉得可以通过写一个程序来自动实现
  • MES11大标准模块(ISA95)

    1 资源分配及状态管理 ResourceAllocationandStatus 该功能管理机床 工具 人员物料 其它设备以及其它生产实体 满足生产计划的要求对其所作的预定和调度 用以保证生产的正常进行 提供资源使用情况的历史记录和实时状态信
  • 程序员怎样为自己工作?每天做的事终身受益。避免产品做完只拿工资走人,绑定客户绑定粉丝。

    工作即是创业 是所有人为你打工 打工什么是自己的 首先是跟随你的人才 你的小兄弟们 带着他们一起发财 把你身边的所有人所有的资源调动起来 都为你项目服务 不管是你的老板 你的客户 还是你竞争对手客户 大家都是同一个目标 赚钱 人设 跟着我有
  • Pipeline 助您轻松驾驭海量数据!

    前言 数据治理在当今信息时代变得至关重要 随着数据量的不断增长和多样化 组织需要有效地管理和利用这些数据 以支持业务决策和创新发展 不论是做数据分析还是数据解析 利用 Pipeline 可以帮助组织实现数据治理的自动化和规范化 为组织提供更

随机推荐

  • 无法启动64位idea,无法启动idea64.exe的一种原因(意外删除破解文件导致无法打开idea)

    前言 突然有一天 我的IDEA出现了问题 点击桌面快捷方式的idea毫无反应 无奈之下重装了IDEA 但还是有相同的问题 无法打开64位的idea 网上找了一堆博客 花了两个多小时终于解决了 写篇博客记录下这个问题 1 首先打开idea b
  • 初识网络安全(黑客技术)

    目录 前言 一 安全事件案例 二 网络安全行业公司 三 网络安全岗位 四 网络安全网站 五 src漏洞平台 总结 前言 网络安全是指保护计算机网络和网络上的数据免受未经授权的访问 使用 泄露 破坏和干扰的一系列措施和技术 在当今数字化时代
  • JAVA web 获取系统时间

  • ROS---保存地图

    建立save map sh文件夹 bin bash rosrun map server map saver f catkin ws src hypharos minicar launch map mymap 保存地图时我们进入此文件所在文件
  • 从零实现一套属于自己的UI框架-发布到npm

    汤小梦 https juejin im post 5e200ee86fb9a02fdd38986d 不知不觉马上就要放假了 写一篇文章祝愿 2020 越来越好 如今前端工程师的要求越来越高了 需要掌握的技术点越来越多了 会一些基本的前端技能
  • 华为云 CentOS 8 下 Nginx 1.20 & PHP 8.2 安装

    Nginx 1 20 版本安装 使用 dnf module 选择 nginx 版本 如果不选择 默认安装 1 14 版 1 先 RESET 一下 xxx ecs 209716 sudo dnf module reset nginx Repo
  • 子网划分,子网掩码

    1 IP地址分类 有类编址 所谓的同一网段就是 网络位一模一样 才叫在同一网段 否则不是在同一网段 网络位 主机位 固定电话的区号 025 主机你的电话号码 85562264 同一区号 之间 漫游费 南京 徐州 苏州 漫游 借助路由器转发我
  • Qt多线程中的moveToThread()的简单用法

    之前在项目中用到了Qt的多线程 因为以前用的一直是用一个类直接继承QThread 然后再重写run 方法 需要注意的是 QThread只有run函数是在新线程里的 其他所有函数都在QThread生成的线程里 后来查阅了一些资料才知道 Qt有
  • 00_Ubuntu系统入门

    目录 前言 一 Ubuntu系统安装 1 1 VMware15安装虚拟机不兼容 无法打开 1 2 Ubuntu联网问题 二 Ubuntu系统入门 2 1 Ubuntu系统初体验 2 2 Ubuntu终端操作 2 3 shell操作 2 3
  • 关于汇编语言寄存器和指令操作的整理

    最近汇编学到后面的内容 越来越觉得前面的基础没有掌握好 弄得最后编写汇编程序的时候 寄存器瞎用 没有一点的规矩 中断操作也不知道是对哪个寄存器里的数进行操作 每次做一个小程序 都得翻书后面的INT中断查询表 感觉很不爽 今天花了大半天把几本
  • 数据通信——因特网基础

    引言 之前最开始并接触学习的是华为的路由器交换机等知识 后来慢慢的扩充到了计算机网络 现在在备考计网专业课 因此写一下我对计网现阶段知识的认知 也是对考研备考时的一个复习 我将用易于理解的逻辑阐述下计网中难以理解的知识 希望大家也多多补充并
  • Visual C++ 运行窗口一闪而过的解决方法

    本文简单介绍了Visual C 编写运行程序的步骤 解决Visual C 2010开发环境中运行程序时运行窗口一闪而过的问题 总结了 断点调试 F5 方法 开始执行 Ctrl F5 方法 调试工具条方法 暂停语句或者输入等待方法 共4种方法
  • jvisualvm远程监控centos上虚拟机的状态

    要使用jvisualvm监视远程主机需要先再远程主机上运行jstatd 1 在 JAVA HOME bin目录下新建jstatd all policy文件 内容如下 grant codebase file java home lib too
  • 符号优先级误区一:移位运算符优先级比加减运算符低

    目录 移位运算符优先级比加减运算符低 误区 发现问题 实际结果 举例子证实 代码如下 实际结果 移位运算符优先级比加减运算符低 这是我在做二分查找时发现的问题 误区 发现问题 直接除2 int mid start end start 2 移
  • message from server: “Host is not allowed to connect to this MySQL server“问题的解决办法

    数据库安装完成后 默认是不能远程登陆的 只能在本地用localhost 或者127 0 0 1登录访问 如果需要远程登录 则需要修改mysql设置 具体修改方式 1 本地登录mysql root localhost mysql u root
  • Java的网络编程

    网络编程是指编写运行在多个设备 计算机 的程序 这些设备都通过网络连接起来 java net 包中 J2SE 的 API 包含有类和接口 它们提供低层次的通信细节 你可以直接使用这些类和接口 来专注于解决问题 而不用关注通信细节 java
  • react生命周期---参考学习20220726

    react生命周期笔记 笔记 react生命周期 链接 react生命周期 https projects wojtekmaj pl react lifecycle methods diagram 1 挂载时 挂载时调用四个生命周期函数 2
  • Nginx高可用实战

    来源 jingfengjiaoyu Nginx的特点 跨平台 Nginx 可以在大多数 Unix like OS编译运行 而且也有Windows的移植版本 配置异常简单 非常容易上手 配置风格跟程序开发一样 神一般的配置 非阻塞 高并发连接
  • [QT编程系列-42]: QT定时器

    目录 第1章 QT下的定时器 1 1 主要的对象 1 2 QTTimer定时的特点 1 3 QT高精度定时器QElapsedTimer 计时 第2章 Windows操作系统下的高性能定时器 2 1 时钟分辨率 2 2 两种来实现高性能定时器
  • 使用阿里云日志服务来分析日志

    随着云服务技术越来越成熟 作为一枚运维 不得不感慨云计算的发展对我的职业生涯起了积极推动的作用 一方面我可以通过云服务来提高我的工作效率 另一方面我节省了更多时间来学习 在提高我专业度的同时 个人能力也越来越强 在此我就以阿里云日志服务 给