集中式日志存储架构

2023-11-06

Hello大家好,欢迎回来,我们今天的视频课程要讨论的内容是 AWS的集中式日志存储架构,包括集中式日志存储架构需要考虑的事项,以及使用了两个AWS账户对架构的实现做了个快速的演示。

我们开始今天的内容。

集中式日志存储架构

当前,在绝大多数组织中,日志的管理和分析都被列为 是非常核心的任务。它使组织能够更加了解业务运营情况、安全性、变更管理、各事件之间的关系等,可帮助持续对整个组织的架构运转情况全面的掌控。

一般来说,当讨论的是AWS时, 需要我们关注的日志服务有 像AWS Cloudtrail ,VPC flow 日志,aws config日志,可能还会有来自EC2的日志等等,因此,将所有AWS账户的日志转发到一个作为中央区域的账户的S3存储桶,集中管理和存储是非常有必要的。然后可以在这个中心区域分析整个组织的日志,也可以使用splunk等工具从S3存储桶中获取日志,进行安全、审计、监控、排错等其他的需求分析,通过单一的节点实现所有管理的AWS账户的日志存储、分析、监控需求。

图片

实现集中日志架构注意事项

我们先看下在实现集中式日志架构时,需要考虑的一些注意事项。

首先,尽早定义日志所需保留时间等要求,以及日志生命周期策略,这对于您的组织在遵循某种审计、合规政策时显得更加的重要,对于不同的日志类型对应不同的日志保留要求是非常常见的。我们假设有一个日志需要保留5年,就要确保如果您把日志存储到了一个集中的中央账户的S3存储桶,你要确保日志将在存储桶中保留5年且不会被自动删除。

同样,生命周期策略也是同样重要,尤其是出于成本因素考虑的时候。比如,当组织的某个应用程序产生了重要的日志,并需要集中存储时,数据达到了TB级别,我们可以先分析一下后续对于此日志的需求,评估后续日志的检索次数和对于检索时间的要求,根据这些需求您可能不需要一直将全部TB级别的日志放在S3存储桶,可以将大部分日志转移至glacier满足您的需求并为您节省很多的成本,这一点恰好就是生命周期策略起到重要作用的地方。

第二个 是生命周期策略要自动化执行,比如上面提到的程序日志,将产生时间在1个月内的日志保存在S3中,以便在程序出现问题或其他需要的时候快速,高频进行检索;当在S3保留时间超过1个月后,将所有旧的应用程序日志自动转移到glacier以节省大量的成本。这些应该是自动化执行不需要我们人工去干预的。

第三点是我们的系统要能够自动化安装和配置日志传输代理程序。假设你有ec2实例在autoscaling环境,在后半夜一个新的ec2启动了,你需要确保这个新启动的实例的应用程序日志或者服务器日志,也要传输到S3存储桶中。要实现这个需求,就需要确保日志传输代理程序自动安装在了这个新启动的实例上。取决于不同的环境案例,可以将其在UserData实现,或者也可以将它集成在AMI中。

这个很好理解吧?因为如果您使用了autoscaling,非常可能发生的一个情况是一个EC2实例在后半夜因扩展规则自动启动,然后在运行一段时间比如当cpu使用率降低后这个新启动的实例又被终止了,如果您没有自动安装和配置日志传输代理程序,那么这个新启动的实例上的日志将会丢失。

最后一点是确保您实现的解决方案支持混合云架构。当前出于安全考虑企业更愿意将数据存放在本地私有云中,但是同时又希望可以获得公有云的资源,在这种情况下,现在很多组织都在朝着混合云架构方向发展,既拥有私有云,又同时使用多家公有云,如AWS ,阿里云等,所以不管你采用的什么解决方案,确认它支持混合云架构。

这是集中日志架构的一些注意事项。

图片

AWS日志相关服务

因为我们的课程是AWS认证课程,所以我们需要了解如何使用AWS托管服务来构建集中式日志解决方案。
AWS提供了很多服务帮您构建,如AWS ElasticSearch Service、AWS S3、AWS CloudWatch servcie 、Kinesis Firehose等等

需要说明的一点是,在AWS中,在配置集中式日志存储方案时,以上提到的服务的配置方式都是不同的,比如配置CloudTrail服务构建集中式日志解决方案的方式是和VPCflow配置的方式是不同的,需要注意。

图片

集中式日志存储实现快速演示

接下来我们快速演示下集中式日志存储架构。
我们介绍下演示的架构,使用两个AWS账户,在后面的演示中我们统一把把左边的账户成为中央账户或者ACCOUNT A,将右边的账户成为ACCOUNT B。我们将ACCOUNT B的config和CloudTrail日志集中存储至中央账户的S3对应的两个存储桶中。

当然,这个架构是只是使用了2个账户的架构,您的组织中可能还存在着account c,d,e,分别可以配置这些账户将对应的日志转发至中央账户的S3存储桶中集中存储,实现集中式日志存储架构。

图片

登陆ACCOUNT A ,查看日志生成情况

我们现在登陆了中央账户account A,我们使用这个账户负责集中式日志存储。
打开S3控制台,可以看到有两个和本次演示相关的S3存储桶,iloveaws-central-config和iloveaws-central-cloudtrail,负责存储来自不同账户ACCOUNT B对应的aws config和cloudtrail日志。

图片

我们快速打开ioveawscn-central-cloudtrail存储桶,可以看到来自另外一个aws账户ACCOUNT B的CloudTrail日志已经成功转发过来了,在s3存储桶中是按照账户id目录进行存储的,这个2732数字的文件夹就是account b的账户id。

图片

登陆ACCOUNT B

我们切换到账户account b浏览器,我们看下ACCOUNT B账户id,和刚才在中央账户中的cloudtrail存储桶的文件夹的账户id是一样的。也就是说目前中央账户的s3存储桶中已经存储了来自不同AWS账户的ACCOUNTB的cloudtrail日志。

图片

下面我们进入到account b的cloudtrail控制台,进入跟踪,我们看下我们已经创建好的配置。在存储位置部分,可以看到我们已经完成 将中央账户的s3存储桶ioveaws-central-cloudtrail配置到了cloudtrail配置的存储位置。

完成这一步后还无法成功转发日志到中央账户的s3,因为S3要开放相应的策略允许它访问。

图片

登陆ACCOUNTA,查看存储桶策略

我们切换到中央账户的这个S3存储桶,我们提前配置好了存储桶策略,策略的作用是允许account B的cloudtrail日志转发写入这个存储桶。这里显示了具体的存储桶策略的内容,我们指定了cloudtrail.amazonaws.com这个aws service允许对这个存储桶GetBucketAcl ,PutObject行为,这个策略内容我之后会附到课程后面,大家直接复制修改后就可使用。

以上是cloudtail对应的配置演示。

图片

我们前面演示了CloudTrail如何配置构建集中式日志存储,参照配置,可以将组织中所有账户的cloudtrail日志转发到中央账户的S3存储桶中集中存储。前面提到过不同的AWS服务(CloudTrail,VPCFlow)构建集中式日志解决方案的配置方式各不相同。同样cloudtrail和aws config的配置方式是不同的,我们下面将快速演示下aws config 日志如何配置构建集中日志存储。

图片

我们回到中央账户的s3控制台,打开用于存储config日志的iloveawscn-central-config存储桶,我们同样可以看到来自于不同账户account b的aws config日志已经成功写入存储桶中

图片

登陆ACCOUNT B

我们切换到account b打开aws config控制台,进入设置,查看s3存储桶配置部分,同样,可以看到我们已经将中央账户的s3负责存储config日志的存储桶名称配置到了这里。

为了将accountb的aws config日志转发到中央账户相应的存储桶中,我们同样要为config日志的存储桶配置存储桶策略,我们切换到中央账户的s3控制台,打开存储桶策略,我们看下我们已经配置策略的内容,基本上和前面cloudtral的策略差不多,Service这里我们改成了config.amazonaws.com。

好的,以上就是我们今天的课程内容, 我们下节课将从头开始配置本节课的快速演示内容,配置CloudTrail和aws Config日志实现跨AWS账户日志存储。

图片

希望此系列教程能为您通过 AWS解决方案架构师认证 Professional 认证考试带来帮助,如您有任何疑问,请联系我们:

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

集中式日志存储架构 的相关文章

随机推荐

  • ADXL345传感器介绍

    今天小白给大家介绍一款当下比较流行的三轴加速度传感器 ADXL345 通过本文的介绍让大家学会如何使用这款功能强大的三轴加速度传感器 欢迎一起交流学习 1 ADXL345传感器简介 该款传感器如下图 ADXL345 是 ADI 公司推出的基
  • springboot整合activiti7

    一 添加依赖
  • 【无监督】2、MAE

    文章目录 一 背景 二 方法 三 效果 论文 Masked Autoencoders Are Scalable Vision Learners 代码 https github com facebookresearch mae 出处 CVPR
  • 简述算法中的时间复杂度和空间复杂度

    引入类比相关问题 问题 大约花费时间 眨一下眼 不到一秒 瞬间 口算 123 34 几秒 烧一壶水 几分钟 睡一觉 几个小时 完成一个项目 几天 几个星期 j几个月 飞船从地球飞出太阳系
  • IPv6地址结构详细解析

    转载地址 http www wzsky net html Cisco Network 54512 html 一 IPv6地址的表示形式 用文本方式表示的IPv6地址有三种规范的形式 1 优先选用的形式是X X X X X X X X 其中X
  • 从零开始学习3D可视化之拾取

    1 通过属性和接口获取鼠标拾取 Pick 的物体 2 通过事件获取鼠标拾取的物体 3 区域 Pick 物体 4 pickedResultFunc设置拾取对象回调函数 在开发数字孪生可视化场景应用时经常会用到拾取功能 顾名思义 在数字孪生可视
  • (docker)mysql镜像拉取-创建容器-容器的使用【个人笔记】

    容器的第一次创建 容器的第一次创建 需要先下载镜像 从 镜像拉取 0 可以搜索镜像的版本 docker search mysql 1 先拉取MySQL的镜像 默认拉取最新版 使用下面的命令拉取mysql镜像 docker pull mysq
  • The GNU nano text editor (文本编辑器)

    The GNU nano text editor 文本编辑器 https www nano editor org GNU nano is a small and friendly text editor 1 GNU nano The GNU
  • 服务端缓存

    CDN缓存 用户浏览器与服务器的交互流程 客户端浏览器先检查是否有本地缓存是否过期 如果过期 则向CDN边缘节点发起请求 CDN边缘节点会检测用户请求数据的缓存是否过期 如果没有过期 则直接响应用户请求 此时一个完成http请求结束 如果数
  • 救世之树服务端开服架设服务器搭建教程

    救世之树服务端开服架设服务器搭建教程 救世之树架设教程 准备好服务端 版本 服务器 域名开始实操 我是艾西 需要给服务器开启虚拟内存 设置好后服务器需要重启下 第一步 解压服务端到D盘 右键 000 修改计算机名 ps1使用powershe
  • VMware15安装及Linux环境搭建教程

    VMware15安装及Linux环境搭建教程 A 软件安装 B 新建虚拟机环境 附加题 C 文件与网络 文件设置 网络设置 对于很多计算机类专业的学生来说 经常有在Linux系统上进行开发的需要 本文介绍了如何利用VMware在Window
  • js数组常用方法

    JavaScript是一种高级编程语言 广泛应用于Web开发 在JavaScript中 数组是一种常用的数据类型 它可以用来存储一组值 这些值可以是任何类型 包括数字 字符串 对象等 JavaScript数组提供了许多强大的操作方法 可以帮
  • jmeter学习所采的坑

    1 jdk安装是32位与jmeter版本不兼容 jdk安装是32位 jmeter5 4 1 卸载jdk安装64后问题解决 2 jmeter安装后保存不了测试计划 解决方案 各种百度 最后在选项 外观 选择windows 可以保存测试计划 3
  • (代码审计)zzcms存储型XSS

    1 漏洞成因是stripfxg 函数引起的 先来看看这个函数 inc function php function stripfxg string htmlspecialchars decode false nl2br false 去反斜杠
  • flask mvc模式开发_MVC设计模式

    MVC的全名是Model View Controller 是模型 Model 视图 view 控制器 controller 的缩写 是一种设计模式 它是用一种业务逻辑 数据与界面显示分离的方法来组织代码 将众多的业务逻辑聚集到一个部件里面
  • RuntimeError: Error(s) in loading state_dict for BASE_Transformer

    最近跑一个深度学习变化检测的项目BIT CD 严格按照作者的说明页进行训练和测试 但是跑出来的模型就是无法正常工作 而用作者的预训练模型就正常工作 百思不得其解 根据错误 逐步调试 输出 总算是找到了问题的所在 其实这个问题如果对于老手 估
  • 全面解析大语言模型的工作原理

    当ChatGPT在去年秋天推出时 在科技行业乃至世界范围内引起了轰动 当时 机器学习研究人员尝试研发了多年的语言大模型 LLM 但普通大众并未十分关注 也没有意识到它们变得多强大 如今 几乎每个人都听说过LLM 并有数千万人用过它们 但是
  • 3D模型的渲染,这一篇就够了

    3D模型的渲染 这一篇就够了 效果图及源码 1 mapbox 2 threebox tube line logistics raycaster mercator object3D 效果图及源码 1 mapbox https docs map
  • ORACLE(student)表习题与答案

    1 查询Student表中的所有记录的Sname Ssex和Class列 SELECT sname ssex class FROM student 2 查询教师所有的单位即不重复的Depart列 SELECT distinct depart
  • 集中式日志存储架构

    Hello大家好 欢迎回来 我们今天的视频课程要讨论的内容是 AWS的集中式日志存储架构 包括集中式日志存储架构需要考虑的事项 以及使用了两个AWS账户对架构的实现做了个快速的演示 我们开始今天的内容 集中式日志存储架构 当前 在绝大多数组