写点什么

EventBridge 生态实践:融合 SLS 构建一体化日志服务

  • 2022-11-17
    浙江
  • 本文字数:4102 字

    阅读完需:约 13 分钟

作者: 昶风

引言

阿里云日志服务 SLS 是一款优秀的日志服务产品,提供一站式地数据采集、加工、查询与分析、可视化、告警、消费与投递等服务。对于使用 SLS 的用户业务而言,SLS 上存储的日志信息反映着业务的运行状态,通过适当地流转加工即可创建一定价值。


另一方面,阿里云 EventBridge 作为云上事件枢纽,每天承载着大量事件的流转。云上资源的操作事件、消息队列中的数据、用户业务中的自定义事件等,是否有一站式的配置工具来将这些数据统一收敛到 SLS,进而使用 SLS 强大的加工、分析能力也是一个具有价值的问题。


为了支持上述日志、数据流入流出 SLS 的场景,阿里云 EventBridge 在近期支持了 SLS 能力。用户在 EventBridge 上通过简单地配置,即可实现数据写入 SLS 和将 SLS 中日志路由到不同的 EventBridge 目标端。EventBridge 对 SLS 的支持是全面的,用户既可以在事件总线中使用 SLS,也可以在事件流中使用。本文将从 SLS 在 EventBridge 上 的使用以及若干最佳实践场景等方面,为大家介绍如何基于 EventBridge 构建 SLS 相关应用。

基于 EventBridge 使用 SLS

阿里云 SLS

日志服务 SLS [ 1] 是一款云原生观测与分析平台,为 Log、Metric、Trace 等数据提供大规模、低成本、实时的平台化服务,提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能。


1.png

SLS 在 EventBridge 上的应用

阿里云 EventBridge 提供了事件总线 [ 2] 与事件流 [ 3] 两款不同应用场景的事件路由服务。


事件总线底层拥有事件的持久化能力,可以按照需要将事件经事件规则路由到多个目标。而事件流则更轻量化,对源端产生的事件实时抽取、转换和分析并加载至目标端,无需创建事件总线,端到端转储效率更高,使用更轻便,适用于端到端的流式数据处理场景。SLS 目前对事件总线与事件流均已支持。


针对 SLS 事件源,EventBridge 会构造一个 SLS source connector,其会实时地从 SLS 服务端拉取日志。数据拉取到 EventBridge 后,会进行一定的结构封装,保留用户日志、SLS 系统参数等数据,同时增加 event 所需要的一些系统属性。


2.png


SLS Event 样例可参考如下示例。


data 部分代表用户日志内容,其中以“__”开头和结尾的字段表示日志项的 SLS 系统属性。


{    "datacontenttype": "application/json;charset=utf-8",    "aliyunaccountid": "175********6789",    "data": {        "key1": "value1",        "key2": "value2",        "__topic__": "TopicCategory",        "__source__": "SourceCategory",        "__client_ip__": "122.231.***.***",        "__receive_time__": "1663487595",        "__pack_id__": "59b662b225779628-0"    },    "subject": "acs:log:cn-qingdao:175********6789:project/demoproject/logstore/logstore-1",    "aliyunoriginalaccountid": "175********6789",    "source": "test-SLS",    "type": "sls:connector",    "aliyunpublishtime": "2022-09-18T07:53:15.387Z",    "specversion": "1.0",    "aliyuneventbusname": "demoBus",    "id": "demoproject-logstore-1-1-MTY2MzExODM5ODY4NjAxOTQyMw==-0",    "time": "2022-09-18T07:53:12Z",    "aliyunregionid": "cn-qingdao",    "aliyunpublishaddr": "10.50.132.112"}
复制代码


针对 SLS 事件目标,EventBridge 使用 logProducer 将 event 整体作为一个字段投递到 SLS,字段 key 名称为“content”。


3.png

使用介绍

  • SLS 事件源


在使用 SLS 作为事件源时(这里包含了事件总线中的事件源和事件流中的事件源),需要提供以下参数:


  • 日志项目(SLS Project)

  • 日志库(SLS LogStore)

  • 起始消费位点

  • 调用角色


在创建 SLS 事件源时,EventBridge 会自动在对应 LogStore 下创建一个以“eventbridge-”开头的消费组,事件源或事件流被删除时,对应消费组资源也会被清理。


日志项目与日志库参数,用户根据已创建的 Project 和 LogStore 去填写即可。


起始消费位点参数指定了新任务启动时的初始消费位点。这里可以选择“最早位点”、“最新位点”与“指定时间”。“最早位点”即从当前 LogStore 中最早的日志开始消费,会导致大量历史日志被读取,建议结合业务谨慎选择;“最新位点”则表示消费对应 EventBridge 任务启动后的日志;“指定时间”需要用户填写时间戳(以秒为单位),消费从此时刻开始的日志。


针对调用角色,其实是允许 EventBridge 以这个角色的身份去调用读取用户 SLS 日志。用户需要创建一个自定义角色,并将其授信给事件总线 EventBridge。角色的权限方面则可以按照需要去进行设置,在权限最小的原则基础上,权限策略提供的角色应保证事件总线 EventBridge 可以读取对应 LogStore 日志与消费组的增删操作,至少赋予角色 LogStore 消费权限与消费组的增删操作。参考示例:


{  "Version": "1",  "Statement": [    {      "Action": [        "log:ListShards",        "log:GetCursorOrData",        "log:GetConsumerGroupCheckPoint",        "log:UpdateConsumerGroup",        "log:ConsumerGroupHeartBeat",        "log:ConsumerGroupUpdateCheckPoint",        "log:ListConsumerGroup",        "log:CreateConsumerGroup",        "log:DeleteConsumerGroup"      ],      "Resource": [        "acs:log:*:*:project/<指定的project名称>/logstore/<指定的Logstore名称>",        "acs:log:*:*:project/<指定的project名称>/logstore/<指定的Logstore名称>/*"      ],      "Effect": "Allow"    }  ]}
复制代码


  • SLS 事件目标


在使用 SLS 作为事件目标时(这里包含了事件总线中的事件目标和事件流中的事件目标),需要提供以下参数:


  • 日志项目(SLS Project)

  • 日志库(SLS LogStore)

  • Topic

  • 调用角色


日志项目、日志库参数含义同 SLS 事件源。Topic 即 SLS 日志主题,用户可以根据需要进行设置,非必填内容。


在创建 SLS 事件目标时,确保使用的调用角色有写入给定日志库权限即可。参考示例:


{  "Version":"1",  "Statement":[    {      "Effect":"Allow",      "Action":[        "log:PostLogStoreLogs"     ],      "Resource":[        "acs:log:*:*:project/<指定的Project名称>/logstore/<指定的Logstore名称>"      ]    }  ]}
复制代码

使用示例

SLS 事件源和事件目标,其事件总线与事件流的参数配置相同,这里示例了如何创建  SLS 事件源和事件目标的 EventBridge 事件流。


  • 前期准备


  1. 开通 EventBridge 服务;

  2. 开通 SLS 服务并创建 Project 与 Store。


  • 创建 SLS 事件源


  1. 登陆 EventBridge 控制台,点击左侧导航栏,选择“事件流”,在事件流列表页点击“创建事件流”;

  2. “基本信息”中“事件流名称”与“描述”按照需要填写即可;

  3. 在创建事件流,选择事件提供方时,下拉框选择“日志服务 SLS”;

  4. 在“日志服务 SLS”一栏中选配置 SLS Project、LogStore、起始消费位点与角色配置。


4.png


  • 创建 SLS 事件目标


  1. 在创建事件流的事件目标时,服务类型选择“日志服务”;

  2. 配置 SLS Project、LogStore、日志主题、日志内容、角色配置等参数。


5.png


  1. 保存启动即可创建事件流。


6.png

最佳实践示例

异步架构完备性校验

在使用消息队列搭建异步应用架构时,会偶发遇到消息丢失的情况,这种情况下的问题排查通常较为麻烦,需要确定问题到底是出在发送端、消费端还是消息队列上,这种场景可以使用 SLS + EventBridge 来进行相关预警和现场保留。


  1. 业务 1 发送消息到消息队列,业务 2 异步消费 MQ 中的消息,实现架构解耦;

  2. 消息发送端和消费端,在完成消费发送、消费的相关操作后,均将操作日志打印出来,并采集到 SLS 上,日志中可以包含消息 ID 等字段以确保可溯源;

  3. 配置 EventBridge 事件流,事件提供方为 SLS,事件接收方为函数计算 FC;

  4. FC 中的服务读取 SLS 中日志内容,若发现针对某条消息,若仅有发送日志无消费日志,则说明可能存在漏消息的可能性,需要相关人员及时介入排查。


7.png

异常业务异步处理

部分消息队列如 RocketMQ 有死信队列能力,当用户消费失败达到一定次数时,消息会被投递到死信队列。用户也可以使用 SLS + EventBridge 构建业务死信队列,以完成对异常情况的处理。


例如下图是一个电商平台的订单处理系统,当订单处理成功时,相关信息会被写入 DB 或者进行后续操作。但如果订单处理异常用户又不想要阻塞现有订单处理流程,则可以将处理异常订单的流程异步处理。


  1. 用户下单/付款,订单系统进行业务处理,处理成功则将数据变更写入 DB;

  2. 订单处理异常,记录相关信息日志;

  3. 搭建 EventBridge 事件规则。事件源为 SLS,事件目标为函数计算 FC;

  4. 当有异常业务日志产生时,日志内容被 SLS 事件源拉取,随后投递到 FC,由专门的服务来处理异常订单。当然,在架构设计时也可以将异常订单信息直接投递到函数计算,但对于大部分业务系统而言,当有异常出现时通常都会进行相关日志的打印,即异常日志大概率是存在的,这个时候使用 SLS + EventBridge 则无需再使用函数计算的发送客户端,仅按需打印日志即可,对业务的侵入性更小。


8.png

消息备份

目前阿里云上的消息队列产品种类丰富,用户在使用消息队列实现业务解耦的同时,也会产生对消息内容进行加工分析的需求。SLS 拥有强大的数据加工能力,使用 EventBridge 将消息路由到 SLS,在实现消息备份的同时也可以利用 SLS 的分析加工能力来提升业务的可观测性。


  1. 搭建 EventBridge 事件流。事件提供方为各种云上消息队列,事件目标方为日志服务 SLS;

  2. 使用 SLS 的能力完成消息的加工、查询、分析与可视化。


9.png

自建 SQL 审计

目前 EventBridge 已经支持了 DTS 作为事件源的能力,使用 EventBridge 可以轻松实现构建自定义 SQL 审计的需求。


  1. 用户新建 DTS 数据订阅任务,捕获数据库变更;

  2. 搭建 EventBridge 事件流,事件提供方为 DTS,事件接收方为日志服务 SLS;

  3. 用户需要对 SQL 进行审计时,通过查询 SLS 进行。


10.png

相关链接

[1] 日志服务 SLS


https://www.aliyun.com/product/sls


[2] 事件总线


https://help.aliyun.com/document_detail/163897.html


[3] 事件流


https://help.aliyun.com/document_detail/329940.html


感兴趣的小伙伴们可以扫描下方二维码加入钉钉群讨论(群号:44552972)


11.png


点击此处,进入 EventBridge 官网了解更多信息~

发布于: 刚刚阅读数: 3
用户头像

阿里巴巴云原生 2019-05-21 加入

还未添加个人简介

评论

发布
暂无评论
EventBridge 生态实践:融合 SLS 构建一体化日志服务_阿里云_阿里巴巴云原生_InfoQ写作社区