写点什么

一种配置化的数据脱敏与反脱敏框架实现 | 京东云技术团队

  • 2023-07-26
    北京
  • 本文字数:3468 字

    阅读完需:约 11 分钟

一种配置化的数据脱敏与反脱敏框架实现 | 京东云技术团队

1.tony 框架背景

  • 在业务量日益剧增的背景下,大量数据在各种业务活动中产生,数据安全控制一直是治理的重要环节,数据脱敏属于安全控制的范畴。对互联网公司来说,数据安全一直是极为重视和敏感的话题。数据脱敏是指对某些敏感信息通过脱敏规则进行数据的变形,实现敏感隐私数据的可靠保护。涉及客户安全数据或者一些商业性敏感数据,如身份证号、手机号、卡号、客户号等个人信息按照相关部门规定,都需要进行数据脱敏。

  • 在现有的微服务技术架构背景下,敏感数据的使用存在如下痛点:

  • 敏感数据与 PC、APP 客户端使用明文数据交互,数据安全无法保证。

  • 敏感数据浏览缺乏监控,无法针对性的做数据治理。

  • 微服务架构系统应用多而杂,期望引入一套通用的方案统一解决敏感数据安全问题。


基于以上痛点,tony 提供了一套完整、安全、透明化、低改造成本的数据脱敏整合解决方案。

2.tony 框架简介

Tony 是一款敏感数据脱敏与浏览记录监控工具,可对系统中的敏感信息进行脱敏处理,并在泄漏时提供追溯依据,为企业数据共享、迁移、分发提供安全保护措施。该项目基于 spring 进行开发,提供 spring-boot-starter 启动包,接入简单,主要实现功能如下:


灵活的脱敏方案


业务系统的数据千变万化,为确保所有业务数据都能够正常进行敏感信息处理,数据脱敏提供高灵活性的自定义脱敏配置。通过丰富多样的脱敏规则定义,敏感数据处理可实现高度契合业务的脱敏处理。


统一的明文数据管理


框架内置敏感数据对应的明文数据管理流程,将明文数据统一缓存管理,提供统一的明文数据访问 api。


浏览记录留痕


针对不同用户对敏感信息明文数据的浏览动作,接入方可以自定义日志格式模版记录输出到日志文件中,做到每条数据的浏览有迹可循。


异常浏览量预警


接入方通过自定义脱敏配置可以设置不同场景的敏感浏览明文数据量阈值,开启告警后,当用户访问明文数据次数到达阈值后,会触发预警流程,接入方可自定义预警逻辑。

tony 整体架构:

tony-core 模块定义了基本的脱敏功能实现,整体流程采用 spi 机制预留了充分的扩展空间。以 tony-core 为底座,集成汽车现有技术栈提供了 tony-transformers 模块对基础的脱敏功能进行了扩展:异步的缓存事件分发,分布式明文数据缓存,对接集团安全部门的敏感日志留痕,异常浏览量的邮件预警。



tony 处理流程详解:

tony 和业务代码部署在一起,接入应用通过脱敏场景与脱敏配置项的指定来实现对应业务场景的脱敏代理。业务代码只需配置场景注解即可兼容使用。此时敏感数据的脱敏工作由 tony 负责,tony 会拦截业务场景的响应数据,对敏感信息进行脱敏处理。


tony 脱敏配置详解:

脱敏配置主要分为四部分:脱敏上下文配置,脱敏场景配置,脱敏预警配置以及日志留痕模版,其详情如下图所示:



3. 系统详细设计

3.1 详细设计

3.1.1 活动图

3.1.2 时序图

3.1.3 类图


4. 接入使用

4.1 引入坐标

      <dependency>                <groupId>com.jd.car</groupId>                <artifactId>tony-spring-boot-starter</artifactId>                <version>1.8-RELEASE</version>            </dependency>
复制代码

4.2 yaml 配置

tony:  appName: "appName"  #鉴权信息key  sessionName: ""  systemName: "systemName"  warningName: "XXX"  #脱敏白名单  maskSourceName: ""  types:    name:      regex: "([\\u4e00-\\u9fa5a-z0-9]{1})[\\u4e00-\\u9fa5a-z0-9]+"      replacement: "$1**"      logName: "accountName"  mask:    order:      enable: true      limits: 100      limitError: false      cacheKey: "order:${argItem.id}"      menuName: "场景名称"      name: "order"      #日志记录操作类型      maskLogOp: ""      maskLogAccountType: 3         #预警邮箱设置   mail:    mailHost:     mailPort:     mailUser:     mailPwd:     mailFrom:     mailTo:     copyto:     sendFlag:      #异步事件缓存明文数据配置,分布式缓存 jd:  cache:    jimdb:      enable: false      url: ''  event:    enable: true    queue:      # 自定义queue名字,例如monitorQueue      maskMonitorQueue:        retryCount: 3        maxBakSize: 1000        # monitorHandle 处理事件的beanName        handlerBean: maskMonitorCacheHandle 
复制代码

4.3 日志文件配置

<?xml version="1.0" encoding="UTF-8"?><configuration scan="true" scanPeriod="60 seconds" debug="false">
<contextName>demo</contextName> <!-- 日志最大的历史 单位:天 --> <property name="maxHistory" value="90"/>
<property name="LOG_PATTERN" value="%d{yyyy-MM-dd HH:mm:ss.SSS,GMT+8:00} -%5p ${PID:- } --- [%X{PFTID}][%t] %-40.40logger{39}[%L] : %m%n"/>
<property name="LOG_CHARSET" value="UTF-8"/>
<property name="LOG_DES_PATTERN" value="%msg%n" />
<!-- 彩色日志依赖的渲染类 --> <conversionRule conversionWord="clr" converterClass="org.springframework.boot.logging.logback.ColorConverter"/> <conversionRule conversionWord="wex" converterClass="org.springframework.boot.logging.logback.WhitespaceThrowableProxyConverter"/> <conversionRule conversionWord="wEx" converterClass="org.springframework.boot.logging.logback.ExtendedWhitespaceThrowableProxyConverter"/>
<property name="LOG_PATTERN" value="%d{yyyy-MM-dd HH:mm:ss.SSS,GMT+8:00} -%5p ${PID:- } --- [%X{PFTID}][%t] %-40.40logger{39}[%L] : %m%n"/>
<!-- 彩色日志格式 --> <property name="CONSOLE_LOG_PATTERN" value="${CONSOLE_LOG_PATTERN:-%clr(%d{yyyy-MM-dd HH:mm:ss.SSS}){faint} %clr(${LOG_LEVEL_PATTERN:-%5p}) %clr(${PID:- }){magenta} %clr(---){faint} %clr([%X{PFTID}][%15.15t]){faint} %clr(%-40.40logger{39}[%L]){cyan} %clr(:){faint} %m%n}"/>

<appender name="mask" class="ch.qos.logback.core.rolling.RollingFileAppender"> <file>${log.path}/today_log/mask.log</file> <filter class="ch.qos.logback.classic.filter.ThresholdFilter"> <level>INFO</level> </filter> <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy"> <fileNamePattern>${log.path}/history_logs/mask-%d{yyyy-MM-dd}.log</fileNamePattern> <maxHistory>30</maxHistory> </rollingPolicy> <encoder> <charset>${LOG_CHARSET}</charset> <pattern>${LOG_DES_PATTERN}</pattern> </encoder> </appender> <logger name="com.jd.car.tony.log.DefaultMaskLogProcessor" additivity="false"> <level value="INFO" /> <appender-ref ref="mask" /> </logger>
</configuration>
复制代码

4.3 场景接入

 /**     * 测试脱敏     *     * @return     */    @RequestMapping("test")    @MaskMethod("order")    public DemoResult test(AuthInfoBO authInfo) {        return new DemoResult();    }
/** * 测试脱敏 * * @return */ @RequestMapping("test-list") @MaskMethod("order") public List<DemoResult> testList(AuthInfoBO authInfo) { List<DemoResult> objects = Lists.newArrayList(); objects.add(new DemoResult()); objects.add(new DemoResult()); return objects; }
@Autowired private IUnMaskProcessor unMaskProcessorProxy;
/** * 测试反脱敏 * * @return */ @RequestMapping("unmask") public Map testUnMask(@RequestBody UnMaskRequest unMaskRequest, AuthInfoBO authInfo) { return unMaskProcessorProxy.unMask(unMaskRequest, authInfo); }
复制代码

4.3 脱敏字段配置

@Datapublic class DemoResult {
@Mask(type = "name") private String userName = "jajajaasjcij";
@Mask(type = "phone") private String userTel = "18911112222";
private Long orderId = 1L;
}
复制代码

4.4 业务监控


作者:京东零售 邱新达

来源:京东云开发者社区

发布于: 刚刚阅读数: 5
用户头像

拥抱技术,与开发者携手创造未来! 2018-11-20 加入

我们将持续为人工智能、大数据、云计算、物联网等相关领域的开发者,提供技术干货、行业技术内容、技术落地实践等文章内容。京东云开发者社区官方网站【https://developer.jdcloud.com/】,欢迎大家来玩

评论

发布
暂无评论
一种配置化的数据脱敏与反脱敏框架实现 | 京东云技术团队_数据安全_京东科技开发者_InfoQ写作社区