写点什么

ChatGPT 再遭禁用 | 人工智能时代下数据安全如何保障

  • 2023-05-11
    浙江
  • 本文字数:1995 字

    阅读完需:约 7 分钟

ChatGPT 再遭禁用 | 人工智能时代下数据安全如何保障

近日,三星电子宣布禁止员工使用流行的生成式 AI 工具,原因在于 4 月初三星内部发生的三起涉及 ChatGPT 误用造成的数据泄露事件。报道称,三星半导体设备测量资料、产品良率等内容或已被存入 ChatGPT 学习资料库中。


去年 11 月上线以来, ChatGPT 一直是科技领域的焦点。上线短短 5 天,注册用户数就超过 100 万,一举成为史上增长最快的消费者应用。几个月来,不少企业将其嵌入工作环境,利用人工智能提升工作效率,其中包括微软、亚马逊等行业巨头。4 月份,三星电子也引入 ChatGPT,结果不到 20 天就曝出文章开头出现的机密数据外泄事件。


人工智能强大的存储、检索和生成功能对数据安全提出了更高要求,全面禁止并不是拥抱新技术的最佳选择。AI 时代下,怎样更好地守护数据安全呢?


追溯一起数据泄露事件背后的原因,往往会涉及技术缺陷和人为操作。保障数据安全,也要双管齐下。从技术上给数据库罩上“金刚罩”,保障数据流动严进严出;在管理上合理分配操作权限,审批操作流程,全方位进行管控。目前市场上的数据库管控产品已经给出了解决方案,那么,作为一体化数据库安全管控平台的 CloudQuery 又是如何实现这些要求的呢?


1.  技术上:严格进出,细分权限


统一访问入口



传统的权限控制中,通常是 DBA 为不同的人员分配不同权限的数据库帐号,拥有帐号的人员在各自的环境中访问数据库。而使用 CloudQuery,与数据库的通信连接都建立在受信任的部署服务器上,整个平台作为数据库的统一访问入口。

CloudQuery 通过统一管控,收敛其他数据库访问入口,支持用户便捷接入 HTTPS,在外网环境使用 HTTPS 协议访问 CloudQuery,可以有效防止通信内容被窃听和篡改的风险。提升数据操作效率的同时,在数据流向的各个环节提供统一的数据安全防护措施。


权限管控




CloudQuery 支持细粒度的权限管控,如操作对象、操作类型、操作时间、影响行数、操作次数等多因素进行管控,避免高权限账号滥用风险,限制越权操作、高危操作。


数据导出权限



CloudQuery 严格遵循数据保护制度的企业级数据导出,包括精细化的权限控制,如查询与导出权限分离,并能根据导出人的权限,控制导出数据对象(精确到字段级)、导出时间(精确到分钟)、导出行数。


数据导出时还将进行严格的行为审计,包括记录导出行为的发起人、客户端 IP、SQL 语句、执行时间、导出时间、影响行数等信息。审计人员可随时搜索与查看导出记录以及导出数据。


受限资源权限



CloudQuery 支持自定义高危操作,高危提权复核方式支持同步复核。设置成功后,高危操作将被禁止,第一时间保护重要数据。


动态脱敏

CloudQuery 支持数据动态脱敏。无须改变生产数据库中的数据,即可依据用户级别、数据级别,对数据库返回数据进行差异化地脱敏。确保不同角色的用户能够差异化地访问数据库中的敏感数据。具有以下核心功能:

1.内置规则脱敏。根据提前设置的脱敏策略,自动对呈现的结果集进行脱敏。此规则适用于所有数据,适用于所有没有明文数据查询权限的用户。

2.指定字段脱敏。管理员可以设置脱敏策略,并对指定字段进行脱敏。

3.数据导出脱敏。在对数据进行导出时,自动根据内置规则以及设定的脱敏策略对导出数据进行脱敏。

4.敏感数据自动发现。数据库管理员可建立扫描任务,并根据扫描规则,从大量数据资源中快速发现和定位敏感数据,并呈现给管理员决定是否需要对该数据进行脱敏。


2.  管理上:提权审批,行为审计


流程申请和审批



三星此次数据泄露更大程度是由于内部员工的不当操作。据报道,三星 DS 部门的 A 职员,将有问题的原始代码复制到 ChatGPT,并询问了解决方法;同部门的 B 职员将为了控制产量、不良设备而编写的源代码输入到 ChatGPT,并要求其优化。


为了防止内部员工的越级提权和不当操作,CloudQuery 设有流程申请和审批模块。当普通用户需要某些权限时,需要向管理员发起流程申请。管理员可管理流程,如设置审批人、将审批进行转审、将审批流程自定义为一级/二级/多级审批等。通过审批人层层批准后普通用户才可进行提权操作,有效防止了内部员工不当操作引发的数据泄露。


查看审计日志



CloudQuery 会记录使用过程中的语句明细和操作明细,针对数据库的操作行为,进行操作中的同步监控,操作后的全方位审计。包含系统管理类和安全行为的审计,并留存日志和记录,记录 sql 执行人账号、ip、语句等信息。


CloudQuery 通过动态监测用户的操作行为,并通过页面展示详细的行为记录和安全趋势,实现精准的行为审计,保障企业数据安全。


系统监控功能




CloudQuery 具备主机监控和容器监控功能,可对自身平台所在服务器运行状态进行监控,查看 CPU 使用率与总体率、分区状态、流量状态等。还支持对容器运行状态进行监控,管理者可随时登录,及时查看服务运行状态,未雨绸缪应对数据安全事故。


数据是数字化时代的金矿,数据安全是企业行稳致远不可或缺的保障。CloudQuery 作为一体化数据库操作管控云平台,最大程度上确保了数据不泄漏、操作可管控的防护能力,为企业的智能化升级提供安全保障。



用户头像

打破“数据孤岛”,保障数据安全 2020-09-23 加入

杭州图尔兹信息技术有限公司,以研发为导向的工具产品型软件公司。主要产品:CloudQuery一体化数据操作管控平台、DockQuery新型数据库桌面客户端

评论

发布
暂无评论
ChatGPT 再遭禁用 | 人工智能时代下数据安全如何保障_人工智能_BinTools图尔兹_InfoQ写作社区