写点什么

生成式 AI 浪潮下,那些不可忽视的安全问题

作者:网安云
  • 2023-08-29
    广东
  • 本文字数:1042 字

    阅读完需:约 3 分钟

生成式AI浪潮下,那些不可忽视的安全问题

近半年来,ChatGPT 风靡全球,仅 1 月份的访问量就达到 5.9 亿。AI 绘画、AI 写文案、AI 生产视频…… 甚至 AI 写代码等生成式 AI,也随之爆炸式发展。各行各业厂商纷纷将 AI 应用到自身业务中去,以此塑造竞争优势。


但 AI + 风靡的同时,也暴露出众多安全隐患 ——

01/ 神话一般的 AI,也有软肋

曾有研究员发现:ChatGPT 存在严重的 Web 缓存欺骗漏洞,黑客可利用该漏洞窃取其他用户的 ChatGPT 帐户……

除了存在系统漏洞之外,还有数据泄露风险:今年 3 月 20 日,ChatGPT Plus 用户发现其使用界面上出现了其他用户的敏感信息,包括姓名、电子邮箱、地址和聊天记录等等。经过调查,发现是其客户端开源库出现问题,导致部分用户请求被错误返回给其他用户……

AI 虽然是新兴技术产物,但究其根本,采用的仍旧是传统的开发模式。根据 EndorLabs 上个月发布的《2023 软件依赖管理状态报告》显示:开源在 AI 技术堆栈中发挥着越来越重要的作用,且超过半数的人工智能开源项目,引用了存在安全漏洞的软件包。所以,AI 与其他任何 IT 系统一样,同样也难以避免,会存在开源安全风险。

同时,更值得警惕的是,生成式 AI 如今应用范围之广、与各行业业务运转融合度之强,导致其很大可能性收集到大量敏感隐私信息。一旦被入侵,后果将不堪设想。由此可见,AI 安全风险防范迫在眉睫。

02/ 如何让 AI “安全” 地助你塑造竞争优势?

1、源代码安全检测

通过自动化检测加人工审查的方式,对 AI 应用中编写和引用的源代码进行全面的检测和分析,发现源代码中的脆弱性并提供修复建议。从代码源头筑牢 AI 应用安全性,降低源代码带来的安全风险。

源代码安全审计服务:https://www.wanyun.cn/Product/CA


2、开源组件成分分析

通过开源组件安全漏洞检测、开源组件使用合规性审计功能、开源组件许可证审计等,全方位识别 AI 应用系统所引用组件存在的安全合规风险,获取改善建议,有效降低软件组件级安全风险,提升 AI 应用系统安全性。

https://www.wanyun.cn/Product/SCA


3、软件安全态势可视化

还原 AI 应用内部成分信息之间层次、依赖关系,以及软件基本信息与安全信息之间的关联关系,绘制可视化关系图表。

采集软件安全分析所需的各类静态和动态数据,对软件资产信息和安全信息进行关联与分析,形成统一的软件资产风险视图。

提高 AI 应用内部组成成分的安全态势可视化、透明程度。协助企业在安全问题来临时,进行安全风险传导路径分析,快速溯源,圈定影响范围。

https://www.wanyun.cn/Product/SBOM


免费体验咨询:13711866550(莫)

以上,就是本期推送的全部内容。

发布于: 刚刚阅读数: 6
用户头像

网安云

关注

专注渗透测试、移动安全、软件供应链安全。 2023-07-04 加入

公众号:网安云

评论

发布
暂无评论
生成式AI浪潮下,那些不可忽视的安全问题_AI安全_网安云_InfoQ写作社区