一、引言：效率的盛宴，合规的考题

人工智能正在彻底改写软件开发的逻辑。短短几年，AI 已从一个辅助提示的工具，进化到能独立生成完整模块，甚至快速搭建出应用原型。行业数据显示：谷歌已有超 25%的代码由 AI 自动生成，微软更预测，到 2030 年，AI 将承担 95%的编程任务。

效率飙升的背后，一场关于合规的隐性考试才刚刚开始。 AI 可以精准补全函数，却识别不出代码是否受 GPL 协议约束；它能高效组合算法，却理解不了是否触犯客户的商业秘密条款。

说到底，AI 再强大，也“不懂规则”。

当整个行业仍沉浸在“提速狂欢”中，我们更需要冷静下来思考：在 AI 尚且“不懂”的当下，企业与开发者该如何主动应对，才能避免创新之路越走越窄？

二、为什么 AI“不懂开源、不懂法律”？

很多人误以为“训练多了就自然会合规”，事实却远非如此。

1、现阶段的 AI 的本质是“概率预测”，而非真正的“理解”

大语言模型基于历史数据做概率推断，目标是生成最可能的下一段代码，而非理解法律条款或知识产权规则。它不会识别许可证、专利风险，更不会主动规避侵权。

2、技术语境 vs 法律语境

法律上，哪怕 10 行具有独创性的代码，若在 GPL 等许可证下未经授权使用，也可能构成侵权。技术上，同样一段代码却常被视作“通用逻辑”，开发者更关注功能而非法律属性。 而 AI，恰恰卡在两种语境的断层中——它既无法分辨差异，也不会提示风险。

3、相似代码复现，埋下合规地雷

即便 AI 并非有意“抄袭”，它仍可能复现出与训练数据高度相似的代码片段。尤其在常用库和通用算法中，这种随机相似性极易触发版权或许可证纠纷。

4、工具无法担责，使用者才是责任主体

AI 不是法律意义上的责任主体，不能承担侵权或违约后果。一旦出事——无论是代码侵权、漏洞引发损失，还是违背商业条款——责任终将落在使用它的企业与个人身上。

三、表面高效，实则多坑：AI 生成代码的四大风险

只顾效率提升，却忽视以下隐患，无异于在雷区中奔跑。

1、法律与知识产权风险

许可证冲突：如 AI 生成了 GPL/AGPL 等强传染性协议代码，却被用于闭源商业软件，直接导致法律纠纷。

版权模糊：模型在未经授权的情况下复现他人代码，企业可能被动陷入侵权诉讼。

2、安全风险

漏洞密度高：研究显示，AI 生成代码的漏洞率常高于人工编写。因为它以“语法正确”和“功能实现”为目标，而非“安全稳健”。典型问题包括：

2.1 SQL 注入：

AI 常常生成未对用户输入进行参数化处理的数据库查询代码，忽视输入验证的安全原则

2.2 弱加密：

推荐已过时的算法，或未正确配置加密密钥长度、模式等参数

2.3 硬编码凭证：

AI 生成代码时，为了快速给出可运行的示例，往往会直接将密码、API 密钥等敏感信息硬编码在代码中，而不是通过环境变量或安全配置文件进行管理。这种做法虽然便于演示，但在真实生产环境中会导致凭证暴露风险，违背了安全开发中关于敏感信息隔离与凭证安全管理的最佳实践。

2.4 供应链投毒：

攻击者正利用 AI 批量生成“带毒代码”，伪装成开源补丁或第三方库，诱导引入后门，极难察觉。这些恶意片段可能通过多种路径渗透开源生态：以“优化补丁”名义提交至热门项目 PR，利用维护者的审核压力蒙混过关；打包成仿冒第三方依赖库（如 npm、PyPI 包），诱导开发者引入；或伪装为博客、论坛的示例代码，利用“复制粘贴”习惯扩散。一旦被企业调用，后门即可在特定条件下触发，导致敏感数据泄露、系统被接管，并通过依赖传递造成连锁风险。值得注意的是，已有研究表明攻击者可以通过微调 AI 模型，使生成的后门更契合特定行业生态，甚至在一定程度上绕过传统 SAST 工具，而这类“AI 赋能”的供应链投毒正在成为开源安全领域必须重点关注的新兴威胁。

3、供应链透明度缺失

传统开发可通过软件物料清单（SBOM）追溯组件来源、许可证和漏洞。但 AI 生成代码是一个“黑箱”：

• 无法溯源代码片段出自何项目、受何许可约束；

• 缺乏漏洞关联能力，难以匹配 CVE 等公开漏洞库；

• 一旦进入供应链多层传递，风险会像多米诺骨牌一样向下游扩散。

在软件供应链安全体系中，透明度的核心在于对组件来源、许可证约束及漏洞状态的可追溯性，而 AI 生成代码天然缺乏这种透明属性，正成为供应链风险的隐形风险。

依赖溯源链条的断裂是首要问题，传统开发模式中，代码组件的依赖关系、许可证类型、漏洞记录（如 CVE 编号）等元数据会通过软件物料清单（SBOM）等形式被清晰记录，企业可据此开展合规审计与风险评估。但 AI 生成代码的输出过程是“黑箱式”的，它基于训练数据中的海量片段进行概率组合，却不会主动标注代码中是否包含开源组件、源自哪个项目、受何种许可证约束，更不会关联已知漏洞信息。这直接导致企业在使用 AI 生成代码时，无法像追溯人工编写代码那样定位依赖源头，形成“知其然，不知其所以然”的溯源盲区。

例如，某企业通过 AI 生成的加密模块可能隐含某开源项目的核心逻辑，但因缺乏来源标注，企业难以察觉其受 GPL 许可证约束，最终因商业使用触发合规风险。这种透明度缺失又会进一步引发风险的层级传染，在多级供应链体系中，上游企业（如软件开发商、组件供应商）若将未经溯源的 AI 生成代码纳入交付物，下游用户（如集成商、终端企业）将完全暴露在“未知风险”中：既无法通过溯源识别上游代码中隐藏的许可证冲突，也难以通过漏洞库匹配发现潜在安全缺陷（如类似 Log4j 的历史漏洞）。一旦上游代码存在合规瑕疵或安全漏洞，风险会像多米诺骨牌一样沿供应链传导，最终由终端企业承担全部后果，可能是版权诉讼、市场禁售，或是被攻击者利用漏洞发起定向攻击。

当前，随着 AI 生成代码在企业研发中的渗透率提升，这种“无溯源信息的代码流转”正使得供应链的风险可视性持续下降，也让传统基于 SBOM 的治理体系难以发挥作用，成为行业亟待解决的关键挑战。

4、商业与信任风险

• 客户信任流失：一次因 AI 代码导致的安全事件或合规纠纷，就足以让客户对团队的技术能力和治理水平产生质疑；

• 融资与并购障碍：投资者和收购方日益重视代码合规性与供应链透明度。缺乏清晰溯源和合规记录的企业，估值可能被打折，甚至直接被放弃交易。

这些风险往往潜伏不发，可一旦爆发，代价极高。

四、如何应对？人类必须主动补位

既然 AI“不懂”，就需人和制度向前一步，把合规与安全变为研发流程中的刚性环节。

1、明确责任主体，建立跨职能治理机制

• 法务团队：需制定 AI 代码审查清单，覆盖许可证兼容性、专利与数据合规；

• 安全团队：应引入 SCA/SAST 工具，嵌入 CI/CD 流程做自动扫描；

• 技术团队：可通过插件在 IDE 中实时标记 AI 生成代码，记录模型版本、生成时间等元数据；

• 企业应在内部制度中明确：未经合规审查的 AI 代码禁止进入生产环境。

2、合规左移：从实时检测到流水线拦截

• 在开发者写代码时，就借助 SCA 工具实时提示许可证与漏洞风险；

• 在 CI/CD 流水线中嵌入自动化工具，对含高风险开源组件或漏洞的代码实施卡点拦截；

• 建立 Pre-commit hook，在提交时即运行合规校验。

3、推动透明化：训练数据与输出皆可溯源

• 要求 AI 厂商提供训练数据来源说明，避免使用未授权数据；

• 对 AI 生成的代码附加数字标签，声明模型版本、训练集标识、许可证状态等信息。

4、构建可信供应链：让代码全程可溯

• 通过企业级制品库统一管理依赖组件，自动生成 SBOM；

• 建立代码血缘图谱，实现漏洞级联定位和影响范围分析。

5、塑造合规文化：从意识、机制到激励

• 培训研发人员具备基础的法律与安全知识；

• 将合规表现纳入绩效考核，奖励主动排查风险的行为；

• 领导者需在战略层面重视合规，视其为竞争力而非成本。

五、合规的另一面：从风险控制到价值创造

不要把合规看作负担。在 AI 编码时代，它恰恰是企业增值的关键。

• 市场准入：尤其在欧美市场，缺乏合规能力的产品根本无法进入。

• 融资与并购加分：清晰的合规记录与代码溯源能力显著提升企业估值。

• 客户信任的基石：乙方能证明自己“不埋雷”，才是长期合作的前提。

• 创新保护伞：只有当法律风险可控时，团队才能真正放手创新。换句话说，合规不是阻碍创新的枷锁，而是让其可持续的加速器。

六、未来：可信 AI 开发的可能图景

如果我们能系统落实治理机制，未来我们或许将迎来：

• AI 生成代码自带合规标签：每段代码均附有许可证、来源与风险提示；

• 开发工具链实时合规预警：IDE 在补全时即可提示潜在风险；

• 全球标准协作：通过标准数据格式（如：SPDX）、标准化组织及标准（如 OpenChain 发起的 ISO5230 等）等方式实现合规数据互认，构建透明生态；

• 合规即估值：投资人评估企业时，将把“代码合规能力”视为核心指标之一。

在“不懂法”的模型时代，我们必须成为“懂规则”的人。

AI 写代码已成大势，它送来了效率革命，也带来了规则危机。

模型不会理解许可证，更不会承担法律责任。唯有主动建立系统性的合规体系，才能避免今天的效率红利，变成明天的法律负债。学会在创新和规则之间取得平衡，才是 AI 编码时代真正的赢家。

关于安势信息

上海安势信息技术有限公司是国内先进的软件供应链安全治理解决方案提供商，核心团队来自 Synopsys、华为、阿里巴巴、腾讯、中兴等国内外企业。安势信息始终坚持 DevSecOps 的理念和实践，以 AI、多维探测和底层引擎开发等技术为核心，提供包括清源 CleanSource SCA（软件成分分析）、清源 SCA 社区版、清正 CleanBinary (二进制代码扫描)、清流 PureStream（AI 风险治理平台）、清本 CleanCode SAST（企业级白盒静态代码扫描）、可信开源软件服务平台、开源治理服务等产品和解决方案，覆盖央企、高科技、互联网、ICT、汽车、高端制造、半导体 &软件、金融等多元化场景的软件供应链安全治理最佳实践。

欢迎访问安势信息官网https://www.sectrend.com.cn 或发送邮件至 info@sectrend.com.cn 垂询。