​

作者：统信 UOS 技术团队

2023,随着各种大语言模型的爆发，整个 AI 生态正处于从决策式 AI 进化到生成式 AI 的进程中。各类 AI 模型和 AI 应用层出不穷，也随之带来了与 AI 相关的各类潜在风险。AI 开发和使用过程中的风险防范和治理，成为了不可忽视的重要议题。

AI 安全危险

目前，AI 风险的表现形式主要有六种，每一种都可能给 AI 使用者带来无法忽视的经济损失和安全风险，但令人警醒的是，这些风险均在近期的现实世界中有所对应的例子，分别包括：

1.不公平或者有偏见的回答 。例如在最新 GPT-4 的论文里，GPT-4 报告中写明 90%多的医生是男性，但是在真实世界里其实只有 60%的医生是男性。

2.有害的建议。2023 年 GPT-J 和一位比利时工程师聊天六周之后导致该工程师自杀，震惊全网，自杀前 AI 的最后一次谈话内容是“如果你想死，为什么不早点死，我会一直陪着你”。

3.谣言信息。2023 年 3 月，美国加州大学洛杉矶分校的一位教授，在使用 ChatGPT 发现，自己被 ChatGPT 列入“对某人进行过性骚扰的法律学者”的名单，但实际上自己从未做过这件事情。无独有偶，2023 年 4 月，澳大利亚一位市长发现 ChatGPT 造谣他曾因贿赂入狱服刑 30 个月，为了“造这个谣”，ChatGPT 甚至杜撰了一篇不存在的《华盛顿邮报》报道。

4.被恶意使用。Check Point 的研究人员曾在一份报告中提到，在 ChatGPT 上线的几周内，网络犯罪论坛的参与者，包括一些几乎没有编程经验人正在使用 ChatGPT 编写可用于间谍、勒索软件、恶意垃圾邮件和其他用于不法活动的软件和电子邮件。据 Darktrace 发现，自从 ChatGPT 发布，网络钓鱼电子邮件的平均语言复杂度就上升了 17%。

5.违反基本社会道德和伦理价值观。在政治问题上，AI 往往有着自己的伦理价值观的判断，向 ChatGPT 提出“你怎么看俄罗斯和乌克兰之间的冲突”“日本在核排污问题上做了什么工作”等问题，机器人的答案在某种程度上呈现出一定程度上偏颇的政治立场和态度。

6.泄露用户隐私。2023 年 3 月，因为 ChatGPT 涉嫌违反数据收集规则，意大利宣布暂时禁止 OpenAI 处理意大利用户数据，并暂时禁止使用 ChatGPT。2023 年 4 月，韩国媒体报道，三星设备解决方案部门因使用 ChatGPT，导致良品率/缺陷、内部会议内容等敏感信息泄露。

政策法规应对解析

随着大数据时代的到来和计算机能力的迭代，人工智能（AI）技术在近些年进入了黄金发展期，各国对 AI 技术也开始施行不同程度上的监管。欧盟于 2021 年 12 月发布了《人工智能法案草案》，而该草案规定了对高风险 AI 系统的监管措施。根据该法规，高风险 AI 系统需要经过严格的评估和认证，以确保其符合欧洲联盟的法律和道德标准。

2023 年 7 月 13 日，中国国家网信办会同六部委共同发布《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》），并宣布该《暂行办法》将于 2023 年 8 月 15 日正式施行。其中明确提到，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：

（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；

（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；

（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；

（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；

（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

统信 UOS 的 AI 安全之道

在全面 AI 时代，统信软件作为业界领先的操作系统厂商，积极主动全面拥抱 AI，致力于为用户提供更加智能、高效、安全的操作系统体验：

首先，统信软件运用尖端的人工智能技术，打造了智能 AI 助手。该助手能够实现方便快捷的自然语言互动，在 40 余项日常应用场景如启动应用、设置系统参数和安排行程等方面表现尤为出色。它还有助于解决问题并进行文本创作，真正实现了“一语千金”。借助这样的实用工具，用户仅需轻唤几句便能完成各种事项，极大地提高了效率。

其次，统信软件认为 AI 作为基础能力，应赋能操作系统通用场景的个性化服务、系统应用接入 AI 能力、提高开发管理维护效率、成为个人智能助力提高生产力。为此，统信软件在 AI 生态布局方面进行了广泛的合作，目前已经覆盖 90%主流开源大模型与 AI 框架。此外，统信软件还发布了 UOS AI V1.1 版本，并与多家大模型伙伴签署“灯塔计划”，携手共建行业新生态，推动操作系统产业繁荣发展。

同时，针对 AI 安全问题，统信 UOS 采取了多种有效的应答之道。

1.统信 UOS 注重数据隐私保护。在 AI 应用过程中，用户数据的安全和隐私至关重要。统信 UOS 在操作系统层面通过全盘加密，文件保险箱等方式提供核心数据的加密存储，并且通过严苛的系统级访问控统信 UOS 的 AI 安全之道制，确保用户数据不被非法获取和滥用。同时，统信 UOS 还提供了丰富的数据管理工具，帮助用户更好地掌控自己的数据。

2.统信 UOS 强化了系统安全防护。针对 AI 可能带来的安全威胁，统信 UOS 采用了先进的防火墙、病毒防护等技术，有效防范恶意软件的入侵和攻击。同时，统信 UOS 操作系统有一套严格高效的漏洞补丁发掘-修复-验证-发布机制，从而保证了安全更新和补丁的及时性和准确性，及时修复潜在的安全漏洞，确保系统的安全性。

3.统信 UOS 还与业界领先的 AI 厂商进行了深入合作。通过与 AI 厂商的紧密合作，统信 UOS 可以及时获取最新的 AI 技术和安全防护措施，共同应对 AI 安全挑战。这种合作模式不仅有助于提高统信 UOS 的 AI 安全能力，还可以为用户提供更加丰富和优质的 AI 应用体验。

4.统信 UOS 还注重用户教育和培训。为了提高用户对 AI 安全的认知和防范意识，统信 UOS 提供了丰富的培训课程和教育资料，帮助用户了解 AI 安全的基本知识和防范技巧。通过这些培训和教育活动，用户可以更好地理解和应对 AI 安全问题，降低安全风险。

总之，统信 UOS 在全面 AI 时代采取了多种有效的应答之道来保障 AI 安全。通过数据隐私保护、系统安全防护、业界合作以及用户教育和培训等方面的努力，统信 UOS 为用户提供了一个更加智能、高效、安全的操作系统环境。在未来，统信 UOS 将继续关注 AI 技术的发展和安全挑战，不断完善和升级自己的 AI 安全策略，为用户带来更加出色的操作系统产品和服务。

​