ChatGPT 安全受质疑 网信办发布生成式人工智能服务管理办法意见稿

你是否曾经和一款人工智能对话？它们似乎能够理解你的问题，并给出令人满意的答案。ChatGPT 是目前最流行的人工智能。它是由 OpenAI 开发的一款基于 GPT 技术的自然语言处理模型。

通过训练大量的文本数据，ChatGPT 可以理解并回答用户的问题，与用户进行自然、流畅的对话。ChatGPT 的火爆程度可以从多个方面得到体现。

1. ChatGPT 爆火 安全性遭质疑

ChatGPT 在社交媒体平台上的用户数量非常庞大，明星、科技大佬等等都使用，在商业应用方面也表现出了强大的实力。如今 ChatGPT 的全球用户已经超一亿，它的火爆程度远远超出了人们的想象。随着 ChatGPT 的爆火，ChatGPT 安全性备受质疑，包括其它开源的 GPT 模型在内的生成式人工智能服务的。近期，意大利和加拿大等国家因隐私和安全问题暂时禁用了 ChatGPT，并以安全问题调查 ChatGPT 母公司 OpenAI 事件，引发了广泛的关注和讨论。

1. OpenAI 正式回应安全性问题

4 月 5 日 OpenAI 官方博客更新了一篇博客，博客主要分为六大角度：1. 围绕安全、不断升级；2.立足现实、完善保障；3.保护儿童；4.尊重隐私；5.精准产出、尊重事实；6.持续投入、促进合作。

Open AI 认为，提升 AI 系统的安全性并非一个简单的过程，需要长期投入，并与政策制定者等主体开展广泛的合作。

随着 AI 在全球范围内的普及，AI 生态系统已经在逐步建立，这对全球范围内的技术和制度创新都将是一个新的挑战。

三、国家网信办发布的《生成式人工智能服务管理办法（征求意见稿）》

为促进生成式人工智能技术健康发展和规范应用，4 月 11 日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法》）。

《管理办法》共计二十一条，其中“生成式人工智能”指的是，基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

《管理办法》规定了生成式人工智能服务的注册、备案、安全评估、运营等方面的管理要求。

《管理办法》还要求服务提供方要对生成的文本内容进行审核，确保其不包含违法信息。对于未经备案的生成式人工智能服务，有关部门将采取行政处罚等措施。国内一些比较火的 ChatGPT 接口已经进入了整改状态。

结语：

随着生成式人工智能技术的不断发展，人工智能的普及越来越广泛。然而，这些服务存在的安全隐患也越来越明显。加强对生成式人工智能服务的监管是必不可少的。只有这样，用户才能安心使用这些服务，而不必担心个人信息泄露和网络攻击等问题。

我们期待有关部门尽快出台更加完善的管理办法，加强对生成式人工智能服务的监管，为用户提供更加安全、便捷的服务。