企业采用生成式 AI 的三大挑战：可信、隐私、偏见

AI（人工智能）无疑是 2023 年最热的话题之一，尤其是以 ChatGPT 为代表的生成式 AI。对于 AI 的态度，1000 个人眼中就有 1000 个哈姆雷特。有人认为 AI 会导致人类灭绝，会威胁国家安全，甚至呼吁停止所有超过一定能力的 AI 训练。针对这个话题的讨论不会短期内结束，但不可否认的是，生成式 AI 已经走入寻常百姓家，越来越多的人在尝试使用 ChatGPT、文心一言等工具。那么，对于企业来说，在企业环境中采用生成式 AI 工具应该注意些什么，如何才能发挥这一颠覆性技术的潜在力量呢？

生成式 AI 领域目前尚处于起步阶段，但这标志着人工智能和计算领域正在经历一个新的拐点。在生成式 AI 领域大放异彩的大多数大型语言模型都擅长自然语言处理（NLP）。在众多行业中，这些生成式 AI 模型可用于基于 NLP 的应用，如提供交互式帮助。用户可以通过基于生成式 AI 的交互式聊天机器人分享知识库/用户手册和文档等，帮助用户查找信息。

生成式 AI 还可以提供基于 NLP 的全企业范围内业务数据搜索能力，这实现起来有一定难度。目前这个领域还在不断发展，一些企业软件企业已经在加大力度研究如何让生成式 AI 模型对现有 NLP 解决方案和人工智能产品进行补充，如通过增强上下文语义理解、通过 AI 平台将语音聊天功能与数字助理或机器学习（ML）模型集成在一起、将企业搜索扩展至图像识别功能等等。

此外，由于 生成式 AI 模型使用户能够利用各种数据源生成文本和代码、进行预测和总结、翻译、分析图像等，因此可用于各种企业场景，例生成电子邮件、报告、产品文档和网页内容；创建职位描述和需求；进行产品和供应商比较；为营销活动制作图片、音乐和视频等。企业还可以利用生成式 AI 模型的 NLP 来写书评、审阅和校对内容，为新的项目提供想法等。

生成“生成式 AI”

如果内部有 IT 或软件工程团队，企业还可以利用微软的 Copilot 或 AWS CodeWhisperer 等工具进行代码生成。当企业需要建立自己特定行业的语言模型、对一般性信息进行验证、通过网络获取评论和建议，或者需要将企业私有数据与公共信息进行整合时，这些工具可以与 Open AI 的 ChatGPT 或 AWS Bedrock 等生成式 AI 工具和平台集成在一起。

可信、隐私、偏见

生成式 AI 技术发展很快，没有及时采取行动的企业可能会坐失良机。在条件允许的情况下，企业应该积极拥抱而不是拒绝这个强大的技术。但这并不意味着在采用生成式 AI 模型时要"一刀切"，在广泛采用生成式 AI 模型之前，企业需要充分考虑需要面对的挑战。

首先是可信。虽然大型语言模型生成的内容看起来是原创的，但它实际上是在模仿基于其所接触的类似训练数据集的模式。很多时候，生成的信息都是假的，同样的问题会产生不同的答案。

其次是隐私。模型的训练用的是用户共享的数据和输入的条件，而这不是完全可控的，一些受保护的商业机密或数据可能被共享，导致无意识的侵权或违反合规问题。此外，生成和分享一些特定业务的内容需要遵守严格的法律和数据隐私保护政策，例如，当公司进行数据保护影响评估（DPIA）时，必须确保符合《通用数据保护条例》（GDPR）。大多数生成式 AI 平台供应商会确保企业数据的独有性，不会用于一般性培训目的，但企业仍然不能掉以轻心。

还有偏见。人工智能生成的内容是根据用户输入的提示定制的，这也意味着用户可以只使用有利而非全面的数据来训练模型，生成符合自己意愿的内容。生成的内容实际代表的是主观性观点，但表面上看起来很权威，因此很容易让用户相信并影响他们的观点。此外，生成假新闻、假视频和音频片段的风险也会越来越高。

审核与过滤必不可少

上述问题并非无法克服。方法之一是在终端用户界面上应用适当的审核过滤器，一般用户可通过该界面使用生成式 AI 工具。而在企业层面就必须采取人为干预，即所有生成的内容在正式提供去使用时必须经过真人审核。现阶段通过人工控制和调节对于提高生成内容的准确性和一致性、减少偏见，确保企业竞争优势等非常重要。

因此，企业需要就生成式 AI 如何适用于自身有自己的立场。与此同时，遵循生成式 AI 供应商的最佳实践也至关重要，例如使用 Open AI 的审核过滤器。另外，目前很多国家都在争相制定各自的人工智能政策，这也是企业需要考虑的问题，需要确保本国和他国的相关政策和协议。

未来可期

毫无疑问，生成式 AI 在未来五到十年将迎来的蓬勃发展，对于该技术的投资将大幅增加，不论是模型还是硬件，更快更强大的芯片和对更大网络带宽的需求都将增加。这一趋势为人类社会带来的影响不容小觑。未来几年，我们接触到的所有信息都将受到生成式 AI 的影响；我们所熟知的互联网搜索将更加趋向于量身定制的对话式体验；由 AI 生成的内容检测工具将更加智能，监管和合规也将更加严格。

生成式 AI 模型代表着颠覆性的解决方案，已经在帮助个人消费者的搜索、自动创建内容、提高个人效率等方面发挥作用。企业应该立即行动起来，积极采用这项强大的技术，但同时也应该充分意识到潜在风险、其中的不确定性和隐私问题。当然，生成式 AI 领域的成熟和解决这些问题只是时间问题。在人类的努力下，生成式 AI 模型将有可能彻底改变企业环境。

关于作者：

鹿崇

Infor 大中华区商业咨询高级总监

鹿崇先生现任 Infor 大中华区商业咨询高级总监，在企业应用软件领域有超过 20 年的实战经验。鹿崇先生自 2003 年 1 月加入 Infor 至今。加入 Infor 之前，鹿崇先生曾在 KPWOOD 公司任系统工程师、SSA 上海公司任职商业顾问，还曾在迅达电梯担任过项目负责人。鹿崇先生毕业于清华大学管理信息系统专业。

关于 Infor：

Infor 是为特定行业提供商业云软件的全球领先供应商。我们为重点行业提供完整的解决方案。Infor 的任务关键型企业级应用和服务旨在提供高安全性的可持续运营优势，帮助企业更快实现价值。Infor 旗下 17,000 名员工为超过 175 个国家和地区的 60,000 家客户提供服务，帮助客户达成业务目标。作为科氏工业集团的一员，Infor 的财务实力、股权结构和长期承诺将助力 Infor 与客户建立持久、共赢的关系。如需了解更多信息，可订阅微信公众号“Infor 恩富”

###