【Data & AI Con Shanghai 2023】嘉宾专访｜西电王皓：认清边界 大胆创新

自 Open AI 研发的 ChatGPT 发布以来，生成式人工智能技术迅速商业化，上百家公司、机构相继发布 AI 大语言模型相关产品，人工智能在大模型领域打开新局面，130 多家国产大模型加入这场全球竞争中。

由于对生成式人工智能底层技术缺乏深入理解，且对于其应用前景预测有限，各国尚未形成体系化的监管思路及规则。白玉兰开源开放研究院作为人工智能产业的参与者和推动者，特别联系了西安电子科技大学网络与信息安全学院可信人工智能研究中心负责人王皓老师进行线上专访，希望通过本次专访让业界更广泛的了解生成式人工智能的管理现状，以及 AI 大模型对于数字化进程带来的风险、机遇和挑战。

嘉宾简介：

王皓，西安电子科技大学网络与信息安全学院可信人工智能研究中心负责人，华山学者领军教授、博导，国家高层次人才。挪威科技大学终身副教授，组建挪威境内最早的大数据实验室(Big Data Lab)并担任主任，曾担任模拟与可视化硕士专业负责人(Program coordinator)。

白玉兰开源：如今，生成式 AI 在中国发展十分迅速，大模型的出现让我们看到通用人工智能的影子，您怎么看待大模型产品的应用价值和产业价值？

王皓：大型模型赋予了人工智能系统更深层次的理解和更广泛的学习能力，使其能够处理更为复杂的任务和数据。我认为在两方面都具有巨大的潜在价值。

在应用价值方面，大型模型可以被广泛应用于语言理解、图像识别、自然语言处理等领域。它们有望为各种行业带来革命性的变革，从医疗保健到金融服务，再到智能制造，都可能受益于这些模型的运用。它们有助于提高生产效率、降低成本、改善用户体验，并为创新打开更多可能性。

就产业价值而言，大型模型的出现也将推动人工智能相关产业的发展。包括模型训练、算法优化、数据安全和隐私保护在内的领域将迎来更多投资和关注。同时，这些模型的商业化应用也将推动新的商业模式的形成，为企业创造更多商机和价值。

当然，随着应用的扩大和技术的进步，我们也需要密切关注潜在的道德、隐私和安全问题，并确保这些大型模型的应用是合乎道德和可持续的。

白玉兰开源：大模型作为主要的生产力，迅猛发展的背后面临着哪些风险和挑战？我们该如何应对？

王皓：大型模型作为主要的生产力带来了许多益处，但其迅猛发展也伴随着一些潜在的风险和挑战。首先，引发计算和资源需求激增。大型模型的训练需要大量的计算资源和数据，导致了极高的能源消耗，对环境造成负担。其次，数据隐私和安全问题频现。训练这些模型需要大量数据，可能涉及用户隐私，保障数据的安全性和隐私性是一个重要的挑战。另外，面对模型偏见和公平性挑战。大型模型可能反映出数据集中的偏见，导致不公平或歧视性结果。解决这一挑战需要更多的工作来确保模型的公正性和公平性。 最后，可解释性和透明度要求提升。大型模型通常非常复杂，其决策过程可能难以解释，使得用户和监管者难以理解和评估模型的行为。

现在通行的应对方案有限，但产业和学界都有一定有益的尝试。例如，开发更加高效的算法和更节能的硬件来降低训练大型模型的资源消耗，同时寻求可再生能源以减少环境影响。再如，采取加密、匿名化等技术保障用户数据的隐私和安全；确保数据集多样性，消除偏见，并定期审查和验证模型的公平性；开发方法来解释模型的决策过程，以便用户和监管者理解其行为，提升模式的可解释性等等。

我认为，通过综合利用技术创新、政策和法规制定以及行业共同努力，我们可以更好地管理并解决大型模型发展中的风险和挑战。

白玉兰开源：目前，全球 AI 立法进程明显提速，中国在抢抓大模型发展机遇期的同时，相关立法也已提上日程。立法对于大模型的约束，引起了要监管还是要发展的大讨论，您怎么看？

王皓：确实存在这一重要辩论。在保障公共利益和数据安全的同时，如何平衡促进技术创新和发展？我认为，我们应该以更为综合和平衡的视角来看待。 监管的必要性在于保障公众利益和数据隐私安全。合理的立法可以确保大型模型的应用符合道德和法律标准，避免模型可能带来的潜在风险。因此，监管对于确保数据隐私、防止滥用数据以及避免潜在的社会危害是非常重要的。 然而，太严苛的约束会抑制科学研究和创新。例如，大型模型在医疗、科学研究、智能制造等领域有无限可能。

解题需要各界力量！依靠政、产、学、研合力制定灵活的政策框架，探讨和确认伦理边界，明晰发展诉求，我们期望寻求大模型监管和创新的平衡。在严守公众利益和数据安全红线的同时，我们要鼓励新技术、新思想，大胆创新，营造百家争鸣生态。

白玉兰开源：如您所说，大模型产品的创新发展需要各界深度融合，西电目前专注哪些研究？

王皓：西电为网络安全和人工智能在国内的安全使用做了很多贡献，并在一些领域展开了各种前沿的研究。例如，大数据分析与处理方面， 西电开发和优化大型数据集的处理方法和分析技术。 在深度学习和神经网络方面，积极投入研究和开发深度学习技术。其应用场景包括但不限于对自然语言理解、机器翻译、文本生成和语音识别等技术，对研究图像识别、目标检测、图像生成和视频分析等方面的技术，以及研究智能系统、研究自主机器人和人机交互等方面的技术。

11 月 18 日，我将在 Data & AI Con Shanghai 2023 大会上进行更详细的分享，欢迎感兴趣的同学来现场与我交流。

“数智云聚 万象创生”，由上海白玉兰开源开放研究院、人工智能开源软件发展联盟联名主办、示说承办的【Data & AI Con Shanghai 2023】，将在 2023 年 11 月 18 号，于上海圣诺亚皇冠假日酒店盛大举行。