企业运用生成式AI技术的风险管理_企业应该如何利用ai技术

通信世界网消息（CWW）近期，快速进化的生成式AI(Generative AI)技术引起人们的广泛关注，预计将对多个领域产生巨大影响。OpenAI公司的ChatGPT和Stability AI公司的Stable Diffusion允许公众访问，这对近年来广泛研究的生成式AI模型造成了巨大冲击，目前越来越多的机构和公司发布与AI有关的系统和服务。与此同时，公众对生成式AI在学习过程中的数据处理隐患以及对恶意使用生成式AI的担忧不断增加。

生成式AI是一项十分具有潜力的技术，目前正处于爆发的前夜。正是因为它的强大，公众对如何积极地利用生成式AI、新使用方式的开发、谨慎使用生成式AI等话题展开热烈讨论。

但无论是选择积极拥抱生成式AI，还是对其抱有怀疑态度，生成式AI的发展都将给企业带来极大影响，各大企业均需直面“如何面对生成式AI”这一命题。

本文基于这一命题，从“企业运用生成式AI的风险”角度出发，搭建整理生成式AI相关的情报信息框架，基于适应快速变化对象风险管理的敏捷治理思路，整理生成式AI风险的整体情况，论述企业使用生成式AI的适应性管理方法，帮助企业更好地理解生成式AI的特性并进行有效的信息分析。

生成式AI的进化和着眼要点

什么是生成式AI

生成式AI是指具有自动生成文章和图像等功能的AI总称，主要是实用化的识别AI(Discriminative AI)，执行非法检测、按照规定格式进行数值预测和分类等任务。生成式AI擅长分析输入数据的结构，根据关联性高的训练数据生成新的内容。

生成式AI急剧进化

2015年，生成式AI进入急剧进化阶段，进化的一个契机是获得强有力的模型表达，通过Diffusion Model 2和Transformer 3等新模型研发，让学习效率和图像、声音等内容的生成品质均得到了突破性提高；另一个契机是海量数据的学习和大规模模型的建立。以自然语言处理为例，通过采用Transformer模型，可以更有效地实现大量数据的学习训练，例如BERT 4、GPT-5，其利用大规模语言模型(LLM)学习了数十亿字的庞大数据。更重要的是，LLM的参数量增加到一定程度后，其性能也将急剧提高，当初BERT和GPT-1的参数量是1亿多，与此相对，近年来主流的PaLM和GPT-3.5参数量达到了数千亿。生成式AI性能的快速提升为其掀起人工智能变革打下了强大的技术基础。

AI进入普及和应用阶段

当前，生成式AI已达到面向大众的应用水平，进入普及和应用发展阶段。除直接参与AI开发的企业之外，还将有更多企业接触生成式AI，不断加深人工智能与自身业务的联系。而企业在考虑运用生成式AI的同时，还需考虑几个关键的概念和要点，通过了解AI系统的结构区分考虑AI模型、AI系统和AI服务，让自身业务与人工智能的结合变得更加简便。AI模型是由数据学习训练的参数组成的框架，以AI模型为组成部分，根据用途编入应用程序的系统被称为AI系统或AI服务（如图1所示）。

图1 AI系统的框架

例如，Open AI的ChatGPT以GPT-3.5或GPT-4为基础，通过将AI模型嵌入具备对话功能的应用软件中，提供作为AI服务的ChatGPT应用。同样，谷歌的Bard则是将以LaMDA和PaLM为基础的模型编入对话型应用程序中。

近年来，AI模型的性能得到了大幅度提高，最近明显的例子就是聊天应用中的LLM，这一模型能够在极广的范围内高精度地完成文本生成这一通用任务。当前的趋势是，文本生成功能以具有高可访问性接口的应用程序向公众开放，并以此为起点，通过应用程序向在线搜索集成和代码生成等不断拓展。

值得关注的是，AI模型的开发人员和应用程序的开发人员不必是同一批人，实际开发LLM的公司可通过API提供模型服务，如Meta公司的LLaMA8；开发应用程序的企业则可以使用精细微调的方法，以大规模数据预先学习的模型为基础，通过学习适合特定任务的追加数据对AI模型进行参数微调（如图2所示）。

图2 AI模型的应用模式

从应用的角度来看，生成式AI目前只是发挥了其潜力的一小部分，今后各种利益相关者将开发和提供适合各种用途的生成式AI服务。但是，生成式AI的风险也引起了广泛讨论。

虽然AI模型自身也有望进一步改善，但由于学习数据枯竭问题以及规模扩大遇到的性能限制和挑战，AI模型基本性能的提高必须加快步伐，成本的改善将成为工作重点。而随着技术、应用的不断发展，行业今后需更关注生成式AI普及的进展和应用情况，企业也要尽最大努力应对生成式AI带来的各类风险。

敏捷治理以适应生成式AI的频繁变化

当前，生成式AI技术发展日新月异，引发了新一轮智能化浪潮，在更多行业发挥了更大势能。从企业角度来看，生成式AI的应用范围非常广泛，但基于法律规定程序对生成式AI等快速变化事物的管控会相对滞后。相比之下，敏捷治理是一种更为适用的方法。敏捷治理是指根据不断变化的环境和目标提供最佳解决方案，通过“环境风险分析”“目标设定”“系统设计”“运用”“评价”和“改善”等多个“支架”持续且高速地运转，形成一种治理模式（如图3所示）。

图3 敏捷治理的基本组件

从企业角度看，使用生成式AI要结合治理系统的运用和监控，遇到问题及时改善，同时根据环境的变化等因素，不断重新审视目标，快速捕捉生成式AI周围环境的变化，通过分析系统持续监测预警生成式AI相关的风险，最大程度地从创新中获得利润。

生成式AI的风险管理矩阵

为帮助企业通过敏捷治理的方法最大限度地使用生成式AI，本文将介绍一种风险管理矩阵。由于相关信息非常广泛且更新频繁，公司对商业环境和风险的分析需求紧迫，使用矩阵目的在于解决当下存在的问题。其基本思路是将与生成式AI相关的机会、风险，以及构成生成式AI生态系统的利益相关者的风险分为两组，同时将与生成式AI相关的每个信息对企业控制目标的影响可视化。

有观点认为，生成式AI相关的机会和风险源于自身，但另一方面，政府的法规或许也将成为生成式AI应用中的风险来源（如表1所示）。

表1 AI应用中的风险来源

结合生成式AI普及初期遇到的机会和风险，按照商业活动、伦理和社会责任、版权许可等类别，提炼出对各方的影响，如表2所示。

表2 生成式AI风险管理矩阵

本表的活用方法有三个。一是整理风险的总体情况：企业的风险管理者可以充分利用本表更新生成式AI的事业环境和风险分析情况，随时收集新的信息，增加新的风险点，避免重复或遗漏。根据整理的信息，为敏捷治理提供帮助，实施环境风险分析，使目标的设定和评价运用等后续研究成为可能。

二是检查负责人以及确认应参与审查的人员：对于风险管理者新捕捉到的风险，在考虑应对审查人员时可以使用本表，对个别信息和对象进行详细的风险分析和管理策略探讨，分配合适的负责人和主管部门。

三是分析和验证措施的有效性和完整性：负责详细分析每个风险的人员可以将本表用于确认分析观点的有效性和完整性。除了创新的机会，企业还将面临道德、社会影响、版权、隐私安全等相关问题，需要全面确认并验证业务策略的有效性，并根据整理的风险情况，挑选研究所需的人员并进行措施分析。

结语

本文深入探讨了一套全面且实用的风险整理方法论，以应对生成式AI技术的迅速普及。生成式AI作为一种强大的创新力量，正在重塑现代社会、经济和生活方式，但也带来了巨大的风险。对于企业而言，如何积极利用生成式AI技术，同时有效管理和控制伴随而来的风险，已成为一个不可忽视的课题。为了使企业在生成式AI的变革中保持领先，并适应这种急速变化的风险环境，企业需要采用周期性的风险管理模式，以期在面临不确定性和变化时，帮助其迅速识别、评估和管理风险。

生成式AI的风险管理矩阵是一种强大的工具，它可以作为风险管理负责人的辅助决策依据。通过这种方法论，企业可以避免在风险管理过程中出现人员混乱和管理无序的情况，从而更加高效地进行风险管理和控制。同时，这种方法论也强调了构建必要人才体系和分析讨论周期的重要性，通过这些周期，企业可以更加深入地理解和评估风险，从而作出更加稳健和明智的决策。

总得来说，生成式AI风险矩阵不仅提供了一种实用的工具，也为企业管理风险提供了一种全新的视角和思考方式，帮助企业在生成式AI的变革中保持领先，并更加灵活、高效地进行风险管理。（内容来源：Yahoo）