生成式 AI 技术可能给企业带来风险 应以负责任方式使用而非盲目追随潮流

5月23日消息:根据市场调查机构 Gartner 研究总监孙鑫，约 26% 的中国用户已经开始部署生成式 AI 技术，而 6% 的用户已成功部署与该技术相关的应用，还有 26% 的用户正在积极试用。

此外，约 24% 的中国用户计划在未来 6 个月内部署生成式 AI 相关的技术或应用。相比之下，东南亚和中东地区的用户比例仅为 3%，中国用户在这方面处于领先地位。孙鑫认为，中国用户对以数据为核心（Data-Centric AI）的生成式 AI 能力信心较高，整体上信心高于以模型为核心（Model-Centric AI）的方式。

根据 Gartner 的《2022 年人工智能技术成熟度曲线》报告，尽早采用复合型人工智能（AI）、决策智能等 AI 技术，将为企业机构带来明显的竞争优势，缓解 AI 模型脆弱性引发的问题，有助于捕捉业务背景信息，推动价值实现。

Gartner 认为，可能下一波比较热门的技术能力是「负责任的 AI」，即在生成式 AI 上加入保险，减少生成的内容中的「幻觉」，采用一种负责任的方式为人类服务。

孙鑫表示，未来生成式 AI 的技术走向可以从架构、模型和运营角度进行解读。在这个前提下，生成式 AI 技术也可能会给企业带来风险，因此应以负责任的方式使用，不应盲目追随潮流。