CEO 生成式 AI 行动指南：风险管理

VIP专享

3.0 波段之刀2024 2024-10-26 27 5.9MB 10 页免费

侵权投诉

CEO 生成式 AI 行动指南风险管理

IBM 商业价值研究院

CEO 生成式 AI 行动指南：

风险管理

每一个拐角处都潜藏着风险

在风险管理方面，生成式 AI 就像一位精通制图的专家，能够迅速根据形势绘制出风

险地形图。这让我们能够清楚地看到新出现的风险，从气候灾难到 AI 驱动的伦理困

境，同时保持对传统风险的清晰把控。

生成式 AI 可帮助团队识别可能预示着重大问题的模式，通过模拟“假设”场景来为

未知挑战做好准备，同时生成后续行动建议。鉴于这些强大的能力，55% 的受访

CEO 认为生成式 AI 是一种机遇，而非风险。

但也有 45% 的受访 CEO 认为风险大于机遇。尽管生成式 AI 可以作为扩展风险管理

能力的利器，但同时也扩大了需要管理的风险的广度和深度。作为一项颠覆性技术，

生成式 AI 也创造了新的断层和漏洞，例如复杂的新型诈骗。

生成式 AI 驱动的数据分析具备大规模和速度快的特点，这往往会产生盲点，掩盖关

键风险，同时引入各种新风险，例如深度伪造的图像、文档和声音。当团队需要保持

高度警惕时，过度依赖生成式 AI 的输出可能会产生一种虚假的安全感。不准确的评

估、计算资源的成本、安全漏洞的扩大以及数据的不当使用等风险都可能导致组织

偏离轨道并出现违规。

不同于以往的任何技术，生成式 AI 正在迅速颠覆商业和社会形态，

迫使企业领导者刻不容缓地重新思考其假设、计划和战略。

为了帮助 CEO 们掌握快速变化的形势，IBM 商业价值研究院 (IBM

IBV) 发布了一系列有针对性、基于研究数据的生成式 AI 指南，涵盖

数据安全、技术投资策略和客户体验等主题。

这是本指南的第十九部分，重点关注“风险管理”。

管理不可预测的

风险

CEO 生成式 AI 行动指南风险管理

IBM Institute for Business Value

IBM 商业价值研究院甄别出了每位领导者都需要了解的三个要点：

现在，每位领导者都需要采取以下三项行动：

1. 生成式 AI 正在引发

一场风险风暴。

2. 组织的声誉岌岌可危。 3. 未来，威胁会不断加剧。

1. 设定激发创新而非引

发混乱的风险阈值。

2. 防微杜渐，及时化解

声誉风险。

3. 时刻做好准备，应对百年

一遇的风险。

CEO 需要学会如何驾驭生成式 AI 带来的双重风险，并制定一条深思熟虑的路线图，

将 AI 驱动的风险管理与人类判断、监督及合规性相结合。如果能够取得适当平衡，

组织将能够更加快速高效地应对快速演化的威胁，从而建立更强的韧性。而如果在

采用生成式 AI 方面过于激进或过于保守，组织可能会面临意想不到的后果或失去竞

争力。

IBM 商业价值研究院

CEO 生成式 AI 行动指南风险管理

1. 创新 + 生成式 AI

生成式 AI 正在引发一场

风险风暴

风险是创新的货币，但失控的风险会对企业构成生存威胁。为了实现生成式 AI 驱动的转型

承诺，CEO 必须确保新增的风险不会掩盖潜在的回报。

随着生成式 AI 的发展，各种新的威胁不断涌现 — 44% 的受访 CEO 认为这项技术给社会带

来了重大风险。57% 的受访首席风险官 (CRO) 和受访首席财务官 (CFO) 表示其组织使用生

成式 AI 将增加整体风险敞口。他们在考虑生成式 AI 投资时最关注的风险包括合规和监管

风险 (63%)、客户和员工隐私 (58%) 以及决策中的偏见和错误信息 (56%)。超过一半的受访

高管担心计算资源的成本和新型网络安全威胁。

60% 的受访 CEO 表示正在考虑为生成式 AI 引入额外的护栏来控制风险。但许多企业并未

落实到行动上。例如，在监管和合规风险方面，尽管 63% 的 CRO 和 CFO 表示关注这些风

险，但只有 29% 的受访者表示已经有效缓解这些风险。68% 的 CRO 和 CFO 表示在应对与

生成式 AI 相关的风险方面准备不足。

技能短缺使形势变得更加复杂。70% 的 CRO 和 CFO 表示，为了适应生成式 AI 的快速发展

并不断应对新的风险，其组织需要引入当前所欠缺的专业知识。60% 的 CRO 和 CFO 表示其

组织目前采用的是临时性的生成式 AI 风险管理方法，仅适用于特定流程，或者根本不

存在。

需要了解的事项

29%

的受访高管表示已经

有效缓解这些风险。

63%

的受访高管表示关注

监管和合规风险

但只有

研报加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载研报到电脑，查找使用更方便

立即下载

标签： #AI

摘要：

CEO生成式AI行动指南：风险管理每一个拐角处都潜藏着风险在风险管理方面生成式AI就像一位精通制图的专家能够迅速根据形势绘制出风险地形图。这让我们能够清楚地看到新出现的风险从气候灾难到AI驱动的伦理困境同时保持对传统风险的清晰把控。生成式AI可帮助团队识别可能预示着重大问题的模式通过模拟“假设”场景来为未知挑战做好准备同时生成后续行动建议。鉴于这些强大的能力55的受访CEO认为生成式AI是一种机遇而非风险。但也有45的受访CEO认为风险大于机遇。尽管生成式AI可以作为扩展风险管理能力的利器但同时也扩大了需要管理的风险的广度和深度。作为一项颠覆性技术生成式AI也创造了新的断层和漏洞例如复杂的新型...

展开>> 收起<<

CEO 生成式 AI 行动指南：风险管理.pdf

共10页,预览3页

还剩页未读，继续阅读