《IBM商业价值研究院：2024年CEO生成式AI行动指南：风险管理（10页）.pdf》由会员分享，可在线阅读，更多相关《IBM商业价值研究院：2024年CEO生成式AI行动指南：风险管理（10页）.pdf（10页珍藏版）》请在本站上搜索。

1、1CEO 生成式 AI 行动指南 风险管理IBM 商业价值研究院CEO 生成式 AI 行动指南：风险管理每一个拐角处都潜藏着风险在风险管理方面，生成式 AI 就像一位精通制图的专家，能够迅速根据形势绘制出风险地形图。这让我们能够清楚地看到新出现的风险，从气候灾难到 AI 驱动的伦理困境，同时保持对传统风险的清晰把控。生成式 AI 可帮助团队识别可能预示着重大问题的模式，通过模拟“假设”场景来为未知挑战做好准备，同时生成后续行动建议。鉴于这些强大的能力，55%的受访 CEO 认为生成式 AI 是一种机遇，而非风险。但也有 45%的受访 CEO 认为风险大于机遇。尽管生成式 AI 可以作为扩展风险

2、管理能力的利器，但同时也扩大了需要管理的风险的广度和深度。作为一项颠覆性技术，生成式 AI 也创造了新的断层和漏洞，例如复杂的新型诈骗。生成式 AI 驱动的数据分析具备大规模和速度快的特点，这往往会产生盲点，掩盖关键风险，同时引入各种新风险，例如深度伪造的图像、文档和声音。当团队需要保持高度警惕时，过度依赖生成式 AI 的输出可能会产生一种虚假的安全感。不准确的评估、计算资源的成本、安全漏洞的扩大以及数据的不当使用等风险都可能导致组织偏离轨道并出现违规。不同于以往的任何技术，生成式 AI 正在迅速颠覆商业和社会形态，迫使企业领导者刻不容缓地重新思考其假设、计划和战略。为了帮助 CEO 们掌握快

3、速变化的形势，IBM 商业价值研究院(IBM IBV)发布了一系列有针对性、基于研究数据的生成式 AI 指南，涵盖数据安全、技术投资策略和客户体验等主题。这是本指南的第十九部分，重点关注“风险管理”。管理不可预测的风险2CEO 生成式 AI 行动指南 风险管理IBM Institute for Business Value IBM 商业价值研究院甄别出了每位领导者都需要了解的三个要点：现在，每位领导者都需要采取以下三项行动：1.生成式 AI 正在引发 一场风险风暴。2.组织的声誉岌岌可危。3.未来，威胁会不断加剧。1.设定激发创新而非引 发混乱的风险阈值。2.防微杜渐，及时化解 声誉风险。3.

4、时刻做好准备，应对百年一遇的风险。CEO 需要学会如何驾驭生成式 AI 带来的双重风险，并制定一条深思熟虑的路线图，将 AI 驱动的风险管理与人类判断、监督及合规性相结合。如果能够取得适当平衡，组织将能够更加快速高效地应对快速演化的威胁，从而建立更强的韧性。而如果在采用生成式 AI 方面过于激进或过于保守，组织可能会面临意想不到的后果或失去竞争力。3IBM 商业价值研究院CEO 生成式 AI 行动指南 风险管理1.创新+生成式 AI生成式 AI 正在引发一场风险风暴风险是创新的货币，但失控的风险会对企业构成生存威胁。为了实现生成式 AI 驱动的转型承诺，CEO 必须确保新增的风险不会掩盖潜在的

5、回报。随着生成式 AI 的发展，各种新的威胁不断涌现 44%的受访 CEO 认为这项技术给社会带来了重大风险。57%的受访首席风险官(CRO)和受访首席财务官(CFO)表示其组织使用生成式 AI 将增加整体风险敞口。他们在考虑生成式 AI 投资时最关注的风险包括合规和监管风险(63%)、客户和员工隐私(58%)以及决策中的偏见和错误信息(56%)。超过一半的受访高管担心计算资源的成本和新型网络安全威胁。60%的受访 CEO 表示正在考虑为生成式 AI 引入额外的护栏来控制风险。但许多企业并未落实到行动上。例如，在监管和合规风险方面，尽管 63%的 CRO 和 CFO 表示关注这些风险，但只有

6、29%的受访者表示已经有效缓解这些风险。68%的 CRO 和 CFO 表示在应对与生成式 AI 相关的风险方面准备不足。技能短缺使形势变得更加复杂。70%的 CRO 和 CFO 表示，为了适应生成式 AI 的快速发展并不断应对新的风险，其组织需要引入当前所欠缺的专业知识。60%的 CRO 和 CFO 表示其组织目前采用的是临时性的生成式 AI 风险管理方法，仅适用于特定流程，或者根本不 存在。需要了解的事项29%的受访高管表示已经有效缓解这些风险。63%的受访高管表示关注监管和合规风险但只有4IBM 商业价值研究院CEO 生成式 AI 行动指南 风险管理定义生成式 AI 的整体风险容忍度。与

7、CRO 合作评估组织过去管理风险的成功经验、承受损失的财务能力以及风险对运营的潜在影响。为每个类别概述可接受的、可量化的风险水平。设定风险限度。采取正式的生成式 AI 风险管理方法。为生成式 AI 计划建立结构化风险评估。与 CRO 合作建立适合组织需求且具有明确责任划分的 AI 治理结构。提供关于如何应对已识别的风险和漏洞的缓解策略指导。建立生成式 AI 风险的持续监测和监督机制。由 AI 负责人来监控生成式 AI 的部署，进行风险评估，并向高管团队报告。使用 AI 助手整理风险数据以供 AI 负责人审查。促进与利益相关者的开放沟通和合作。理解生成式 AI 引入的全域风险及其对现有风险状况的

8、影响，然后明确愿意承担多大的风险来推动转型。确保 CRO 处于黄金平衡点（既不过于激进，也不过分回避风险），并为团队配备“恰到好处”的生成式 AI 工具，帮助他们灵活应对最不可预测的威胁。设定激发创新而非引发混乱的风险阈值需要采取的行动1.创新+生成式 AI5IBM 商业价值研究院CEO 生成式 AI 行动指南 风险管理组织的声誉岌岌可危一次失误就可能毁掉多年成功的品牌建设，对组织的声誉及其财务状况造成无法弥补的损害。但许多企业领导者仍在冒险前行。84%的 CRO 和 CFO 表示声誉风险需要在董事会层面获得更多关注。但只有不到一半的受访组织表示已经制定了应对声誉风险的策略，这些风险包括环境和

9、社会责任、不安全工作环境以及安全故障。只有 40%的受访组织表示已经制定了应对合规缺陷的 策略。如果不对声誉风险加以控制，就可能会导致财务灾难。例如，2023 年，39 家银行因声誉风险而损失了超过 1300 亿美元的股东价值。去年，旅游业的安全事故、服务崩溃、网络中断也导致了销售额下降和市值损失。声誉风险也带来机遇，因为有效管理声誉风险可以带来丰厚的回报。对于具备声誉风险防护策略的企业，在声誉危机发生后的两周内，其股价要比市场水平高出5%。而对于有效传达声誉风险防护策略的企业，其股价溢价甚至达到了 9%。生成式 AI 既有可能加剧声誉风险，也有可能缓解声誉风险，具体取决于企业的管理水平。如果

10、对生成式 AI 部署的管理不严格，伦理和偏见问题可能会对企业的声誉构成风险。但只要采用得当，生成式 AI 就可以帮助 CEO 有效管理威胁组织长期生存能力的声誉风险。例如，生成式 AI 可以帮助团队提前识别潜在风险，实时监控社交媒体和在线情绪，并制定有针对性的沟通策略来应对挑战。尽管目前只有 16%的受访组织正在使用生成式 AI 来应对声誉风险，但预计到 2027 年，64%的受访组织计划利用生成式 AI 来预测、监控和缓解可能影响其声誉的 问题。需要了解的事项2.品牌+生成式 AI2027 年，64%的受访组织计划利用生成式 AI 来预测、监控和缓解声誉风险目前的这一比例仅为 16%。6IB

11、M 商业价值研究院CEO 生成式 AI 行动指南 风险管理防微杜渐，及时化解声誉风险需要采取的行动洞察公众认知及潜在风险。利用生成式 AI 分析社交媒体、新闻文章和客户评论，识别与组织相关的新兴趋势及对话。了解负面情绪背后的原因，并让 CMO 和法律团队制定声誉风险缓解策略。快速响应，维护积极的品牌形象和声誉。及时处理环境和社会责任问题，防患于未然。利用生成式 AI 评估与供应链运营和环境因素相关的数据集，包括供应商绩效数据、运输日志、天气模式以及环境和劳动法规。表明自己的态度。创建角色并利用 AI 助手制作和策划内容，展示您在各种问题上的立场。提前测试不同回应在各利益相关者群体中的反响。在社

12、交媒体、营销材料、新闻稿、危机沟通和客户互动中保持一致的信息和语调。通过生成式 AI 监控和响应新出现的声誉风险，确保组织在利益相关者中保持良好的声誉。预测哪些风险最有可能加剧，并提出积极的风险缓解策略来控制紧张局势。2.品牌+生成式 AI7IBM 商业价值研究院CEO 生成式 AI 行动指南 风险管理3.颠覆+生成式 AI未来，威胁会不断加剧从地缘政治动荡、数据隐私合规到基于生成式 AI 的网络攻击，组织面临着各种可能在一瞬间引发风暴的风险。正因如此，企业领导者需要主动出击，防止威胁进入攻击范围。事实上，80%的 CRO 和 CFO 表示其组织需要从防御性风险管理模式转变为前瞻性风险管理模式

13、。许多企业已经认为，生成式 AI 的预测能力可以帮助他们实施更有效的主动战略。近一半的 CRO 和 CFO 表示，到 2027 年，前瞻性风险管理将成为其组织投资部署生成式 AI 的核心目标。通过主动和预测性地使用生成式 AI，组织可以释放出巨大的效益。受访 CRO 和 CFO 普遍表示，采用生成式 AI 进行风险管理的主要好处包括改进风险优先级排序(76%)和增强潜在风险跟踪(74%)。受访高管还预计生成式 AI 能够缩短评估监管变化的时间(73%)、加快组织对新兴风险的响应速度(70%)以及提高风险预测的准确性(69%)。生成式 AI 还可以增强组织的市场地位，67%的 CRO 和 CFO

14、 表示其组织需要迅速采用生成式 AI 进行风险管理，以跟上竞争对手的步伐。尽管如此，风险管理职能却是采用生成式 AI 最慢的领域之一，在 13 个职能中排名第 12 位。随着时间的推移，组织如果不加快步伐，可能很快会面临挑战。需要了解的事项67%的受访高管表示其组织需要迅速采用生成式 AI 进行风险管理，以跟上竞争对手的步伐 但到目前为止，风险管理职能是采用生成式 AI 最慢的领域之一。8IBM 商业价值研究院CEO 生成式 AI 行动指南 风险管理3.颠覆+生成式 AI时刻做好准备，应对百年一遇的风险需要采取的行动调整风险雷达。使用生成式 AI 解码模糊数据，与复杂的网络图进行交互，并关注值

15、得注意的异常现象。揭示由于复杂的相互依赖关系、新出现的威胁和微妙的模式变化而可能隐藏的风险。防微杜渐。引入预测分析 AI 助手，识别可能性较低但影响严重的风险，帮助风险管理人员快速高效地采取主动措施来应对各类威胁。持续重新校准。鼓励风险管理团队监控数据流并实时调整风险预测。生成合成数据来模拟潜在的风险场景。利用生成式 AI 加快风险识别和评估流程，并根据威胁形势的变化提出新的应对方案建议。使用生成式 AI 对您的战略进行压力测试，为运营建立韧性。为风险管理人员提供所需的运营可视性，以保护价值并将潜在威胁转化为机遇。Copyright IBM Corporation 2024国际商业机器（中国）

16、有限公司 北京市朝阳区金和东路 20 号院 3 号楼 正大中心南塔 12 层 邮编：100020美国出品|2024 年 9 月IBM、IBM 徽标、 和 Watson 是 International Business Machines Corporation 在世界各地司法辖区的注册商标。其他产品和服务名称可能是 IBM 或其他公司的商标。以下 Web 站点上的“Copyright and trademark information”部分中包含了 IBM 商标的最新列表： 可能随时对其进行更改。IBM 并不一定在开展业务的所有国家或地区提供所有产品或服务。本文档内的信息“按现状”提供，不附有任

17、何种类的（无论是明示的还是默示的）保证，包括不附有关于适销性、适用于某种特定用途的任何保证以及非侵权的任何保证或条件。IBM 产品根据其提供时所依据的协议条款和条件获得保证。本报告的目的仅为提供通用指南。它并不旨在代替详尽的研究或专业判断依据。由于使用本出版物对任何企业或个人所造成的损失，IBM 概不负责。本报告中使用的数据可能源自第三方，IBM 并未对其进行独立核实、验证或审查。此类数据的使用结果均为“按现状”提供，IBM 不作出任何明示或默示的声明或保证。OL379RKV-ZHCN-00 本报告分析所依据的统计数据来自 IBM 商业价值研究院联合牛津经济研究院开展的两次专项调查。第一项调查

18、于 2024 年 5 月至 6 月询问了 200 名美国首席风险官和首席财务官对生成式 AI 和风险的看法。第二次调查于 2024 年 1 月至 3 月更广泛地询问了全球 5,000 名高管对生成式 AI 的看法。其他参考信息包括 Steel City Re 和 CNN。IBM 商业价值研究院IBM 商业价值研究院(IBM IBV)成立二十多年来，凭借 IBM 在商业、技术和社会交叉领域的独特地位，每年都会针对成千上万高管、消费者和专家展开调研、访谈和互动，将他们的观点综合成可信赖的、振奋人心和切实可行的洞察。需要 IBV 最新研究成果，请在 上注册以接收 IBV 的电子邮件通讯。您可以在 Twitter 上关注 IBMIBV，或通过 https:/ibm.co/ibv-linkedin 在 LinkedIn 上联系我们。访问 IBM 商业价值研究院中国官网，免费下载研究报告：https:/ 商业价值研究院CEO 生成式 AI 行动指南扫码关注 IBM 商业价值研究院官网微博微信公众号