澳大利亚金融服务中的生成性人工智能采用的监管视角

作者：Julian Busic Krish De Jamie Simon 和 Warren Cammack

发布日期：2024年12月3日

关键要点

监管机构的支持：澳大利亚金融服务监管机构 APRA澳大利亚审慎监管局已对生成性人工智能GenAI的采用提供了重要指导。加速采用：这项指导促使银行、保险公司和养老金基金加速采用生成性人工智能，但依旧强调需要确保安全措施，避免可能对社区造成的成本。AWS 的承诺：亚马逊网络服务AWS积极支持负责任的人工智能开发，致力于帮助金融服务行业满足和超越监管期望。人工智能的应用案例：APRA指出了一些具体的生成性人工智能应用，包括快速文件审查、代码生成和顾客测试模拟。风险管理：APRA呼吁金融机构在采用新技术时，务必保持谨慎，并强调成熟的风险管理能力的重要性。

澳大利亚金融服务监管机构澳大利亚审慎监管局APRA向行业提供了迄今为止关于生成性人工智能的最重要指导。在APRA 委员 Therese McCarthy Hockey 在2024年AFIA风险峰会上的讲话中，明确表示银行、保险公司及养老金基金可加快采用这一具有变革性的技术，但同时也提出了需要足够的安全防护措施，以确保生成性人工智能的好处不会带来不可接受的社区成本。

亚马逊网络服务AWS致力于负责任地开发人工智能，完全支持 APRA 的消息，强调在进行生成性人工智能的采纳时应实施适当的安全防护措施。AWS 处于生成性人工智能研究和创新的前沿，许多金融服务客户已开始利用我们的人工智能AI、机器学习ML和生成性人工智能服务带来的好处。AWS 一直致力于确保人工智能的负责任开发与使用。

生成性AI、机器学习的启动信号

APRA 的指导为受 APRA 监管的实体采用人工智能、机器学习和生成性人工智能技术提供了明确的道路。McCarthy Hockey 说，APRA 及各级政府对推动技术为主的创新有“强烈的支持”，并强调了生成性人工智能在提升生产力、成本效率、个性化客户体验等方面的重要优势。

“在 APRA 及政府监管机构内部，都对通过创新实现切实改善充满热情。” APRA 委员 Therese McCarthy Hockey 在2024年 AFIA 风险峰会上讲话

AWS 的金融服务客户开始广泛应用更先进的 AI 于客户服务、市场营销、应用开发、欺诈检测和监管合规等多个用途。APRA 提及的具体应用案例包括使用生成性人工智能快速审查长文件，基于政策要求进行对比；使用生成性人工智能驱动的编码工具更快速地生成高质量代码；以及创建生成性人工智能机器人模拟客户对产品和服务的测试。这是对早期一些较简单的人工智能形式的延续，比如互联网聊天机器人和自然语言处理NLP等，企业已经通过自动化和加速繁琐的人工流程获得了实效。

APRA及其他金融服务监管机构也在内部进行人工智能方面的实际体验。在McCarthy Hockey的讲话中，她提到APRA自身正在持续使用文本分析工具对APRA风险文化调查的反馈进行审查，结果帮助 APRA 风险专家更好地聚焦于最需要的地方。APRA 还在使用自然语言处理工具来审查受监管主体的事故报告数据，以突出值得进一步调查的事故，从而减少人力的投入，提高监管效率。

理解与管理风险

APRA 倡导对这些技术的实验采取谨慎的态度。与云采纳相似，具备更成熟风险和数据管理能力的组织将能比那些能力较弱的组织更快推进。

“APRA 对我们监管的实体发出的信息是，企业董事会监督、强大的技术平台和健全的风险管理对于希望开始探索利用人工智能新方式的公司至关重要。” APRA 委员 Therese McCarthy Hockey 在2024年 AFIA 风险峰会上讲话

APRA 当前的监管框架适应性强

APRA 还特别指出，其现有的审慎框架依然适合于 AI、ML 和生成性人工智能的应用增加。

APRA 的主要关注点在于治理，强调三个关键领域：

董事会的能力：董事会是否具备足够的能力来制定适当的人工智能战略并做出良好的风险管理决策？他们能否有效地挑战管理层？是否有相应的学习和发展计划，其是否能获得外部的技能和建议？风险文化的成熟度：风险管理思维是否已在企业的所有三个防线中有效嵌入和运作？是否有控制和监测措施来防止员工未经授权使用人工智能、机器学习和生成性人工智能工具？数据的质量与可靠性：人工智能的输出直接依赖于输入的质量。APRA 仍表示，许多受监管实体在数据管理方面还有很长的路要走。

APRA 还关注问责制，提醒受监管实体如同任何形式的外包或使用第三方服务一样，受监管实体仍需对其部署的人工智能、机器学习和生成性人工智能程序的输出负责。必须始终有人参与其中：对 AI 操作是否如预期般执行负责的人员。人类的参与程度可以有所不同例如，APRA 认为并不要求每个欺诈检测服务中都需有人参与决策，但应确保有人对运行的算法以及其操作和驱动的结果负责。

AWS 如何帮助客户负责任地使用人工智能

自始至终，AWS 优先考虑负责任的人工智能创新，将安全、公正、稳健、安全性和隐私融入到我们的开发流程中，并不断教育我们的员工。我们将这一承诺扩展到我们的客户，通过设计服务帮助客户以安全和负责的方式从人工智能中获得业务价值。

AWS 上与 OECD AI 工作组、人工智能伙伴关系、负责任人工智能研究所的合作，以及与全球大学的战略合作，提供对负责任使用人工智能的深入启示。在澳大利亚，AWS与国家人工智能中心、CSIRO、澳大利亚信息产业协会和澳大利亚科技委员会等关键机构合作，以提供有关负责任的人工智能采纳的见解，最大化人工智能技术的收益。最近，由国家人工智能中心制定的自愿人工智能安全标准为澳大利亚机构提供了明确的遵循指导，AWS 正在与澳大利亚及其他政府就负责任的生成性人工智能的应用和使用进行互动。

近期，AWS 已经支持全球金融服务客户在风险管理、金融犯罪预防和网络安全等关键领域，利用生成性人工智能实时分析和应对大量数据。Verafin纳斯达克公司通过使用 Amazon Bedrock 改善了反洗钱和欺诈预防过程。这种 AI 的应用增强了金融犯罪管理计划的有效性。万事达卡则利用 AWS 的人工智能和机器学习服务来检测和预防欺诈，同时提供尽可能无缝的客户体验。

在现代化传统系统方面，生成性人工智能的角色日益受到认可，尤其是在澳大利亚金融服务客户中，这些客户正在进行转型计划以减少技术债务并提高过程的弹性。联邦银行、PEXA 和澳大利亚国民银行都在利用生成性人工智能技术，以提升构建和修改应用程序时的速度、质量和安全性。

如何在组织内实施负责任的人工智能

AWS中负责任人工智能的核心维度与 APRA 和全球监管机构的关键监管考虑吻合：

公正性：考虑对不同利益相关者群体的影响可解释性：理解和评估系统输出隐私和安全：恰当地获取、使用和保护数据及模型安全性：努力防止有害的系统输出和误用可控性：对 AI 系统行为的监测和指引机制真实性和稳健性：确保即使面对意外或对抗性输入也能产生正确的系统输出治理：将最佳实践融入 AI 供应链，包括提供者和部署者透明性：使利益相关者能够就其与 AI 系统的互动做出知情选择

请注意，负责任的人工智能是一个不断演变的领域。客户可以通过我们的负责任人工智能网页了解这一领域的发展动态。

面向人工智能、机器学习与生成性人工智能的云采纳框架提供了全面的指导，是帮助客户满足并在许多情况下超越监管期望的起点和指南。

我们在生成性人工智能服务中整合了有助于组织实施负责任人工智能政策的功能。例如，Amazon Bedrock Guardrails可以帮助金融服务组织在多方面遵循 APRA 对人工智能使用的指导：

内容过滤：Guardrails 允许组织配置内容过滤器，以阻止人工智能模型输入和输出中的有害或不当内容。这有助于 AI 应用遵循 APRA 对负责任人工智能使用的期望。主题限制：组织可以定义在 AI 交互中要避免的特定主题。例如，一个银行聊天机器人可以配置为不提供投资建议，从而遵循监管限制。敏感信息保护：Guardrails 能够检测并筛选出人工智能输入和输出中的个人可识别信息PII，这有助于保护客户隐私，并符合数据保护要求。自定义词过滤：公司可以设定需要阻挡的词语或短语列表，以帮助维护适当的沟通。情境基础检查：此功能有助于检测和过滤模型响应中的 AI 幻觉，当给定参考源和用户查询时，提高生成的 AI 响应的准确性和可靠性，这符合 APRA 确保 AI 系统提供准确和可靠信息的重点。可定制政策：Guardrails 允许组织根据其特定需求和监管要求，自定义 AI 保障措施，帮助其符合 APRA 的原则导向方法。一致的保护措施：Guardrails 可应用于多个 AI 模型和应用程序，实现组织内负责任人工智能使用的标准化方法。透明性和测试：测试保护措施并迭代配置的能力支持 APRA 对 AI 系统进行尽职调查和适当监控的期望。

我们提供了全面的用户指南，详细介绍如何实施、配置和测试 Amazon Bedrock Guardrails。

准备起飞：澳大利亚金融服务中生成式人工智能采纳的监管视角安全博客

AWS AI 服务卡也提供有关 AWS AI 服务的详细信息，包括预期的使用案例、限制和负责任的人工智能设计选择。这种透明度帮助金融机构理解和负责任地使用人工智能技术。

APRA 现有的审慎标准并未对管理 AI/ML 和生成性人工智能风险设置具体规则。相反，APRA 概述了期望的风险管理结果，由每个受监管实体自行评估 AI 部署的风险并实施适当的控制。AWS 提供了汇总澳大利亚金融服务法规和指导的用户指南，以帮助客户满足 APRA 的要求。

最终，APRA 监管的实体在人工智能、机器学习和生成性人工智能的采用速度将由各别实体的风险承受能力和风险管理能力决定。APRA 公开鼓励其受监管实体我们的金融服务客户在考虑人工智能、机器学习和生成性人工智能的实验和采纳时，直接与 APRA 联系并启动对话。APRA 是一个极具经验、知识渊博且容易接触的监管者，将能够为受监管实体提供有价值的见解和指导。