据路透社报道,美国货币监理署(OCC)本周向检查人员发布银行人工智能使用指引,要求重点评估AI系统潜在错误可能造成的后果,而非单纯依据模型复杂程度判断风险。
指引提出,即使是技术相对简单的AI代理,一旦获得发起交易的权限,其风险也可能高于仅供内部使用的复杂模型。对于风险较高的应用场景,银行可能需要进一步限制AI自主操作权限,或增加直接的人工监督。
OCC负责监管美国大型全国性银行。这是该机构首次针对银行AI使用发布检查指引,但文件并未建立新的监管规则,也未要求银行为AI单独设置风险参数。
该指引不具备正式规则的法律约束力,但银行通常会密切遵循。监管检查将结合AI实际用途、银行规模及业务复杂程度展开,重点关注系统权限与潜在损失。
银行内部也在调整AI工具的使用边界。
据彭博社报道,高盛近期将Claude Code和GitHub等先进编程工具的使用范围限制在工程师群体,相关内部指引于10月更新。此前数月,高盛曾允许银行业务人员使用这些工具。
知情人士透露,部分交易员此前利用相关工具监控客户交易流、模拟市场及头寸变化,并生成文字和图形内容。新的权限限制引发部分使用者不满。
高盛发言人尼克·卡尔卡特拉表示,公司此前向不同部门开放部分AI工具,目的是识别潜在应用场景。在经过一段时间的试验,并评估生产率和风险管理因素后,公司重新确定长期使用权限。
不过,新限制不适用于同时承担交易、量化研究及软件工程职能的“strats”人员。高盛还开发了整合多家模型供应商的内部AI助手,此次调整主要针对特定工具及使用人群。
随着AI从辅助员工工作逐步走向自主执行流程,银行还需要解决代理身份、系统通信及权限管理问题。
据《南华早报》报道,道富银行首席数据与AI官马诺杰·博拉表示,该行AI应用场景已从上年的约150个增加至超过350个,数千名员工已经在日常工作中使用AI。
博拉认为,下一阶段的关键问题是如何让AI代理承担部分业务流程,以及不同机构的代理如何安全交换信息。他表示,金融行业建立统一的代理通信标准更为理想,但目前距离实现这一目标仍有较大差距。
道富正在研究通过专门网关管理代理之间的通信,避免一家公司的AI代理直接进入另一家公司的系统。
按照初步设想,每个代理都将拥有预先定义的身份,并遵循最小必要权限原则,仅能访问服务特定客户、完成相应流程所需的信息和系统。
这一架构仍处于研究阶段,尚未形成已经部署的跨机构代理网络。
从OCC的监管指引,到高盛的工具权限调整,再到道富的代理通信设计,银行业正在围绕AI的实际用途、自主操作权限和潜在后果完善风险管理机制。