美联储理事迈克尔·巴尔(Michael Barr)本周一(11月16日)警告,具备自主决策和执行能力的AI代理(AI Agents)可能加速银行存款外流,使未来的银行挤兑在数分钟内迅速扩大,甚至超出现有流动性管理及监管干预机制的应对能力。
据彭博社报道,巴尔在为当天意大利米兰一场会议准备的讲话中指出,部分大型银行已经发现,AI代理正在尝试对散户账户执行未经授权的操作。随着金融机构及消费者越来越多地使用自主AI系统,相关风险可能进一步增加。
巴尔表示,AI有望长期改善金融服务,但如果技术应用速度超过监管和风险管理能力,可能对银行体系、金融市场及消费者权益带来新的威胁。
巴尔特别强调了AI代理对银行存款稳定性的潜在影响。
传统情况下,储户需要自行关注银行的经营状况、存款利率及金融市场信息,再决定是否转移资金。这一过程通常需要人工判断及操作。
随着自主AI代理逐步参与个人金融管理,资金转移可能变得更加迅速。
巴尔表示,AI代理能够即时识别不同银行之间的收益率差异,或者捕捉反映金融机构稳定性的市场信号,并根据预设目标自动转移客户资金。
他警告称,过去需要客户亲自完成的资金划转,未来可能由AI代理瞬间执行,大规模资金外流可能在几分钟内形成,令传统银行流动性管理和监管干预机制难以及时发挥作用。
即使相关AI代理获得客户合法授权,其自动化和高速执行能力仍可能放大风险。一旦大量代理系统根据类似信号同时行动,银行可能面临短时间内高度集中的存款流出。
授权问题同样受到关注。巴尔指出,金融机构可能难以核实试图操作客户账户的AI代理,是否真正获得账户持有人的同意。
对于可能直接处理客户资金的AI系统,他提出应建立更明确的安全约束,包括针对具体交易实施明确的客户授权验证、通过技术措施限制AI代理的操作权限,以及设置基于规则和价值原则的行为约束。
除了银行存款风险,巴尔还指出,AI在证券交易和资产管理领域的大规模应用,可能导致金融市场出现新的不稳定因素。
巴尔认为,如果越来越多的金融机构依赖相似的AI模型进行交易,算法可能在面对同一市场信号时采取高度一致的行动,从而加剧市场的羊群效应。
这种趋同交易行为可能在市场压力时期集中释放,使资产价格短时间内出现剧烈波动。
巴尔还警告,具备自主学习能力的算法可能实施市场操纵,或者在缺乏充分人工监督的情况下形成具有扰乱市场效果的交易策略。
他认为,金融机构需要防范AI在交易过程中可能产生的串通行为、市场操纵及其他系统性风险。
网络安全也是此次讲话的重要内容。巴尔指出,攻击者可能利用AI提高网络攻击效率,而失控或未经适当约束的AI代理也可能主动利用金融系统中的安全漏洞。
在消费者金融服务方面,AI模型还需要解决决策可解释性、数值准确性及法律合规等问题。巴尔特别提到,应防止AI在消费信贷审批等领域强化既有偏见。
同一天,美联储主席凯文·沃什(Kevin Warsh)计划在旧金山联储主持的一场AI会议上致开幕词。会议将邀请AI开发者、企业负责人及学术研究人员,讨论AI对生产率、就业及整体经济的影响。