在刚刚结束的国际货币基金组织与世界银行春季会议上，与中东局势同样受到关注的是，各国金融当局对人工智能（AI）模型表现出的不安。
这一议题被推入公众视野，源于彭博新闻社的一篇报道：美国财政部长斯科特·贝森特召集华尔街领袖，就美国AI企业Anthropic一款即将问世的、名为Claude Mythos的大模型发出警告。该模型被指具备自主识别金融系统薄弱环节、生成定制化攻击代码并绕过传统防御机制的能力，其扩散风险远超常规网络安全威胁。测试显示，Mythos能够构建复杂的漏洞利用链，实施可绕过多层安全防护的多步攻击，甚至自主实现了权限提升技术。
这款AI模型令人担忧的根源还在于，业界对相关威胁存在“认知空白”：既无从判断模型究竟是监管机构已在深入研究的已知威胁，还是需要全新应对方案；也无从预测Mythos是否会对银行账户、国际支付系统，乃至金融体系带来不可控的风险隐患。
金融监管者担忧，一旦其被用于操纵市场数据、伪造交易指令或劫持支付清算通道，将直接冲击金融基础设施稳定性。金融界由此纷纷发出警告。
欧洲央行行长拉加德担心，一旦模型“落入错误之手”，后果将不堪设想。这也是其他央行行长、多国财政部长，以及监管官员和投资机构负责人所担心的事。这些财金界重要人物均希望获取更多关于大模型潜在威胁和相应防护措施的信息和方案，以便未雨绸缪。
虽然Anthropic在发布Mythos之前，已主动向美国政府及金融等关键行业利益相关方通报了该模型的相关能力，但国际货币基金组织总裁格奥尔基耶娃表示，目前，全球尚不具备足够能力保护国际货币体系免受大规模网络风险冲击，“我们迫切希望各方更加重视在AI时代维护金融稳定所必需的监管防线”。她呼吁就此展开全球合作。英国央行行长贝利也表示，全球监管机构需迅速评估Mythos模型可能对金融系统构成的潜在网络安全威胁。
美国财政部长贝森特和美联储主席鲍威尔不久前紧急召集花旗集团、摩根士丹利、美国银行、高盛等美国主要金融机构负责人开会，通报了新模型可能带来的网络安全风险。
英国央行最近也已开始通过情境分析和模拟测试，评估Mythos可能给金融系统带来的风险。
上周的七国集团财长会议上，各方就建立国际机构框架以加强AI监管展开了讨论。
Anthropic表示，考虑到Mythos的潜在风险，暂时不会面向公众发布这款大模型，并启动名为Glasswing的合作项目，向微软、亚马逊、谷歌、苹果、思科等40多家科技企业、金融机构以及基础设施服务商开放了Mythos预览版本的访问权限，使其能够对模型进行测试，实现“提前防御”。
正如贝利所言，Mythos提醒大家“AI领域的发展何其迅速”。而更令人关注的是，在地缘政治风险急剧上升的背景下，AI在提升金融业效率的同时，其带来的风险隐患也不容忽视。
显然，随着AI技术的不断进化，善用AI推动金融科技进一步发展的前提是控制好AI模型“攻防两用”能力外溢风险，让AI真正成为“好”的工具，这已经成为当下的重要课题。
联华证券提示：文章来自网络，不代表本站观点。
