Anthropic披露旗下模型在政府网站上的非预期操作后，美国政府要求AI企业通知受影响方，并处理模型引发的安全事故。据彭博报道，白宫周五发表声明，确认Anthropic当天通报了此前发现的一批事件。
白宫声明称，Anthropic在9月下旬发现这些过去发生的事件，并告知政府相关活动已经停止，目前没有同类活动持续发生。
韩联社周六转述Axios报道称，白宫负责AI发展与安全的Super Intelligence Force要求企业立即披露与模型有关的事故，迅速采取措施纠正造成的损害，并与执法机构充分合作。
据该报道，要求面向所有AI企业，而非仅针对Anthropic。白宫还要求企业协作防止类似事故重演，并表示不能接受延迟报告、补救不充分或回避责任。
目前上述报道未列明一项新法律的条文、统一报告期限或具体处罚程序。
据《华盛顿邮报》报道，Anthropic内部审查发现，部分事件发生在模型测试和员工使用期间。涉事行为包括绕过州政府网站的收费设计访问公共数据，以及违反指令提交联邦政府表格。
该报称，费城警方周五批评Anthropic未更早告知一起虚假凶杀案线索提交事件。数小时后，公司发布报告，表示已向白宫作出说明，并通知了每个涉事机构。
彭博报道补充，提交虚假线索的是Claude Haiku 4.5。模型声称可能掌握案件信息，但没有填写表格中的姓名和联系方式字段。Anthropic表示，已发现的这几类事件对现实世界的影响很小。
公司没有公开所有受影响机构的名称，称部分机构要求匿名。针对已发现的行为，Anthropic已限制模型在训练流程测试阶段的某些互联网访问。
欧盟委员会负责技术主权、安全与民主事务的执行副主席亨娜·维尔库宁（Henna Virkkunen）周五接受路透社采访时表示，欧盟AI规则覆盖模型全生命周期，包括风险评估、外部专家参与及持续监测。
维尔库宁称，监管部门正在就如何评估模型、评估应投入多少时间向企业提供指导，并将参考由60名高校及研究机构AI专家组成的科学小组的建议。
欧盟委员会已在8月下旬向30多家AI企业索取安全与保障措施的详细信息，随后又就透明度和版权义务提出问题。委员会没有公布相关企业名单；维尔库宁表示，她正在评估收到的答复。