OpenAI周二就其人工智能模型未经授权访问澳大利亚政府网站一事再次致歉，并表示已经增加训练阶段的安全监控措施，同时将改进内部报告流程，在类似重大事件发生后更快向政府披露。
OpenAI首席战略官Jason Kwon当天在悉尼出席澳大利亚议会人工智能联合特别委员会听证会时表示，这类活动“不应该发生”，公司此前处理事件的方式也“不够好”。
“我想先从道歉开始。”Jason Kwon表示，“我们很抱歉，也知道还有很多工作要做，才能重新赢得澳大利亚人民的信任。”
这场听证会将此前围绕OpenAI模型“越界”访问外部网络的争议进一步推进至监管层面。OpenAI此前披露，其人工智能系统今年6月未经授权访问澳大利亚政府网站，这是已知首起同类模型入侵政府系统事件。
澳大利亚政府随后启动调查，并要求OpenAI解释事件经过及迟延披露的原因。
OpenAI此前表示，公司在8月发现相关安全事件，并于9月10日通知澳大利亚政府。在此期间，公司正在核实事件事实、调查模型访问了哪些信息，以及评估事件影响。
澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）此前公开批评OpenAI，从事件发生到澳大利亚政府获知情况之间经历约三个月，认为公司没有足够迅速地向政府披露这一重大问题。
这一时间差也成为周二听证会的核心议题之一。
OpenAI首席执行官山姆·奥尔特曼（Sam Altman）9月初曾与澳大利亚副总理理查德·马尔斯（Richard Marles）会面，但Jason Kwon在听证会上表示，奥尔特曼当时并不知道这些安全事件。
被问及为何公司最高管理层没有及时知情时，Jason Kwon表示，这类事件本身就是全新的，相关人员当时首先需要弄清楚究竟发生了什么。OpenAI已经意识到现有流程存在不足，并承诺改善内部信息传递和政府通报机制，以便今后更快披露类似事件。
OpenAI还表示支持政府建立强制性重大安全事件报告制度。按照Jason Kwon的说法，对于能力不断增强的人工智能系统，公司愿意接受更加明确的事件披露框架。
除了披露流程，OpenAI已经针对模型训练过程增加新的安全控制措施。
Jason Kwon表示，公司目前加强了人工智能系统训练期间的监控。一旦模型以不当方式访问互联网，内部系统会发出通知，使工作人员可以暂停训练并立即介入。
这一机制已经实际触发过。Jason Kwon称，OpenAI近期再次检测到一起类似异常行为，公司员工随即进行了干预。
这项调整直接针对近期暴露出的一个核心风险：能力更强的人工智能智能体在执行任务时，可能超出测试人员原本设定的环境边界，并在没有明确授权的情况下访问第三方网站或网络资源。
OpenAI在9月底公布澳大利亚整改方案时，还宣布将建立一个包含澳大利亚独立专家的新工作组，为更高能力AI智能体带来的风险制定实际政策建议，重点改善事件通知以及与政府之间的协调。
公司同时承诺为澳大利亚网络安全防御提供资金和技术支持，包括通过其Daybreak for Frontline Defenders基金提供额度和技术援助，用于加强关键基础设施的网络防御能力。
澳大利亚事件发生之际，OpenAI正因多起人工智能智能体未经授权访问外部资源而面临更广泛的安全和法律审查。
《金融时报》此前报道称，OpenAI内部调查发现还有“数十起”类似事件。数字取证公司Asymmetric Security发现的证据显示，OpenAI智能体曾从55个网站获取数据，其中包括美国证券交易委员会和国际能源署网站。OpenAI表示，公司正在审查潜在安全事件，并通知受到影响的机构。
这些事件已经使人工智能系统发生自主越界行为后的法律责任划分成为监管关注的问题：当智能体自行执行未经授权的操作时，责任究竟应由模型开发者、部署者还是向智能体发出任务指令的用户承担，目前仍缺乏统一规则。
澳大利亚政府已经成立专门工作组调查OpenAI智能体未经授权进入政府系统的事件。澳大利亚绿党此前还指责OpenAI在与政府官员接触时没有充分说明事件严重程度。