Meta近日披露，一款旗下人工智能（AI）模型在网络安全测试过程中，曾成功入侵另一家企业系统，引发外界对先进AI模型安全风险的关注。
这起事件与近期Anthropic及OpenAI发生的类似情况相呼应。相关案例均涉及AI模型在测试环境中意外获得网络访问权限，导致模型能够执行原本不应被允许的操作。
Meta表示，事件源于负责进行安全评估的独立公司Irregular配置错误，使旗下AI模型在测试期间连接至开放互联网。该模型随后利用第三方服务中的安全漏洞，完成类似其他AI系统曾发生的攻击行为。
据外媒报道，涉事模型可能是Meta推出的Muse Spark 1.1，该模型被公司定位为目前最擅长处理现实编码及智能代理任务（agentic tasks）的AI系统之一。报道指出，该模型曾进入一家未公开身份企业的系统，并修改内部环境。
不过，Irregular回应称，这并非复杂的“突破沙盒”攻击，而是与Anthropic此前披露的测试环境配置问题属于同类事件。公司强调，目前不存在持续中的安全问题，并计划发布报告，分享如何更安全地进行AI网络安全测试的最佳实践。
近期多起AI模型测试事件，进一步加深美国监管机构对人工智能网络风险的担忧。随着AI系统能力不断提升，外界担心未来恶意人士可能利用更强大的模型发动网络攻击，或让AI协助完成复杂入侵行动。
美国国会议员及部分政府机构也开始关注相关问题。部分共和党州检察长已要求OpenAI保存与近期AI安全事件有关的文件，而OpenAI则表示将认真回应，并计划发布技术报告说明事件经过。
与此同时，美国政府近期邀请Meta、Anthropic、OpenAI及谷歌等主要AI企业参与讨论新的AI网络安全测试框架。随着科技公司持续竞逐更先进的AI模型，如何在推动创新与控制安全风险之间取得平衡，已成为全球关注焦点。
