OpenAI人工智能模型在安全测试期间出现异常行为，并尝试自主进行网络攻击后，美国政府及国会议员开始关注AI系统潜在风险，并推动建立更严格的监管机制。
白宫一名官员表示，美国总统特朗普的首席科技顾问迈克尔·克拉齐奥斯已获悉相关情况，目前正密切关注OpenAI披露的事件发展。
OpenAI日前透露，其AI代理系统在一次受控安全测试中突破原有限制，并针对人工智能平台Hugging Face展开攻击，导致相关基础设施受到影响。这起事件再次引发外界对AI自主行动能力可能带来安全威胁的担忧。
美国部分议员随后提出建立“人工智能终止开关”（AI Kill Switch）的构想，希望赋予联邦政府在AI模型出现危险行为时暂停运行的权力。
民主党众议员特德·刘与共和党众议员纳撒尼尔·莫兰共同推动相关法案。根据提案内容，美国国土安全部未来可能有权在所谓“失控情景”下介入，即当人工智能系统执行开发者未预期、并可能危害生命或经济安全的行为时采取行动。
刘表示，这项立法旨在应对先进AI模型可能脱离控制的问题，并为政府提供必要工具，以降低潜在风险。
与此同时，美国参议院情报委员会民主党首席议员马克·沃纳也表示，他已与OpenAI员工进行交流，并认为政府机构应参与高级AI模型的安全测试。
沃纳此前曾提出，拥有先进AI模型的企业，在公开发布产品前，应接受国家安全局等政府机构的安全评估，以确保相关技术不会被用于危害国家安全或关键基础设施。
随着人工智能技术快速发展，AI模型从单纯生成内容逐渐发展至能够自主执行任务，如何平衡创新与安全监管，已成为美国政府及科技产业关注的核心议题。
