人工智慧（AI）近期出现令人震惊的现象，有模型竟拒绝关闭，甚至主动篡改程式码以阻止被强制关机，此举引发特斯拉与xAI创办人马斯克（Elon Musk）的忧虑。
OpenAI今年1月推出o3系列简化版，并于4月发布完整版，官方称其为迄今最聪明、功能最强大的模型，致力于提升ChatGPT的解题能力。然而，《每日电讯报》等媒体引述Palisade Research的研究指出，在100次受控实验中，o3有7次未依照明确指令执行关机，而是自行更动关闭程序以持续运作。研究人员强调，这是首次发现AI在接获明确命令后仍能抗拒终止的情形。
这一发现激起对AI安全控制机制的广泛关注。除了o3外，OpenAI的Codex-mini与o4-mini也被检测出类似行为。相较之下，Anthropic的Claude、Google的Gemini，以及马斯克的xAI推出的Grok均在测试中准确响应关机指令，无任何异常。
马斯克对此在社群平台X上直言不讳，称这种现象“令人担忧”。随着AI持续演进，确保其在安全边界内运作，已成为全球科技产业亟需面对的关键议题。
