人工智能发展速度愈来愈快，科技圈内部却接连有人拉响警报。继Anthropic研究员考克森辞职并公开警告AI可能带来人类灭绝风险后，前谷歌DeepMind研究员丘格泰也站出来表示，他相信先进AI确实存在“杀死所有人类”的可能，而留给社会降低风险的时间可能正在减少。
丘格泰周一在X平台发文透露，自己已离开谷歌DeepMind。他过去主要参与通用人工智能（AGI）的安全及“对齐”研究，即确保AI的目标和行为不会偏离人类利益。
根据其公开履历，丘格泰曾以研究工程师身份任职DeepMind，并参与多篇研究论文，今年7月离开公司。
离职后，他对AI竞赛提出更强烈警告，认为问题并不在于AI一定会导致灾难，而是目前没有足够把握确保未来更强大的AI始终处于人类能够控制的范围。
他说，安全发展AI并非做不到，但前提是主要AI公司必须协调步伐，避免为了抢先研发更强模型而陷入失控竞赛。
他主张，AI的发展速度应该调整至社会有能力消化及管理风险的程度，并在真正出现极端伤害之前，把不断浮现的安全问题解决。
丘格泰的警告并非孤例。
Anthropic研究员考克森上周宣布辞职时，也把AI安全忧虑列为其中一个原因。他更直言，一些身处AI研发最前线的人，确实相信这项技术可能在本世纪20年代结束前对整个人类构成生存威胁。
随后，Anthropic另一名AI安全研究员胡宾格也公开认同有关风险并非纯粹危言耸听。
胡宾格甚至给出个人风险判断，认为未来10年内，AI最终导致全人类死亡的可能性超过10%。
不过，这类数字属于研究人员个人对未来极端风险的判断，并非已经能够通过现实数据验证的预测。当前AI是否真的会发展至足以造成“人类灭绝”的程度，在科技界仍存在巨大争议。
争论的核心之一，是未来AGI或超级智能一旦具备远高于人类的自主决策及执行能力，研发人员是否还有能力确保它遵循人类设定的目标。
支持加强监管的一方担心，在各大公司争夺领先位置的情况下，商业竞争可能跑得比安全机制更快；另一边则有人认为，现阶段有关“AI灭绝人类”的推演仍高度理论化，不应把极端情境直接视为必然结果。
随着越来越多身处AI安全领域的研究人员公开表达忧虑，这场争论如今已不只是“AI能做到什么”，而是另一个更难回答的问题——当AI能力继续高速提升时，人类是否已经准备好承担随之而来的风险。
