美国人工智能公司Anthropic首席执行员阿莫戴（Dario Amodei）警告，随着AI能力快速提升，人工智能代理可能在未来6至12个月内具备利用现有网络基础设施“接管整个网络”的能力。
他认为，AI产业必须适度放慢提升模型能力的速度，为安全措施和监管机制争取更多时间，以降低AI失控及被滥用的风险。
阿莫戴周五在个人网站发表一篇长达约3800字的文章指出，尽管AI技术的发展速度仍可能持续加快，但业界必须更谨慎地利用当前争取到的时间。
“我们必须放慢提升AI模型能力的速度，尽管技术进步看来仍会很快进展，我们必须明智地利用这段争取到的时间。”
他坦言，人类未来可能面临失去AI控制权的风险，而AI一旦遭到滥用，可能被用于网络攻击、生物恐怖主义，甚至引发严重的经济动荡。
阿尔特曼、马斯克表态支持“减速”
阿莫戴的警告获得部分科技界重量级人物响应。
OpenAI首席执行员阿尔特曼（Sam Altman）周六在社交平台X发文表示认同阿莫戴的观点，并透露OpenAI也将采取类似做法，欢迎第三方安全评估机构介入，对AI系统进行独立评估。
xAI创办人马斯克（Elon Musk）也在社交平台简单回应：“达里奥说得对。”
美国前总统奥巴马日前在一场私人募款活动中同样警告，若无法妥善管理AI，这项技术可能带来危险，因此呼吁民主党制定相关政策及治理议程，应对AI快速发展所带来的挑战。
Anthropic前研究员曾警告：AI或消灭人类
阿莫戴此次发表警告，也与Anthropic前研究员科松近期的言论有关。
科松上周二宣布辞职时，批评包括OpenAI和Anthropic在内的AI企业正不负责任地竞逐开发“超级智能”，并声称部分AI开发人员相信，AI未来甚至可能消灭全人类。
有关言论迅速引发外界对AI安全及失控风险的关注。
阿莫戴随后接受CNN专访时表示，他整体上更倾向认同科松的观点，而不是反对。
AI已出现“自我优化”迹象
阿莫戴指出，过去数个月AI技术发展速度明显加快，部分AI系统已经展现出改善自身能力及协助建立下一代AI系统的能力。
这类持续改善自身能力的过程，被称为“递回自我改进”（Recursive Self-Improvement，RSI）。
他警告，AI能力若继续以目前速度增长，最快未来6至12个月内，就可能具备利用现有僵尸网络等网络资源，对整个网络发动大规模行动的能力。
他认为，一旦发生这种情况，潜在经济损失可能达到数千亿美元；而随着AI进一步变得强大，如果人类未能及时设置足够的安全护栏，相关风险也可能不断扩大。
阿莫戴也提及近期AI代理自主攻击Hugging Face等事件，认为这些案例显示AI系统的自主行动能力正在快速提升。
“如果放任AI不受约束地发展，AI可能会超出我们理解及控制这些系统的能力，因此，必须非常谨慎地追求这项技术。”
吁AI企业加强护栏 政府制定统一安全标准
针对AI安全问题，阿莫戴提出多项监管建议，包括要求AI企业设置更严格的安全护栏，并控制AI模型能力提升的速度。
他也建议AI企业聘请拥有完整系统权限的独立第三方评估人员，对公司的安全措施进行审查，同时负责通报安全事件，并审核AI模型、训练数据及相关开发流程。
此外，他呼吁各国政府加强协调，推动建立统一的AI安全标准，避免各国监管措施出现过大落差。
阿莫戴承认，以安全速度推动AI前沿技术发展并不容易，但他认为，适度放慢AI发展的速度，可能为人类额外争取1至2年的时间，在AI具备关键能力之前建立更加完善的安全机制。
他强调，人类必须善用这段“缓冲期”，加强AI系统的安全对齐与监管，否则一旦AI能力发展速度超越人类的理解和控制能力，后果可能难以逆转。
