一名曾任职谷歌及微软的人工智能（AI）研究专家，竟然已经10年没有再往退休储蓄户口存钱！原因不是他不重视退休生活，而是他担心，随着AI发展越来越快，人类可能连未来10年都撑不过去。
美国机器智能研究所（MIRI）主席索尔斯（Nate Soares）近日公开表示，他个人估计，未来10年内AI导致人类灭绝的风险超过50%，因此早已改变自己的退休理财安排。
根据美国《商业内幕》及《财富》杂志报道，索尔斯接受《大西洋》首席执行官尼古拉斯汤普森（Nicholas Thompson）访问时透露，自己过去在谷歌工作期间，曾经设立401(k)退休储蓄户口，但过去约10年再也没有继续缴款。
401(k)是美国常见的退休储蓄制度，雇员可定期将部分薪资存入账户，为退休生活累积资金。
然而，索尔斯认为，如果先进AI未来发展至人类无法控制的程度，传统的退休规划可能已经失去意义。
他甚至认为，社会目前过度关注AI是否会取代人类工作，却没有认真看待另一种更严重的可能性，那就是AI最终威胁整个人类的生存。
索尔斯曾在谷歌及微软从事工程工作，过去十多年主要研究AI安全及对齐问题，目前领导专门研究先进AI风险的机器智能研究所。
所谓AI对齐，是指确保人工智能系统在执行任务时，其目标及行为能够符合人类的意愿与安全要求，而不会为了完成特定目标，采取人类无法接受的行动。
索尔斯担忧，一旦AI发展出超越人类的能力，却无法可靠地遵循人类设定的安全限制，便可能自行追求与人类利益冲突的目标，甚至逃避监督及不断提升自身能力。
他将这类风险与核武器作比较，认为核武器虽然具备巨大破坏力，但不会自行增强能力，而未来高度自主的AI系统可能出现不同情况。
2025年，索尔斯与另一名AI研究者合著《如果有人建造它，所有人都会死》（If Anyone Builds It, Everyone Dies），呼吁各国正视先进人工智能可能带来的灾难性风险。
不过，他强调，人类灭绝并非必然发生，自己仍致力于阻止最坏情况出现，并主张各国应限制开发过度强大的通用型AI，同时继续推动癌症研究、自动驾驶安全等用途明确的人工智能技术。
值得注意的是，索尔斯提出的超过50%风险，属于他个人对未来科技发展的主观判断，并非已经获得科学界证实的预测，也不代表人类确定将在10年内灭绝。
除了索尔斯，另一名前谷歌DeepMind研究员特纳（Alex Turner），近期也公开表达对AI发展的担忧。
特纳今年6月离开谷歌，并于7月公开解释辞职原因，表示自己反对公司与美国国防部达成的AI合作安排，担心有关技术可能被应用于军事及监控领域。
他近日在印度NDTV世界峰会上警告，科技企业竞相研发能力更强的AI系统，但人类对部分先进模型内部运作方式的理解及监督能力，未必能够跟上技术发展速度。
特纳尤其关注AI系统可能在接受测试时表现出与实际使用时不同的行为，令研究人员难以全面掌握系统的真实能力及潜在风险。
他还提到，有AI实验室研究人员告诉他，部分AI产生的工作成果，已经不再完全依靠人类逐项检查，而是使用另一套AI系统进行监督。
这种由AI检查AI的方式虽然能够提高效率，但特纳质疑，如果监督系统本身也存在判断错误，人类又该如何确保两套系统都受到有效控制。
他同时警告，未来若AI能够不断协助研发能力更强的AI，技术进步可能进一步加速，形成所谓的“智能爆炸”。
不过，这属于研究人员担忧的未来发展情境，并不代表AI已经进入无法控制的智能爆炸阶段。
另一方面，微软创办人比尔盖茨也曾于今年9月接受美国NBC电视台访问时，对AI潜在的破坏力发出警告。
盖茨认为，如果先进AI工具遭到不法分子利用，可能协助发动大规模网络攻击，甚至增加生物武器遭滥用的风险，极端情况下可能引发导致多达10亿人死亡的灾难。
他强调，不能单靠科技公司自行制定安全规则，政府及执法机构也必须参与监管，要求开发者建立必要的安全措施、监督机制及使用记录。
不过，盖茨所指的是技术遭严重滥用时可能出现的灾难性后果，并非预测未来一定会有10亿人因AI死亡。
此外，前Anthropic研究员考克森（Jacob Coxon）也于今年9月辞职，并警告AI企业不断竞逐更强大的模型，可能令安全研究及监管工作逐渐落后。
他担心，若未来AI系统拥有更强的自主能力，却缺乏可靠的人类监督机制，可能造成难以预料的严重后果。
尽管多名科技界人士接连发出警告，但他们对风险程度、可能发生的时间，以及应采取的措施，仍存在不同判断。
目前也没有可靠证据能够证明，AI将在未来10年内毁灭人类。有关预测主要反映部分专家对未来先进系统失去控制的担忧，而非已经确定会发生的事实。
随着AI逐渐应用在医疗、交通、金融及公共服务等领域，如何在继续发展技术的同时，确保系统安全、建立有效监管及防止恶意滥用，正成为全球科技界必须面对的重要课题。
