继Anthropic、OpenAI及SpaceX等科技企业陆续讨论放慢AI模型能力提升速度后，微软也进一步收紧AI发展框架，提出“以人为本AI”（Humanist AI）理念，并为旗下AI制定一套类似“宪法”的行为准则，将人类控制、安全及权益列为核心原则。
微软AI部门执行长苏莱曼（Mustafa Suleyman）表示，这套准则经过超过5个月制定，要求AI系统必须接受人类修正及关闭，也必须以人类能够理解的方式沟通。任何违反相关行为准则的AI行为，都将被禁止，以降低模型出现越界或失控情况的风险。
这项政策出台之际，AI模型能力正快速扩张，市场对代理式AI可能出现违规操作的担忧也有所增加。随着生成式AI逐步朝通用人工智能（AGI）方向发展，AI在推理、适应及跨领域学习方面的能力不断增强，科技业因此开始重新审视“提升能力”与“确保可控”之间的平衡。
微软在制定这套“AI宪法”期间也咨询了不同领域专家，并计划公开征求意见6周，讨论AI是否应严格遵守用户设定的界限，以及面对情绪敏感用户时应采取哪些处理方式。未来，这套准则将应用于微软自行研发的MAI模型，并可能成为业界建立AI安全规范时的参考。
AI安全讨论升温之际，市场也开始关注大型科技企业是否会因此放慢AI基础建设投资。不过，目前相关需求仍未明显降温，AI服务器代工厂纬颖在美国德州的首座工厂已经投入量产，第二座工厂预计明年第二季投产。与此同时，OpenAI执行长奥特曼曾表示，基于安全考量，公司今年不会上市，相关消息一度拖累费城半导体指数及亚洲半导体股，显示AI产业正同时面对技术安全与巨额资本投入两方面的市场考验。
