全球AI产业正加大对技术安全的关注之际，OpenAI、Anthropic及谷歌正推动成立行业标准机构，拟为前沿人工智能系统建立更统一的安全评估机制，以降低新技术快速发展所带来的潜在风险。
OpenAI于15日证实，正与Anthropic及谷歌合作推进有关构想。有关建议由谷歌旗下DeepMind总执行长哈萨比斯于7月提出，他主张成立类似美国金融业监管局的行业自律机构，在先进AI系统正式向公众开放前，先进行安全测试。
按照哈萨比斯的设想，新机构将负责制定AI系统的评估标准及测试程序，并与美国联邦机构及国家实验室合作，针对涉及国家安全的AI应用展开测试。美国金融业监管局目前主要负责监管证券经纪商及投资公司，因此哈萨比斯认为，类似的行业自律模式也可应用于快速发展的AI领域。
OpenAI总执行长奥特曼日前也承认，外界担心企业与国家之间不断加剧的AI竞赛，可能让业者在追求技术进展时忽略安全问题。不过，他对OpenAI及整个行业落实AI安全措施的能力仍持信心，并认为相关技术能够在安全框架下继续发展。
不过，AI巨头推动行业合作的同时，也引发竞争层面的疑虑。加拿大AI公司Cohere总执行长戈麦斯认为，美国大型AI企业可能借安全之名强化市场控制，并挤压规模较小的竞争者。由此看来，未来AI行业标准除了安全测试与监管协调，也可能面对如何兼顾市场竞争及中小型业者参与空间的问题。
