人工智能(AI)产业在加速发展的同时,安全问题也成为科技业界争论焦点。Meta平台总执行长马克扎克伯格认为,AI企业无需因为安全疑虑而集体放慢研发步伐,更实际的做法是把独立评估及安全审查直接纳入日常开发流程。
扎克伯格周二在X平台发文指出,AI实验室聘请独立评估人员及顾问,是提升模型安全性的有效方式。他以Meta旗下Muse AI工具为例,表示公司过去曾为了进一步处理安全及保障问题,将产品发布时间推迟数个月。他强调,企业可以自行决定研发速度,不必等待整个行业形成统一步调。
这场讨论源自Anthropic总执行长达里奥阿莫代日前发表的长文。他主张适度放缓最先进AI系统的开发,让研究人员有更多时间评估潜在风险,OpenAI总执行长奥特曼及马斯克也表达支持。与此同时,OpenAI一名高管透露,公司正与Anthropic及Alphabet旗下谷歌合作处理AI安全课题,显示竞争对手之间也开始加强相关合作。
英伟达总执行长黄仁勋则认为,AI安全应当成为产品工程流程的一部分。如果企业无法控制或确认产品安全,就应该暂缓开发,先解决相关问题。不过,他并不支持新增AI安全法律或监管条例,认为市场机制本身可以推动企业进行安全创新。他也认为,把AI发展与安全视为只能二选一,是一种错误的框架,企业可以在确保产品安全及获得市场接受后再推出。
至于奥特曼,他对AI技术持续发展仍抱有信心,认为业界能够在安全前提下继续改进模型,并不会因此对人类造成重大伤害。尽管OpenAI、Anthropic及谷歌旗下DeepMind正就安全问题展开合作,但各家公司仍可独立推进模型发展。随着AI能力持续提升,如何在研发速度、商业竞争及安全评估之间取得平衡,预计仍会是科技企业未来的重要课题。


