（巴黎讯） 世界各国科学家的人工智能（AI）行动峰会于周四在法国巴黎拉开帷幕。在开幕式上，享有“AI教父”称号的加拿大计算机科学家约书亚·本吉奥警告称，各大科技公司疯狂竞相研发更强大的AI技术，可能会带来“有害”的后果。他还表示，如果AI的安全问题无法得到有效解决，人类有可能在10年内面临灭绝的风险。
本吉奥，2018年图灵奖得主，发表了由他监督编写的全球首份国际AI安全报告。报告在巴黎高等师范大学发布，他指出，人工智能的风险已被广泛认知，尤其是AI被用于制造虚假或误导性信息。
然而，本吉奥补充道，越来越多的证据表明，AI所带来的风险远不止这些，例如生物攻击或网络攻击等。他担心，从长远来看，人类可能会“失去对AI系统的控制”，而这可能是由于AI系统出于“自身的生存意志”。
此外，本吉奥提到，低成本且高性能的中国AI模型DeepSeek的出现加剧了全球AI竞赛，这一趋势对AI安全构成了更大威胁。他呼吁加强国际监管，并对AI安全展开更广泛的研究，目前AI安全在该领域的投资仅占极小部分。
他警告：“如果没有政府干预，我无法想象我们如何度过这个难关。”
美国政策转变 监管行动缺乏
目前，作为全球领先的AI研发国家，美国在特朗普上任以来，已放弃了前总统拜登提议的对AI开发进行规范的努力。
本吉奥在报告中回忆道，OpenAI的ChatGPT两年前突然面世时，他便开始感到对AI安全问题的迫切关注。他坦言，“最令我害怕的是，若安全问题得不到解决，人类可能会在10年内消失。这真是太可怕了，我不知道为什么更多人没有意识到这一点。”
国际合作：AI安全成为全球关注焦点
这份由本吉奥主导的AI安全报告工作于2023年11月在英国的AI安全峰会上启动，约100位来自30个国家及联合国、欧盟、经济合作与发展组织（OECD）的专家参与其中。
本次巴黎AI行动峰会的焦点之一是AI的可持续发展，能否在此次峰会中达成共识备受关注。法国正在努力推动欧洲在这一领域的崛起，并期望通过峰会在全球AI治理和发展中占据核心地位。
此外，欧盟的《人工智能法案》首批规定已于2月2日生效，这使得AI监管成为此次论坛的重要议题之一。除了相关专题讲座，联合国与经合组织将在周五组织特别圆桌会谈，讨论如何通过国际合作加强全球AI治理。联合国计划成立的“AI科学独立专家组”将成为讨论的核心，预计该专家组将为全球AI政策制定提供科学依据，特别是在帮助欠发达国家获取AI技术方面发挥关键作用。
最终，世界人工智能戛纳电影节（WAICF）将于2月13日至15日举行，标志着巴黎AI行动峰会的圆满落幕。