当前，人工智能成为各国发展重点，如何与人工智能共存，并在保证其安全可控的前提下更好造福人类社会，成为全球共同挑战。

24日，政界、学界、企业界人士齐聚中国发展高层论坛“人工智能发展与治理专题研讨会”，共商人工智能安全治理。

北京智源研究院创始人、创始理事长张宏江用“震撼”一词形容Sora。

他表示，Sora可以根据文字提供一段现实世界无法拍摄出来的逼真场景，多模态大模型还可以通过“樱花和雪天无法同时出现”以及雪片的均匀程度判断视频是否由人工生成，甚至可以思考、推理而非以往机械式地执行命令。

“人类做出的最伟大的发明就是人工智能，毋庸置疑，它也是最具风险和最危险的创新。”福特斯克金属集团执行董事长安德鲁·福瑞斯特表示，人类的DNA几十年甚至几百年才能有一些改善，但是AI却能以光速不断完善。

“AI的学习能力超过人类的平均学习能力”，张宏江同样表示，人类的学习能力是一条平缓的直线，但是机器的学习能力是一条指数曲线，两线相交后人类的学习能力将落后于机器。更可怕的是，当系统本身有能力自我改善时，可能会带来全球性的灾难后果，他提醒。

香港中文大学(深圳)前海国际事务研究院院长、广州粤港澳大湾区研究院理事长郑永年则拿原子弹进行类比，称原子弹是人类掌握的第一个自我毁灭的工具，“我们现在又多了一样”，“如果人工智能和核武器结合起来会更糟糕”。

如何避免这种灾难性后果，给人工智能发展勒好缰绳？这个问题显得比以往任何时候都更为重要。

Verimag实验室创始人、2007年图灵奖得主约瑟夫·希发基思直言，一些国际会议正在讨论建立全球监管框架的问题，但达成全球人工智能监管框架的机会比较渺茫。

然而近期达成的《北京AI安全国际共识》在人工智能监管方面仍取得了可喜突破。张宏江强调，最重要的是划出了安全红线：人工智能不能自主复制或改进，不能寻求权力，不能协助不良行为，尤其是大规模杀伤性武器、生化武器和制造大规模网络灾难，不能欺骗人类，这些红线不可逾越。

清华大学智能产业研究院院长、中国工程院院士张亚勤的建议则更趋具体，他建议将机器人与其背后的人或公司关联，以便追溯实体责任，同时建立监管分级体制，根据风险大小确定不同程度的监管标准。

持续深化人工智能安全治理，合作的重要性被反复提及。

郑永年称，美国和中国的人工智能发展各有比较优势，在治理方面需要两个国家进行合作。

中国科学技术部副部长吴朝晖也在发言中指出，世界各国应携手一道，以高度负责任的态度推动人工智能的发展，坚持智能向善、智能向上，确保人工智能始终处于人类的控制之下，从而实现安全、可靠、可控。