发布时间:2024-08-23 16:32:56 来源: sp20240823
中新社 北京3月25日电 (王梦瑶)当前,人工智能成为各国发展重点,如何与人工智能共存,并在保证其安全可控的前提下更好造福人类社会,成为全球共同挑战。
24日,政界、学界、企业界人士齐聚中国发展高层论坛“人工智能发展与治理专题研讨会”,共商人工智能安全治理。
北京智源研究院创始人、创始理事长张宏江用“震撼”一词形容Sora。
他表示,Sora可以根据文字提供一段现实世界无法拍摄出来的逼真场景,多模态大模型还可以通过“樱花和雪天无法同时出现”以及雪片的均匀程度判断视频是否由人工生成,甚至可以思考、推理而非以往机械式地执行命令。
“人类做出的最伟大的发明就是人工智能,毋庸置疑,它也是最具风险和最危险的创新。”福特斯克金属集团执行董事长安德鲁·福瑞斯特表示,人类的DNA几十年甚至几百年才能有一些改善,但是AI却能以光速不断完善。
“AI的学习能力超过人类的平均学习能力”,张宏江同样表示,人类的学习能力是一条平缓的直线,但是机器的学习能力是一条指数曲线,两线相交后人类的学习能力将落后于机器。更可怕的是,当系统本身有能力自我改善时,可能会带来全球性的灾难后果,他提醒。
香港中文大学(深圳)前海国际事务研究院院长、广州粤港澳大湾区研究院理事长郑永年则拿原子弹进行类比,称原子弹是人类掌握的第一个自我毁灭的工具,“我们现在又多了一样”,“如果人工智能和核武器结合起来会更糟糕”。
如何避免这种灾难性后果,给人工智能发展勒好缰绳?这个问题显得比以往任何时候都更为重要。
Verimag实验室创始人、2007年图灵奖得主约瑟夫·希发基思直言,一些国际会议正在讨论建立全球监管框架的问题,但达成全球人工智能监管框架的机会比较渺茫。
然而近期达成的《北京 AI安全国际共识》在人工智能监管方面仍取得了可喜突破。张宏江强调,最重要的是划出了安全红线:人工智能不能自主复制或改进,不能寻求权力,不能协助不良行为,尤其是大规模杀伤性武器、生化武器和制造大规模网络灾难,不能欺骗人类,这些红线不可逾越。
清华大学智能产业研究院院长、中国工程院院士张亚勤的建议则更趋具体,他建议将机器人与其背后的人或公司关联,以便追溯实体责任,同时建立监管分级体制,根据风险大小确定不同程度的监管标准。
持续深化人工智能安全治理,合作的重要性被反复提及。
郑永年称,美国和中国的人工智能发展各有比较优势,在治理方面需要两个国家进行合作。
中国科学技术部副部长吴朝晖也在发言中指出,世界各国应携手一道,以高度负责任的态度推动人工智能的发展,坚持智能向善、智能向上,确保人工智能始终处于人类的控制之下,从而实现安全、可靠、可控。(完) 【编辑:张燕玲】