全部

如何给人工智能发展勒好缰绳?

来源:中国新闻网

作者:

2024-03-26 14:14:03

当前,人工智能成为各国发展重点,如何与人工智能共存,并在保证其安全可控的前提下更好造福人类社会,成为全球共同挑战。

24日,政界、学界、企业界人士齐聚中国发展高层论坛“人工智能发展与治理专题研讨会”,共商人工智能安全治理。

北京智源研究院创始人、创始理事长张宏江用“震撼”一词形容Sora。

他表示,Sora可以根据文字提供一段现实世界无法拍摄出来的逼真场景,多模态大模型还可以通过“樱花和雪天无法同时出现”以及雪片的均匀程度判断视频是否由人工生成,甚至可以思考、推理而非以往机械式地执行命令。

“人类做出的最伟大的发明就是人工智能,毋庸置疑,它也是最具风险和最危险的创新。”福特斯克金属集团执行董事长安德鲁·福瑞斯特表示,人类的DNA几十年甚至几百年才能有一些改善,但是AI却能以光速不断完善。

“AI的学习能力超过人类的平均学习能力”,张宏江同样表示,人类的学习能力是一条平缓的直线,但是机器的学习能力是一条指数曲线,两线相交后人类的学习能力将落后于机器。更可怕的是,当系统本身有能力自我改善时,可能会带来全球性的灾难后果,他提醒。

香港中文大学(深圳)前海国际事务研究院院长、广州粤港澳大湾区研究院理事长郑永年则拿原子弹进行类比,称原子弹是人类掌握的第一个自我毁灭的工具,“我们现在又多了一样”,“如果人工智能和核武器结合起来会更糟糕”。

如何避免这种灾难性后果,给人工智能发展勒好缰绳?这个问题显得比以往任何时候都更为重要。

Verimag实验室创始人、2007年图灵奖得主约瑟夫·希发基思直言,一些国际会议正在讨论建立全球监管框架的问题,但达成全球人工智能监管框架的机会比较渺茫。

然而近期达成的《北京   AI安全国际共识》在人工智能监管方面仍取得了可喜突破。张宏江强调,最重要的是划出了安全红线:人工智能不能自主复制或改进,不能寻求权力,不能协助不良行为,尤其是大规模杀伤性武器、生化武器和制造大规模网络灾难,不能欺骗人类,这些红线不可逾越。

清华大学智能产业研究院院长、中国工程院院士张亚勤的建议则更趋具体,他建议将机器人与其背后的人或公司关联,以便追溯实体责任,同时建立监管分级体制,根据风险大小确定不同程度的监管标准。

持续深化人工智能安全治理,合作的重要性被反复提及。

郑永年称,美国和中国的人工智能发展各有比较优势,在治理方面需要两个国家进行合作。

中国科学技术部副部长吴朝晖也在发言中指出,世界各国应携手一道,以高度负责任的态度推动人工智能的发展,坚持智能向善、智能向上,确保人工智能始终处于人类的控制之下,从而实现安全、可靠、可控。

(王梦瑶)


想爆料?请登录《阳光连线》( http://minsheng.iqilu.com/)、拨打新闻热线0531-66661234或96678,或登录齐鲁网官方微博(@齐鲁网)提供新闻线索。齐鲁网广告热线0531-81695052,诚邀合作伙伴。

我国将在七大领域推动设备更新

我国将在七大领域推动设备更新

今年以来,随着宏观政策持续发力显效,多项先行指标继续向好。2月份制造业和非制造业预期指数都持续扩张,截至3月22日,全国统调发电量增长...[详细]
央视网 2024-03-25
宏观政策发力显效 助推经济持续回升

宏观政策发力显效 助推经济持续回升

针对社会各界普遍关心的近期投资、财政、金融有关数据和政策问题,3月21日,国务院新闻办举行新闻发布会,国家发展改革委、财政部、人民银...[详细]
人民网 2024-03-22
多部门推务实举措 增强外商投资信心

多部门推务实举措 增强外商投资信心

对于具体投资领域,伍浩指出,绿色经济、数字经济和健康产业,是今年政府工作报告提出要培育壮大的新型消费所涉及的一些重点领域,具有广阔...[详细]
经济参考报 2024-03-21
24种新专业纳入本科专业目录

24种新专业纳入本科专业目录

3月19日,教育部公布了2023年度普通高等学校本科专业备案和审批结果,共新增备案专业点1456个、审批专业点217个(包括160个国家控制布点专...[详细]
经济参考报 2024-03-20
新型储能进入大规模发展期

新型储能进入大规模发展期

近年来,随着我国新能源发电规模持续快速增长,新型储能进入大规模发展期。“十四五”以来,新增新型储能装机直接推动经济投资超过1000亿元...[详细]
人民网 2024-03-18
行动方案发布 部署大规模设备更新和消费品以旧换新

行动方案发布 部署大规模设备更新和消费品以旧换新

国务院印发的《推动大规模设备更新和消费品以旧换新行动方案》(以下简称《行动方案》)3月13日对外发布。[详细]
经济参考报 2024-03-14
财政政策加力提效 特别国债蓄势待发

财政政策加力提效 特别国债蓄势待发

发行超长期特别国债成为今年财政政策的新亮点。专家认为,本轮超长期特别国债发行将增强对长期限项目的保障能力,同时也有助于优化央地债务...[详细]
中国证券报 2024-03-13
2月CPI同比上涨0.7% 环比涨幅扩大

2月CPI同比上涨0.7% 环比涨幅扩大

国家统计局日前发布2月份全国居民消费价格指数(CPI)。数据显示,CPI环比涨幅扩大、同比由降转涨。[详细]
人民网 2024-03-12
让税收红利精准直达广大经营主体

让税收红利精准直达广大经营主体

日前,记者在税务服务一线采访感受到,税收政策宣传辅导接地气,涉税业务办理讲效率;税务执法的规范性、税费服务的便利性大大增强,提高了...[详细]
人民网 2024-03-07
提升合规交易水平 防范量化交易风险

提升合规交易水平 防范量化交易风险

日前,沪深交易所联合举办量化私募机构交易合规培训,帮助量化私募机构及时、准确理解量化交易监管思路和工作要求,切实提升合规交易水平,...[详细]
人民网 2024-03-05
蓄势新质生产力 重点项目接连落地

蓄势新质生产力 重点项目接连落地

近期,不少地方抢抓新兴产业、未来产业新机遇,围绕人形机器人、生物医药、新材料、量子等领域,加快建设布局一批产业项目,培育发展新质生...[详细]
经济参考报 2024-02-29
新一轮“以旧换新”撬动消费大市场

新一轮“以旧换新”撬动消费大市场

接受记者采访的业内专家认为,我国耐用消费品更新换代的需求和潜力很大,预计近期将有推动以旧换新的具体利好政策落地,会有效撬动增量和存...[详细]
经济参考报 2024-02-27
优化营商环境 各地频出新招

优化营商环境 各地频出新招

最近,全国各地陆续召开“新春第一会”,立足地方发展实际,对新一年经济工作进行部署。其中,“优化营商环境”成为高频词。[详细]
人民网 2024-02-26
版权所有: 齐鲁网 All Rights Reserved
鲁ICP备09062847号-1 网上传播视听节目许可证1503009 互联网新闻信息服务许可证37120170002
通讯地址:山东省济南市经十路18567号  邮编:250062
技术支持:山东广电信通网络运营有限公司