人工智能大模型要按暂停键吗

2023-05-14 10:16来源: 经济日报

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  作者:佘慧敏

  ChatGPT引发的人工智能大模型竞赛,令很多人担心人工智能失控。3月底国际上就有一批专家发出联名公开信呼吁:立即暂停训练比GPT-4更强大的人工智能系统。人工智能大模型要按暂停键吗?

  从可行性来看,这个暂停键目前还没人能按下去。就在5月10日,谷歌宣布推出最新的大型语言模型PaLM 2,称其在部分任务上已经超越GPT-4。这很明显是无视了公开信的呼吁,公开对GPT-4等竞争对手发起挑战。

  人工智能大模型已经成为当前国际投资热点,各方不断加码,竞赛不断提速。技术狂飙的背后,是科技企业和风险投资公司的盈利冲动,除非触发政府部门的强制干涉,依赖行业自律按下暂停键的目标不太可能实现。此外,目前大模型的权力集中在“大玩家”手中,现实中行业垄断的危害比未来可能出现的人工智能危害更迫在眉睫,与简单叫停大模型研究相比,规范人工智能“玩家”是更紧迫的需求。技术创新难以抑制,与其叫停研究,还不如尽快制定和完善人工智能治理相关法规,让创新研究在阳光下运行,在规则内运行。

  从复杂性来看,大模型的健康发展本身就有赖于技术进步,需要以人工智能来监督、限制人工智能。

  人工智能大模型“涌现”出写文章、做翻译、写代码、制图像等许多意想不到的能力,部分能力和人不相上下,生产速度则远超人类,已让许多人感受到冲击。它为什么能够达到目前的能力?目前大模型的“智能涌现”是个黑箱,没有人能理解、预测或可靠地控制这些大模型,甚至模型的创造者也不能。

  对人工智能大模型开黑箱、对数据泄露上锁、对虚假内容做标记、对网络攻击等危险行为实施监测防范,一方面需要从科研伦理规范上增加透明度,让大模型研发、训练、生成、推理的链路变得更加透明;另一方面也需要使用好技术工具,用人工智能大模型来帮助人类理解和控制人工智能大模型。这话听起来绕口,实际已有成功案例。ChatGPT的缔造者美国OpenAI公司近日发布一项成果,就是用GPT-4大模型来自动解释GPT-2大模型的行为,在人工智能可解释性研究领域获得重大突破。

  眼见可为虚,耳听也不为实。人工智能大模型以其彪悍的信息造假能力,对社会信任带来重大冲击。从一些调查结果看,不少人赞同暂停超越GPT-4能力的大模型研究,先解决已知风险再按启动键。人工智能是国家战略技术,是未来引领经济发展的助推器。对中国人工智能产业而言,需要的不是暂停研究,而是吸取国外大模型发展的前车之鉴,让大模型研发在合规下运行。

  科技治理为科技创新保驾护航,人工智能治理已成为重要的国际科技竞争力。大禹治水,“堵”不如“疏”。在研发人工智能大模型的同时,构建高效透明的科研伦理商谈审批机制,拆壁垒、缓痛点、疏堵点,才能建立起更有竞争力、更可持续发展的人工智能产业生态。(佘慧敏)

[责任编辑: 刘朝 ]
阅读剩余全文(
为你推荐
当日,由香港特区政府康乐及文化事务署主办的“癸卯年中秋彩灯会”在维多利亚公园、沙田公园及屯门公园亮灯。当日,由香港特区政府康乐及文化事务署主办的“癸卯年中秋彩灯会”在维多利亚公园、沙田公园及屯门公园亮灯。
24
当日,云南省昆明市东川区开展稻田摸鱼、撵鸭、捉蛙等活动,在稻花香里庆丰收。当日,云南省昆明市东川区开展稻田摸鱼、撵鸭、捉蛙等活动,在稻花香里庆丰收。当日,云南省昆明市东川区开展稻田摸鱼、撵鸭、捉蛙等活动,在稻花香里庆丰收。
24
近日,大批迁徙候鸟飞抵河北省秦皇岛市北戴河区沿海湿地觅食、停留,出现万鸟临海场景。近日,大批迁徙候鸟飞抵河北省秦皇岛市北戴河区沿海湿地觅食、停留,出现万鸟临海场景。
24
当日,“祝福祖国”巨型花篮主体亮相北京天安门广场,花篮顶高18米,篮内首次选取了喜庆丰收的五谷(水稻、小麦、小米、黄米、大豆),结合具有美好寓意的花卉,体现花团锦簇、五谷丰登;篮体南侧书写“祝福祖国,1949-2023”字样,篮体北侧书写“欢度国庆,1949-2023”字样。
23
作为我国向北开放的“桥头堡”、中欧班列“东通道”的重要口岸,满洲里铁路口岸不断加大中欧班列通道能力建设,进一步提升运输效率和品质。
23
黄河在流经甘肃后,奔腾一路蜿蜒向东,在即将进入“几”字弯时划出一个完美的半圆,圆弧外是腾格里沙漠的无垠瀚海,圆弧内河水滔滔,满目苍翠。宁夏中卫市沙坡头区曾是风沙灾害最为严重的地区之一,黄沙掩埋农田、侵蚀黄河。
23
当日,交通运输部海事局大型海道测量船“海巡08”轮在上海正式列编交通运输部东海航海保障中心,标志着我国海事系统目前规模最大、装备最先进、综合能力最强的大型专业测量船正式投入使用,开启了海事测绘力量迈向深远海的崭新篇章。
22
“天宫课堂”第四课在中国空间站正式开讲,神舟十六号航天员景海鹏、朱杨柱、桂海潮进行授课。“天宫课堂”第四课在中国空间站正式开讲,神舟十六号航天员景海鹏、朱杨柱、桂海潮进行授课。
22
中秋及国庆佳节将至,澳门以“中秋喜相逢 国庆共欢腾”为主题的花灯日前已点亮,佳节气氛浓厚。中秋及国庆佳节将至,澳门以“中秋喜相逢 国庆共欢腾”为主题的花灯日前已点亮,佳节气氛浓厚。
22
记者从中国铁路上海局集团有限公司获悉,9月20日凌晨3时49分,作为沪苏湖铁路建设控制性工程之一,沪昆铁路上海七宝至春申段相关改建工程完成第一阶段拨接任务,8.5公里线路完成“腾、挪、移”,整体西移约11米,为沪苏湖铁路建设引入上海虹桥站腾出场地。
21
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮