“AI垃圾”泛滥,最后的防线在人类自身

2025-12-16 10:38来源: 科技日报

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  ◎科技日报记者 刘 霞

  如今的互联网上,看似信息海量,但也充斥着大量单调、重复且缺乏质量的内容。

  美国《纽约时报》网站在12月8日的报道中指出,当前网络,尤其社交平台正泛滥一种被称为“AI垃圾”(AI Slop)的内容。英国《新科学家》网站10日也发表文章称,今年,许多人感觉仿佛置身于一堆华而不实的“AI垃圾”中。英国《经济学人》杂志更是将“Slop”一词选为2025年度词汇。这类错漏百出、古怪甚至令人尴尬的内容遍布各平台,也在悄然侵蚀着人们的思想。

  “假冒伪劣”信息充斥网络

  “Slop”原指“猪食”“泔水”等廉价、粗糙、缺乏营养之物。如今,借由AI技术的浪潮,一些如同“Slop”的垃圾内容正在互联网上肆意蔓延。

  “AI垃圾”特指由AI工具生成的大量劣质、重复或无意义的文字、图像或视频,常见于社交媒体和自动化内容农场。

  美国科技网站CNET在10月28日的报道中提到,如今社交平台上“AI垃圾”五花八门:OpenAI的Sora可让人几秒内生成滑稽荒诞的视频;LinkedIn上满是由AI包装的“专家箴言”,例如“有时领导力就是保持沉默的能力”;谷歌搜索结果也宛如AI杂货铺,竟会出现“姜黄能治愈心碎”这类无稽之谈。

  “AI垃圾”与“深度伪造”或“AI幻觉”虽有重叠,却并不相同,其区别在于意图与质量。

  “深度伪造”指利用AI伪造或篡改影音,目的在于欺骗,从虚假政治演讲到诈骗语音皆属此类,其关键在于以假乱真。“AI幻觉”则属技术错误,聊天机器人可能引用不存在的研究,或编造法律案例,本质是模型在预测词语时出现了偏差。而“AI垃圾”范围更广,也更随意:当人们用AI批量生产内容却疏于核对准确性与逻辑时,便会产生此类垃圾。它们堵塞信息渠道,抬高广告收益,用重复无意义的内容占据搜索结果。其错误源于敷衍,而非欺骗或技术局限。

  技术滥用与贪婪心态成推手

  “AI垃圾”之所以泛滥,一方面因为AI技术日益强大且成本低廉。AI公司开发这些模型,本意是降低创作门槛,让有好点子却缺乏技能或资源的人也能制作出更优质的内容。然而,有些人却滥用AI工具海量生成文本、图片与视频,只为博取点击和广告收入。

  随着ChatGPT、Gemini、Claude等工具,尤其是Sora、Veo这类新型生成器的出现,几秒内生成可读文本、图像与视频已成为可能。于是,内容农场应运而生。一些人发现,用AI填充网站、社交动态和YouTube频道,远比人工创作更快。

  AI不在意真相、品位或原创性,它只关注概率。这使得“AI垃圾”易于制作,迅速传播。例如,某个YouTube频道仅凭4个视频,就积累了420万订阅和数亿播放量。

  平台也在无形中助推此风。算法往往更看重内容的点击与互动数据,而非质量。发布越频繁,获得关注就越多,哪怕内容纯属胡扯。AI让这类操作变得易如反掌。

  另一方面,利益亦是幕后推手。有些创作者大量发布虚假名人消息或夹带广告的标题党视频;也有人滥用AI内容误导用户,将其引向劣质网站。

  乍看之下,“AI垃圾”似乎无伤大雅——无非是动态里几条劣质帖子,或许还能博人一笑。然而当数量爆发,一切便会不同。随着垃圾信息充斥网络,可信来源在搜索结果中排名下降,真实与虚构的界限也变得模糊。

  这种信任危机带来切实后果:当无人能辨真假,错误信息便传得更快。

  应珍视人类的真诚创作

  目前尚未有完美解决方案,但一些企业已开始尝试。

  例如,Spotify等平台开始为AI生成内容添加标签,并调整算法以降低劣质内容的推荐权重。谷歌、抖音与OpenAI等公司也承诺推出水印系统,帮助用户区分人工内容与合成内容。不过,若有人对内容进行截图、转码或改写,这些方法仍可能失效。

  部分应对措施基于一项名为C2PA(内容来源与真实性联盟)的行业标准。该标准由Adobe、亚马逊、微软、Meta等企业共同支持,通过将元数据嵌入数字文件,记录其创建与编辑过程。若顺利推行,C2PA可帮助追溯图片、视频或文章的来源,无论其来自可信人类创作者,还是AI生成器。然而难点在于普及:元数据可能被剥离或忽略,且多数平台尚未形成一致的执行规范。

  当然,最有效的防护,其实在于人类自身。“AI垃圾”依赖自动化生产和人们无意识地刷屏与转发——大多数人都曾有过这类体验。因此,放慢节奏、核实来源、支持那些仍坚持用心创作的作者,虽不能立竿见影,却是重要的开始。

  垃圾泛滥在互联网世界并非新事。人们曾对抗垃圾邮件、点击诱饵、虚假信息……“AI垃圾”只是同一故事的新篇章:更快、更流畅,也更难察觉。网络能否保持其应有的品质,取决于人们是否依然珍视人类的真诚创作,而非机器的机械输出。

[责任编辑: ]
阅读剩余全文(
为你推荐
当日,全国第十二届残疾人运动会暨第九届特殊奥林匹克运动会闭幕活动在深圳举行。当日,全国第十二届残疾人运动会暨第九届特殊奥林匹克运动会闭幕活动在深圳举行。当日,全国第十二届残疾人运动会暨第九届特殊奥林匹克运动会闭幕活动在深圳举行。
16
这是12月15日在哈尔滨市群力音乐公园拍摄的大雪人(无人机照片)。12月15日,哈尔滨市群力音乐公园大雪人完成主体建设,进入到最后的细节打磨阶段。12月15日,哈尔滨市群力音乐公园大雪人完成主体建设,进入到最后的细节打磨阶段。
16
12月15日,游客在江苏兴化里下河国家湿地公园赏景游玩(无人机照片)。12月15日,群鸟在江苏兴化里下河国家湿地公园栖息(无人机照片)。12月14日,在福建省南平市顺昌县高阳乡大富村的龙山观景台,游客自驾观看日出云海(无人机照片)。
16
重庆市石柱土家族自治县冷水镇地处渝鄂交界的武陵山区,平均海拔约1400米,森林覆盖率85%,生态资源丰富。
15
甘肃省陇南市地处秦岭和岷山两大山系交会地带,崇山峻岭间孕育出花椒、油橄榄、茶叶、柑橘等一大批特色农产品。甘肃省陇南市地处秦岭和岷山两大山系交会地带,崇山峻岭间孕育出花椒、油橄榄、茶叶、柑橘等一大批特色农产品。
15
12月14日,河南新乡原阳县陡门乡徐庄村,陈氏面塑新年订单火爆。12月14日,河南新乡原阳县陡门乡徐庄村,陈氏面塑新年订单火爆。12月14日,河南新乡原阳县陡门乡徐庄村,陈氏面塑新年订单火爆。
15
12月13日,人们在侵华日军南京大屠杀遇难同胞纪念馆参加“烛光祭”活动。入夜,各界人士在侵华日军南京大屠杀遇难同胞纪念馆集会,为南京大屠杀死难者举行“烛光祭”,寄托哀思,祈愿和平。
14
12月13日,深圳地铁首次试点启用智能导盲犬“小蒜”,以科技为视障人士地铁出行提供便利。12月13日,深圳地铁首次试点启用智能导盲犬“小蒜”,以科技为视障人士地铁出行提供便利。
14
12月13日,哈尔滨极地公园举行“淘学企鹅巡游世纪大换班”活动,100只南极企鹅集体巡游,场面壮观,吸引众多市民和游客前来观赏。12月13日,哈尔滨极地公园举行“淘学企鹅巡游世纪大换班”活动,100只南极企鹅集体巡游,场面壮观,吸引众多市民和游客前来观赏。
14
雪霁晨光,古都银装素裹,整座城在皑皑白雪中安静如诗。雪霁晨光,古都银装素裹,整座城在皑皑白雪中安静如诗。雪霁晨光,古都银装素裹,整座城在皑皑白雪中安静如诗。雪霁晨光,古都银装素裹,整座城在皑皑白雪中安静如诗。
13
载入更多资讯
返回
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮