近日，公安部网安局公布了一起网络谣言典型案例，该谣言中出现了“某医院前院长未得到及时救治”“客死他乡医院走廊”等抓人眼球的内容。但是，上海警方调查后发现，这些内容竟然都是AI工具生成的。

　　前不久，上海警方在网络巡查时发现一则题为“华山医院前院长张明远因阑尾炎未得到及时救治，客死他乡医院走廊长椅”的消息在网络传播，引发了广泛的关注。

　　上海市公安局静安分局网安支队民警张帆表示：“这个消息在发布之初可能点击寥寥，但是在之后经过微信群的层层传播，经过了大概10个小时，因为正好是晚上的时候，然后就大肆传播。”

　　为了核实该消息的真实性，上海警方迅速展开调查工作，经查，华山医院根本没有名为“张明远”的前院长，也没有同名员工，另外，发布该内容的也并不是账号注册者本人。张帆说，注册者是因为通过兼职把自己的账号注册完之后交给他人使用。

　　警方深入调查发现，所谓“华山医院前院长客死他乡”的不实信息是某自媒体工作室所发布，实际运营者为王某某、郭某某、石某某等3人。

　　据了解，王某某等人为了快速增加账号粉丝的数量，每天在网络上查找各种热点事件和消息，通过向AI工具输入关键词，自动生成文章，在未经核实的情况下就在自己控制的账号上发布。

　　张帆介绍：“他利用AI批量生成一些不实信息，然后这些不实信息再通过他购买到的一些所谓的网络小号，他控制了大概有500余个自媒体账号，然后通过这500余个自媒体账号，一共发布了大概有10余万条的不实信息，通过这些制造一些爆款内容，然后增加这些小号的浏览量，最终获取流量。”

　　通过滥用AI技术，一条包含“知名三甲医院”“前院长”“客死他乡”等吸引眼球的谣言信息被王某某等人拼凑出来并发布，仅24小时之内，相关谣言的不同版本就在网上被大量传播，造成了恶劣的社会影响。

　　目前，王某某、郭某某、石某某等3人因涉嫌非法利用信息网络罪，被上海静安警方依法采取刑事强制措施，相关违法账号已被依法封禁，案件正在进一步侦办中。

　　AI技术的发展

　　带来了新奇体验和产业进步，

　　与此同时，

　　也成为不法分子牟取利益的工具。

　　据记者了解，目前各地网信部门多措并举，扎实推进，积极履行属地管理责任。北京网信办开设AI技术滥用治理举报渠道，形成“用户标记—平台核查—联合处置”工作模式，处置有关举报26篇。上海网信办推动标识要求落地示范，组织开展4场法规宣贯和专题交流，覆盖企业400余家，属地内重点企业已基本完成显式标识规范上线。

　　另外，各大重点网站平台也在积极履行主体管理责任，加强AI技术滥用源头治理。在处置违规AI产品方面，腾讯规范应用程序管理，提高准入门槛，优化巡查机制，驳回、处置违规小程序、应用程序等共计570余款。在清理违规AI产品教程和商品方面，微博通过策略识别、用户举报等多渠道审核，累计处置违规内容4800余条，并公布典型案例。

　　转自央视新闻