“华山医院前院长张明远，因阑尾炎未得到及时救治，客死他乡医院走廊长椅。”

　　“悼念！当‘医疗泰斗’倒在异国急诊室，我才读懂中国医生的‘生死时速’！”……

　　今年3月初，“华山医院前院长”的故事在互联网广泛传播。然而经警方核查，华山医院没有名为“张明远”的前院长，也没有同名员工。上海公安网安部门开展调查，成功侦破这起利用AI造谣案，抓获犯罪嫌疑人王某某、郭某某、石某某。

　　自2025年2月起，犯罪嫌疑人王某某等3人成立了工作室，通过自媒体账号发文吸粉引流牟利。他们控制500余个自媒体账号，设置社会热点、明星绯闻、爆款推荐等关键词，引导AI软件自动生成并发布不实帖文30余万条，日均1万多条，造成恶劣社会影响。截至案发，非法牟利共计4万余元。

　　目前，王某某等3人因涉嫌非法利用信息网络罪，被上海警方依法采取刑事强制措施，相关违法账号被依法封禁。

　　今年以来，上海公安机关全力开展打击整治网络谣言专项行动，严厉打击“造热点”“带节奏”的网络水军。截至目前，破获网络水军案件15起，抓获38名违法犯罪嫌疑人。

　　4月22日上午，新民晚报记者在看守所见到了犯罪嫌疑人王某某。以下是他的口述。

　　“发布内容前我不知道有华山医院”

　　Q

　　“张明远”的故事是怎么生成的？

　　A

　　“张明远”是AI生成的。

　　今年2月，我们开始用AI软件批量生产虚假信息。我们找到了一个网络平台上的App，这是我们的素材库，按照不同领域、“阅读量top”、发布时间等，批量采集爆款内容。随后用AI软件批量改写，予以发布。

　　“张明远”的故事就是这样生成的。在此之前，我们其实不知道上海有一家华山医院。我也不知道“张明远”这个人。其实我已经记不清原文了，都是批量采集的。

　　我们要求AI“第一句话要吸引人”

　　Q

　　采集、发布内容一般是怎样的流程？如何获利？

　　A

　　我们会采集“阅读top”内容，因为这些内容本身就是爆款。用AI批量改写时，我们会给AI一些提示词，比如“以原文实际情况为基础，中心思想不变”，比如“第一句话要吸引人”等，因为这样才能吸引更多点击量。AI软件有联网版，我们也会让它联网搜索相关信息后，再进行整合。

　　我们采集的都是短咨询，约200-300字，发布的也是这样的内容。我们三个人有4个“大号”，还有 500多个“小号”。“大号”可以添加“小号”作为子账号，子账号获得的收益可以流转到母账号，每个月可以提现获益。

　　Q

　　对你来说“流量就是收入”吗？

　　A

　　是的。我们三个人，每天发布1万条帖文，内容基本不一样，阅读量不等。有的几万次阅读量，最高的一条能有十几万次。一万次阅读量，大约就有5元收益。

　　“某女明星去世时后我们因为造谣被平台处罚”

　　Q

　　你觉得有哪些内容比较吸睛？

　　A

　　八卦类的内容，比如明星八卦，社会八卦。还有涉及职场、科技、养老、国际、教育、医疗等内容，都比较吸睛。像“医院”这条，现在想来，可能涉及职场、养老等领域的重叠，所以获得了不小的流量。

　　Q

　　之前用AI生成发布谣言，你们有被处罚过吗？

　　A

　　我们被平台扣过分。某女明星刚去世时，关于孩子抚养权的问题，我们也用AI编造过内容。被平台发现后，出现了提示，并且扣了分。“已过时效”“标题党”“谣言”等都会被平台处罚，但我们还是有侥幸心理。其实，相对我们生成的大量内容来说，我们被平台处罚的概率很低。

　　“很后悔，没挣到什么钱，但带来很大麻烦”

　　Q

　　你现在觉得获得流量应该有底线吗？

　　A

　　应该有底线，不应该胡编乱造或者夸大其词，不应该编造发布虚假信息。我们现在认识到了做得不足的地方，没有把握好尺度，也没有好好审核。

　　Q

　　对你的所作所为，有什么反思吗？

　　A

　　经过警方的教育，我们知道自己错在哪里，也感到非常后悔。其实做这个事没有挣到什么钱，但却要被法律严惩，还被警方刑事拘留了。

　　警方解读：“毒流量”是对网络环境的劣化

　　这一团伙造谣的目的是什么？在网安总队三队队长符斌看来，这一行为主要是为了“养号”涨粉，以便后续直播带货等牟利。

　　“这是常见‘流量经济’劣化的表现形式。”符斌说，正常账号吸粉、涨粉，都需要时间精力的投入，而此案通过AI编造大量不实、虚假、有害的劣质信息，这是“AI的幻觉”，是“毒流量”，也是对网络环境的一种劣化。

　　据悉，目前上海公安机关和头部平台建立了畅通的工作联动机制，通过案件管理合作，及时通报掌握的问题。“我们始终认为，算法必须向善，不能流量至上。”符斌表示。

　　今年以来，上海公安机关全力开展打击整治网络谣言专项行动，按照“以打开路、以打促治”思路重拳出击，全量清理造谣传谣信息，分级惩治涉谣账号，严厉打击“造热点”“带节奏”的网络水军。

　　上海警方将坚决依法严厉打击，持续加强网络生态治理，全力营造清朗有序的网络环境。

　　作者 | 杨洁（新民晚报·新民眼工作室）