“我不知道上海有一家华山医院，也不知道‘张明远’是谁，（内容）都是AI生成的。”

　　“我们有500多个账号，每天发一万多条帖文。”

　　“直到警察找来，我都不知道是哪篇帖子出问题了。”

　　今年3月，一则内容为“华山医院前院长张明远因阑尾炎未得到及时救治，客死他乡医院走廊长椅”的图文信息，一度在社交平台和微信群刷屏，造成不良社会影响。

　　由AI生成、自媒体发布的谣言内容截图

　　上海公安部门发现这一情况后，立即展开调查：静安公安分局到华山医院询问情况，核实发现该院不仅没有名叫“张明远”的前院长，甚至没有叫这个名字的职工；网安总队利用技术手段开始追溯，消息来源指向某网络信息平台的自媒体账号。最终结果显示，该网帖内容为不实信息，涉嫌造谣。

　　掌握相关证据后，静安警方将犯罪嫌疑人王某某、郭某某和石某某三人抓获。目前，三人因涉嫌非法利用信息网络罪，被上海警方依法采取刑事强制措施，相关违法账号被依法封禁。

　　今天上午，解放日报·上观新闻记者在看守所对话了王某某。

　　由王某某创立的三人工作室，共控制了500多个自媒体账号，日均发帖万余条，累计发布不实帖文30余万条。而这些帖文内容，均由AI改写或生成。他们摸索着平台的流量密码，设置关键词让AI产生“爆款内容”，以此获取分成收益。至于内容的真实性，似乎不在他们的考虑范围内。

　　“华山医院”“张明远”，都是AI编的

　　记者：这条谣言是怎么产生的？

　　王某某：（内容）都是AI生成的。我不知道上海有一家华山医院，也不知道“张明远”是谁。具体是什么内容，到现在我也不清楚，我们是批量采集和发布的。

　　记者：生成这条谣言时，给AI下了哪些指令？

　　王某某：有一个网络上的程序，是我们的素材库，可以按照不同领域、阅读量、发布时间等维度，搜索平台的爆款帖文。人工采集这些内容后，我们就让AI软件进行批量改写或生成新内容，之后再用软件发到平台上。

　　当时，让AI生成这条信息的具体指令，我不记得了。一般来说，我们会输入爆款帖文的原文，然后要求AI变换语序、语气以及需要包含的关键词，生成新的文字内容。另一种，就是用AI的联网功能，让它根据爆款帖文的中心思想，先在网上搜索关联信息，再生成新的文字内容。

　　记者：你认为自己发布的内容是属于什么性质？

　　王某某：算是综合的，有些是新闻，有些是事故，有些是观点，主要还是热度榜的话题和内容来分类。

　　记者：对于AI生成的内容，会审核真伪吗？

　　王某某：当时真的没有考虑那么多，我想的是，我们发的内容都是别人发过的，只不过做了加工，而且我们也是从平台热度榜单采集的素材，感觉是比较权威的。

　　站在我们的角度，需要审核的内容，就是根据平台的要求，删除一些敏感词。

　　说实话，直到警察找来，我都不知道是哪篇帖子出了问题。

　　日均编造发布上万条帖文

　　记者：你们会标注内容是由AI生成的吗？

　　王某某：不会。平台也没有这方面的要求。只要没有敏感词、涉黄涉暴画面这些内容，就能通过平台审核。我没有遇到过平台对文字内容出现违规提示。据我了解，（自媒体）这个圈子里，绝大多人都是这样做的。

　　记者：如何靠发文获利？

　　王某某：我们的账号每条帖文在200-500字。我们有4个“大号”，还有 500多个“小号”。“大号”是跟MCN合作的机构账号，每个“大号”可以添加“小号”作为子账号，子账号获得的收益再流转到母账号，根据流量情况，每个月从平台分成获益。

　　记者：收入跟流量的关系是什么？

　　王某某：对我们来说，流量就意味着收入。我们每天发布一万多条帖文，内容要有些差异，AI都能完成。然后再用API端口自动发布到不同账号里。

　　具体的流量说不准，有的帖文有几万阅读量，最高的一条能有十几万。阅读量达到一万，我们就能有5元左右的收益。

　　从2月底开始到被抓，我们总共有4万多元的收益，但是还要跟MCN机构分成。收入并不高。

　　曾编造“某女明星去世后孩子抚养权”相关内容，被平台警示

　　记者：你有没有观察过，哪些内容比较有流量？

　　王某某：八卦类的内容，比如明星八卦，社会八卦。还有涉及职场、科技、养老、国际、教育、医疗等这些领域内容，都比较吸睛，流量比较好。

　　现在想来，像“华山医院前院长”这条，可能重叠涵盖了社会、职场、医疗、国际等领域，所以才得到关注。

　　记者：之前用AI生成的内容，有被判定为谣言的吗？

　　王某某：某女明星刚去世时，对于孩子抚养权的问题，我们也用AI生成过内容。后来被平台判定为谣言，有过警示，也被扣分处罚了。

　　像“已过时效”“标题党”“谣言”这些，都会被平台处罚，但我们还是有侥幸心理。其实，相比于我们生成发布的内容数量，被平台判别处罚的内容比例非常低。

　　记者：你认为你们发布的哪些内容算谣言？

　　王某某：以前没想过这个问题。这几天在反思，我们用AI生成了很多没有事实根据的、带来不良社会影响的内容。

　　反思流量，“应该有底线”

　　记者：你是怎么进入自媒体行业的？

　　王某某：我以前是做电商的，自己没有货源，相当于做别人的代理。但是这两年效益不好，利润低、成本高，然后就想着转换赛道。

　　后来，互联网圈里的朋友推荐我做自媒体。使用的软件和工具在网上都能找到，方法也有人教，只要花时间进去，就能赚钱，成本很低。

　　记者：你认为追逐流量需要底线吗？

　　王某某：肯定要有底线，不应该胡编乱造或者夸大其词，不应该编造发布虚假信息。我现在认识到了以前做得不足的地方，没有把握好尺度，也没有好好审核。

　　记者：对于自己做的事情，有什么反思？

　　王某某：经过警方的教育，我们知道自己错在哪里，也感到非常后悔。其实做这个事没有挣到什么钱。我会接受法律应有的惩罚，吸取教训。

　　转自：上观新闻