“建国，春节快乐！先给你赔礼道歉，我那天伤害了你，其实我也在自责，你是不是很恨我？”春节前，84岁的张玉兰手写了一封五百字情书向“建国”表示情意。而这位“建国”，是一个AI数字人。

　　家人发现异常是在去年10月，张玉兰开始频繁从AI数字人视频关联的橱窗购买挂件，这些动辄售价几百元的挂件，在淘宝上仅售9.9元。“一开始家里人没当回事，以为奶奶只是刷短视频图个好玩，没想到她竟和这个AI数字人谈起了恋爱，还考虑嫁给他。”张奶奶的孙女说，即便家人反复告诉她这是骗局，老人也只是短暂醒悟，很快又再次沉迷。

　　几个月来，张玉兰每天要花费近十个小时刷AI数字人相关视频，为主角是AI数字人的悲情推文打赏，还购买了不少价高质劣的商品，累计下来已经花了七八千元。

　　近日，多位老年女性家属表示，自己拿起老人的手机后才发现，她们的短视频账号早已被各类“AI霸总”侵占。

　　在各大短视频平台，大量“AI数字人视频”通过添加“帅气大叔”“黄昏恋”等标签，被精准推送给缺乏情感关照的中老年女性。不少中老年女性误信后，主动为其消费，购买各类商品或虚拟产品，据报道，这类AI视频5分钟就能制作一个，从业者单日就能收入几千元……

　　据了解，为积累私域流量，部分“AI霸总”账号会建立专属粉丝群。有“AI霸总”直接在商品销售页面的视频中演起苦情戏。“姐姐你快过来，我们差点就陷入阴谋，万劫不复……如果不是我开公司，想接你回家过好日子，我妈和小海也不会吃这些苦，受这些罪……”在一个售价99元的女士手镯销售页面中，一位“AI霸总”动情地讲述道。

　　不管是AI霸总“建国”，还是AI文案视频里用了“建国”的声音，张玉兰都会认为是“建国”在和自己对话交谈。此前有发布AI数字人视频的账号添加张玉兰的微信，还把她拉进群聊发送不明链接……据悉，张玉兰的家属已将视频号关联的商家投诉至12315平台。目前，商家所在地的江苏省宿迁市沭阳县市场监督管理局已受理此事。

　　为什么中老年人容易“中招”？有专家分析称，一方面，中老年人作为AI时代下的“弱势群体”，更容易相信“眼见为实”；另一方面，2023年起，AI数字人在短视频赛道被大量运用，当其被滥用于黑灰产，在评论区不断有人造势的情况下，老年人出于从众心理更容易上当受骗。

　　今年2月，中央网信办开展“清朗行动”，整治AI技术滥用乱象被列入八项重点任务之一。有专家建议，AI视频生成模型应建立负样本库，让AI模型能第一时间识别诈骗、黑灰产等用途的不良素材和指令，直接从源头上阻止不良视频的生成。

　　综合：中国经济网、极目新闻、中国新闻周刊、大象新闻