“华山医院前院长张明远,因阑尾炎未得到及时救治,客死他乡医院走廊长椅。”“悼念!当‘医疗泰斗’倒在异国急诊室,我才读懂中国医生的‘生死时速’!”近期,一则关于“华山医院前院长”因病客死他乡的消息在互联网广泛传播,引起众多网友关注。但警方核查发现,华山医院根本没有名为“张明远”的前院长,也无同名员工。6日,公安部网安局披露详情,目前3名犯罪嫌疑人已被抓获归案。

嫌疑人王某某交代,他曾从事电商工作,因无货源,主要给别人做代理,近两年想转换“赛道”,认为自媒体准入门槛较低,软件和工具在网上就有,方法也有人教,只需花时间运营就能赚钱,成本很低。于是,王某某、郭某某、石某某3人共同成立工作室,开始通过自媒体账号发文吸粉引流牟利。经上海公安网安部门查实,这3人通过控制500余个自媒体账号,设置社会热点、明星绯闻、爆款推荐等关键词策略,利用AI工具自动生成并发布不实帖文30余万条,造成恶劣社会影响。

上述3人运营的是短资讯类消息自媒体,内容一般限定在体育、娱乐、职场、养老等领域。他们有4个“大号”,还有500多个“小号”。每天发布1万条帖文,内容五花八门,基本是AI凭空捏造,有的几万次阅读量,最高的一条能有十几万次。几乎每发条信息,就有上万人次网民被虚假信息蒙骗。被查处的王某某后悔道:不该编造发布虚假信息,“没挣到什么钱,却要被法律严惩。”

目前,因涉嫌非法利用信息网络罪,犯罪嫌疑人王某某、郭某某、石某某已被上海静安警方依法采取刑事强制措施,相关违法账号被封禁,案件正在进一步侦办中。

“这是常见‘流量经济’劣化的表现形式。”警方介绍,3名嫌疑人为“走捷径”,通过AI工具编造大量不实、虚假信息,幻想快速“养号”涨粉,以便后续直播带货等牟利。为用AI工具批量生产虚假信息,3人找到一网络平台上的App作为素材库,按照不同领域、“阅读量top”、发布时间等,批量采集爆款内容。随后用AI工具批量改写后发布。“张明远故事”就这样出炉了。

为引起粉丝关注,王某某等3人采集“阅读top”内容;用AI批量改写时,给AI工具输入一些提示词,如“以原文实际情况为基础,中心思想不变”“第一句话要吸引人”等,以吸引更多点击量。他们还利用AI工具的联网版,让它联网搜索相关信息后再整合。王某某表示,之前因用AI工具编造发布某过世女明星孩子抚养权问题,而被平台扣分处理过,但为贪图利益,抱有侥幸心理。

王某某等人采集的都是短资讯内容,每篇约200至300字,几乎不审核就直接发布。利用AI工具捏造“张明远故事”时,给出了“提高阅读量”的附加条件,妄图加入“流量密码”。他们不仅自己没看过这条“张明远”发文的具体内容,甚至都不知上海有家华山医院,更不知道“张明远”是谁。

据了解,如今AI谣言已能定制化生成、精准化传播和智能化扩散,给公安机关打击治理带来了新挑战。而警方对网络谣言的发现和查处手段也在升级优化,以应对AI造谣的新挑战,并严厉打击网络谣言,加强网络生态治理。