网络谣言一键生成以假乱真 厦门警方破获一起AI制造网络谣言案

在全民自媒体时代,只需动动手指,信息便能飞速传播。然而,随着人工智能技术的迅猛发展,网络造谣的成本却愈发低廉,看似“真实”的文字、音视频其实只需几秒即可一键生成,令人难辨真假。近日,厦门警方成功揭开一起利用AI技术制造谣言的真相,净化了网络环境。

今年6月,厦门警方接到举报,今日头条平台上名为“小逸看世界”的账号发布了图文视频:“广东省某阳镇一70多岁老人被殴打致昏迷,其孙子为此跳河自杀,打人者一审被判九年十个月”。该视频一经发出便迅速吸引了大量当地网友的关注。经过民警的侦查研判,发现该视频的图文内容系移花接木、肆意编造的网络谣言, 并于6月13日晚抓获造谣人员任某(男,32岁,湖北人)。

据任某供述,这段长达几分钟、声色并茂的视频全是由AI合成的,整个过程仅需两三分钟。他通过网站榜单寻找吸引眼球的标题(如“秦朗寒假作业丢巴黎”等),然后再用写作APP自动生成内容虚假的文章,并根据文章内容自动生成图片,组合成虚假视频,通过社交平台发布,以此达到引流、增加视频号粉丝数以及依据视频号流量盈利规则获利的目的。

任某通过发布与民生息息相关的信息,并加入夸张故事情节、猎奇的标题以及各类不实信息,以此获得网民的关注和点赞,进而达到流量变现和涨粉的目的,其行为易引起网民恐慌,造成恶劣影响。目前,任某因涉嫌寻衅滋事罪被厦门海沧警方采取刑事强制措施。

警方提醒:广大网民在面对纷繁复杂的网络信息时应保持警惕,理性判断,不轻信、不传播未经证实的信息。警方也将继续加大对网络谣言的打击力度,维护清朗的网络空间。