​一天写7000篇！MCN机构利用AI造谣，细节曝光

一天写7000篇！MCN机构利用AI造谣，细节曝光

" 西安突发爆炸 "" 重庆巫溪一民房发生爆炸事故 "…… 这些耸人听闻的消息，竟都是利用 AI 软件炮制的谣言。

近日，一些不法分子为赚取平台流量补贴，实现流量变现，利用 AI 合成技术编造谣言，严重扰乱社会秩序。真相到底如何？公安机关又将怎样处理？一探究竟 ↓↓↓

有图未必是真相

违法人员利用 AI 技术博取流量

今年 1 月，某网络平台出现一条关于 " 西安爆炸 " 的消息称，当月 10 日晚，西安突然响起巨大爆炸声，文字下方还配发所谓爆炸的图片。消息一经发布，很快在网上传播。

经调查，消息的发布账号归属于江西南昌一家 MCN 机构，这家公司的实际控制人为王某某。经核实，民警发现当地没有发生类似事件，初步判定该 MCN 机构发布的数条信息涉嫌网络造谣，属不实信息。

警方对王某某进行约谈，得知网上发布的这条谣言，从文本到图片都是通过 AI 生成的。民警表示，利用 AI 软件生成新闻热点类文章和图片，全程基本不需要人工参与。

国内一网站可提供近期可能生成热点的新闻报道，违法人员王某某通过该网站获取热点关键词，并生成文章标题。

王某某通过 AI 软件，给出关键词，软件便会自动在网络上抓取相关信息，生成几百到上千字的文本，配上貌似和事件具有相关性的虚假图片，从而形成一段看起来信息量很大，实际上子虚乌有的内容。

通过 AI 软件生成内容的方式，这家 MCN 机构短时间内生成了大量文章，最高峰一天能生成 4000 至 7000 篇，最高的一条收入 700 元，初步估算每天的收入在 1 万元以上。

经警方调查，王某某共经营 5 家 MCN 机构，运营账号 842 个。自今年 1 月以来，其中一家 MCN 机构利用其账号，陆续在某平台发布了 " 西安 1 月 10 日发生爆炸导致建筑、车辆炸毁、人员伤亡 " 等多条谣言信息。

经查，王某某的行为构成传播谣言，虚构事实，扰乱公共秩序。目前，南昌警方依据相关规定，依法对王某某处以行政拘留 5 日，责令涉案 MCN 机构停业整改。

新闻风格 + 惊险 " 灾情 " 细节

此类 AI 生成谣言更具迷惑性

在重庆，公安机关查处一起个人利用 AI 软件，编造民房爆炸谣言的案件。这起案件被公安部列为打击整治网络谣言违法犯罪典型案例。该案例利用 AI 技术，模仿新闻风格，一键生成涉及灾情的信息，以获取高流量。

去年 12 月 25 日，一则 " 重庆巫溪一民房发生爆炸事故，4 人不幸遇难，官方紧急介入调查 " 的消息在某网络平台发布，全文 500 余字，以新闻报道的口吻，提供了 " 发现了 4 名遇难者，其中包括一名儿童 "" 疑似与居民私拉乱接电线有关 " 等细节，短时间内获得数万次的点击量。

这篇谣言阅读量暴涨，让之前在网上发文没有任何流量的康某某一开始还有些兴奋。

康某某：之前我发了 20 多条内容都没有收益，后来看到一个爆炸新闻有好几十万的点赞量。我就在网站输入 " 重庆 "" 爆炸 "，它自动生成内容，我复制它的标题和文章。

康某某之所以制造谣言，是因为得知在某知名网络平台创作发布文章，可以根据阅读、评论、转发数量等获取相关流量收益，每千人有效阅读量有 1 — 2 元的奖励。但他编造虚假消息博取流量的行为已触犯法律。

经查证，康某某对其虚构事实扰乱公共秩序的违法行为供认不讳。公安机关依法对其行政拘留 3 日，收缴其违法所得，并封禁其网络账号。

专家：平台应履行相应监管责任

合理强化违法成本

法学专家表示，大量不实信息对普通网民来说，有时很难直接判断是否为谣言，而平台对于相关信息，应该尽到监管责任。

有的网络平台向流量高的内容和用户支付报酬，在某种程度上会刺激一些想要赚钱的网络用户发布虚假信息。专家表示，平台在刺激创作的同时，也应尽到消除虚假信息传播的责任。

西南政法大学法学院教授陈伟表示，支付报酬方面，平台应行使积极的引导作用，对散布谣言者采取相关的惩罚机制。

法律专家建议，在法律法规上应让造谣者付出更大的成本。

陈伟表示，违法成本在行政处罚里涉及行政拘留、行政性罚款等，还包括封号这样的措施。法律应匹配违法人员的违法成本和他承担责任之间的比例，以免其他人看到违法成本过低，遏制作用有限。

网络并非法外之地

对于在互联网上

发布不实言论、扰乱社会秩序的

公安机关将坚决依法处理

对于造成恶劣影响、情节严重的

公安机关将依法追究其法律责任

来源：央视新闻微信公众号综合《法治在线》