无论是中国还是美国，众多人在 取舍餐馆或者酒店的时候，重要 依附网上的点评， 譬如说大众点评或者Yelp等等 。

某种程度上，口碑已经成为不少企业的 命根子，变成服务和产品 品质的 永远记录 。与此同时，不公平或者 虚假的点评也让企业忧心忡忡，这些有可能来自愤慨的顾客，有可能来自竞争对手 。

水军，在 寰球都是一个让人头疼的问题，以后可能会更疼了：

人工智能(AI)已经学会自动编写 虚假点评了 。

整个点评口碑界正面临潜在却是严峻的冲击 。假如AI制造的 虚假点评泛滥，最终将招致所有点评信息可信度急剧 降落 。技术 普及，这一次又给社会带来了(令人 担心的)影响 。

不晓得许知远会不会更焦虑了 。

“这对整个社会是一个 硕大的 挟制，不单会让 依附点评信息的消费者 绝望，并且会 波动人类关于 实在和 虚假的信念，我认为后者更让人 担心”，芝加哥大学计算机科学 传授赵燕斌(Ben Y. Zhao)说 。

以假乱真

《在线点评系统中的自动众包 突击和防备》是赵燕斌等芝加哥大学探究人员公布的一篇论文 。他们的探究 注明，人工智能 可以被用来生成复杂的点评信息 。这些 虚假的点评不只机器 无奈检测出来，就连人类读者也分辩不出来 。

这篇论文今年晚些时候会在计算机安全顶级会议ACM CCS上 展示 。

所谓复杂的点评信息，大约是这个样子：“我喜爱这个地方 。我跟我哥一同去的，我们点了素食意大利面，很好吃 。啤酒不错，服务也很棒 。推举这个地方，是个吃早餐的好去处 。地儿小然而 交易大” 。

乍一看这个点评没有什么奇怪的，里面包括一些具体的 提议和可信的 形容， 固然最终一句有点奇怪，但整体 依旧是一段说人话的 抒发 。

实际上，这句话是一种称为RNN(循环神经网络)的深度学习技术生成的 。这个RNN网络 使用了上千条真 着实线点评训练而成 。

探究人员 示意，AI生成的点评已经做到了“以假乱真”，有600个消费者 参加的 考查显示，这些 虚假的点评不不得不逃过人类的法眼，并且还被消费者认为“有用” 。

“有用”是更可怕的 事件：这表明 虚假点评已经 可以对人类造成影响 。

反 抄袭软件也对这些 虚假点评无能为力，由于这些点评是逐字生成的，而不是 方便的替换已有点评中的用词 。假如 使用反 抄袭软件检测，不单很难检测出 虚假点评，并且会“误伤”一大批 实在的点评 。RNN可不只仅是对现有点评的复制 。

人类水军面临下岗

人类手写的 虚假点评，已经是一个兴旺的地下行业 。 惟独有钱，你就能找到人帮你的产品写下正面的点评，后者给对手写下负面的评介 。

现在，传统水军行业 将来可能也要被AI取代了 。

美国市场上，一段 品质较高的Yelp点评，可能价格能到10美元 。不过一旦有了AI的协助，君心叵测的人 可以一分钱不用就生成上千条点评，并且一同放出 免得引起 嫌疑 。

好 信息是，现在还没有AI在 事实世界中生成 歹意 虚假点评的案例 。

坏 信息是，构建一个这样的人工智能系统，并不需求太长的 工夫，所需硬件市面上都能买到，所需的点评数据库 可以在网上轻易 获得 。

仍有对策

假如有人开始大规模生产这种假点评，大众点评、Yelp这样的网站恐怕就没有好日子过了，毕竟，它们的招牌便是来自消费者的 实在点评，假如每一条都可能是假的，谁又会 接续相信它们呢？

接下来沦落的，会是淘宝京东亚马逊之类的电商， 固然赵燕斌说至少它们还能 制约惟独买过该商品的消费者 威力点评，但状况也不容乐观 。

不过，也有好 信息 。

探究者们说，这种假点评也不是 彻底没法 提防，人类感觉它们能以假乱真，但机器不见得这么看 。用计算机去 综合字符的 分布等 特色，他们就会发现 虚实点评中间存在着 细微的差别 。

假点评是从 实在点评里学出来的，在这个过程中， 不免会有信息 消散 。假点评 重视的是流畅、可信，但像字符 分布这种平时没人关注的 特色，就做得不那么好了 。

“在训练过程中 产生的信息遗失，会传递到生成出的文本中，”探究者们在论文中写道，“ 因此生成文本和人类文本在 根本字符 分布上，有着统计上可检测的差别 。”

固然， 突击者也 可以骗过检测，换好丝毫的硬件，做更复杂丝毫的神经网络就行 。但这种检测的 意思在于至少 普及了 突击的门槛，为他们设置了一些 妨碍 。

假如 突击的成本高到 定然程度，大 部分没那么执着的 突击者也就收手了 。赵燕斌说：“这便是一种 成功，所有的安全工作都是这样， 普及 突击的门槛 。你永远没 步骤阻挠那种 指标 坚定、 本领老练的 突击者 。”

在一份邮件申明中， Yelp发言人Rachel Youngblade说他们“很观赏这份探究指出了随着 诱骗点评系统的 步骤 连续进化，越来越复杂，Yelp这类大型消费者点评网站在保障内容 实在性上面临着重大 挑战 。十年来，Yelp向来有 掩护内容的系统，而正由于 诱骗 目的越来越复杂，我们也 连续迭代这些系统，来 鉴别假点评，以及偏颇、没有协助的内容 。这份探究的作者们以Yelp系统作为‘ 实在’的代表，并 抵赖它的有效性，我们十分 感激 。”

“不过，这份探究制造的仅仅是看起来 实在的点评文本，Yelp的推举软件 使用了更整体的 步骤，除了文本之外，还 使用了众多 其余因向来决定是不是推举一条点评 。假如某条点评没有价格或有失偏颇，就算它是人类做出的，我们也不会推举 。”

不止于点评

点评是测试文本生成技术的 事实 场合 。这个领域有明确的方向和 目标，主体单一，遵照一个相当 标准的 构造，并且不长 。( 虚假点评越长，越方便被发现问题)

但技术不会止步于此 。

“所以，我们只不过从在线点评开始 。你能相信某某人说的那些关于餐馆、商品的话吗？但这类探究还会 接续 普及 。”

“它会 普及到更大的 突击，可能博客上的整篇文章都 彻底是由机器人依据某个主题自动生成的，这时候你就真的得想想信息是哪来的、如何验证……这是我们所有人过些年将要面对的，一个更大的 挑战 。”

赵燕斌说他想传递的信息很“ 方便”：“我 盼望人们能关注这类 突击 路径，把它们看做 实在、迫切的 挟制，”假如Yelp、亚马逊这些网站的工程师们还没有开始考量如何抵制，他 盼望他们 立即开始思量 。

传授 盼望“我们 盼望能吸引更多 留神，不只为了设计出能防备这类 突击的系统，还想让更多人从平庸的视角，看到‘好AI’带来的 挟制 。”

“我认为，那么多人都在关注奇点、天网这些引人注 目标AI 挟制，然而那些很好很好的AI，能带来众多更实际的、有显示影响的 挟制，而这只不过冰山一角 。”

他补充说：“所以，我以 盼望安全界的人能和我一同，关注这类问题，这样我们才有 盼望赶上 。我认为，AI以惊人的速度和加快度在进展，假如我们不 立即开始探究如何抵制，可能永远都赶不上了 。”

芝加哥大学赵燕斌 传授

是真是假

最终，来个小测验吧 。

这有六个案例，其中有一些是神经网络生成的 虚假点评， 其余的是 实在的人类点评 。你看看是不是能分辩出来是真是假 。

1、我最喜爱去的意大利餐厅 。大爱这家菜品， 所有都很棒 。我推举生牛肉配芦笋 。惋惜现在名气太大了，越来越难在黄金 工夫 预约到座位 。

2、我们全家都是这间餐厅的超级粉丝 。工作人员十分奈斯，食物很棒 。鸡肉十分好吃，蒜汁堪称 圆满 。上面配有水果的冰淇淋也很美味 。强烈推举！

3、每年圣诞节我都来，最爱意大利面！物有所值！

4、十分好的披萨、烤宽面条以及最好吃的扇贝之一 。甜品很大很美味 。

5、这的食物好吃得惊人，重量也很大 。芝士百吉饼做得十分 圆满，新奇又美味！服务很快 。毫无 疑难是我们最爱的地方！我们还会回来的！

6、我来这吃饭已经一年半了，除了好吃我无话可说 。我总是点披萨，意大利牛肉也很好，给我留下深刻印象 。服务十分出众 。是我见过的服务最好的餐厅 。强烈推举 。

你看出哪些点评有问题了么？

本文经AI新媒体量子位(公众号 ID: QbitAI)授权转载，转载请 联络出处 。