近期一则“人工智能已经学会自动编写虚假点评”的消息广为流传。“我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，服务也很棒。推荐这个地方，是个吃早餐的好去处。地儿小但是买卖大”。这些看起来如假包换的评论如果以为是消费者评论的，那你就大错特错了。殊不知，这些评论都是AI操刀的点评，这种以假乱真的程度真是让人咂舌。

消息源于赵燕斌等发表的一篇题为《在线点评系统中的自动众包攻击和防御》的论文。在研究中，赵燕斌团队发现，人工智能可以被用来生成复杂的点评信息。这些虚假的点评不仅机器无法检测出来，就连人类读者也分辨不出来。

赵燕斌接受了第一财经记者的采访。他的实验室一直在从事和网络安全相关的课题。最新的研究历时一年左右，是过去研究的延伸。“人工智能的技术很先进，好处也显而易见，但是我们的目的是提前预测出人工智能对于社会潜在的威胁，因此当这些威胁真正来临的时候，人们不会猝不及防。”赵燕斌对第一财经记者表示。

他进一步解释道，在获得了美国的“大众点评网”Yelp的公开用户评论数据后，团队就开始做实验。具体而言，是从亚马逊上雇了600位用户，让他们对真人和人工智能编写的点评进行辨别。

“结果是几乎没有人看得出来哪些是机器撰写的点评。”赵燕斌对第一财经记者说道，“更让我们吃惊的是，用户不仅分辨不出真假，而且还觉得机器撰写的这些点评对他们很有帮助。”

他表示：“目前这种技术仍较新，还无法做到十分精准。比如已经在微博或者Twitter上出现的有些基于简单模板产生的评论。”

人工智能相比人类水军优势明显

赵燕斌认为，虽然他们无从得知是否已经有一些公司试图大规模利用人工智能的编程软件撰写虚假评论，但是这无疑会成为不法分子未来的一个“必要选项”，因为人工智能相比人类水军的优势非常明显。