互联网上充斥着虚假评论。人工智能会让情况变得更糟吗？

监督组织和研究人员表示，一些工具的出现让人们几乎不需要任何工作就能高效地制作新颖而详细的在线评论，这让服务提供商和消费者进入了一个未知的领域。

长期困扰着许多受欢迎的消费网站，包括Yelp。它们通常在私人社交媒体群上在虚假评论经纪人和愿意付费的企业之间进行交易。有时，这样的评论是由企业发起的，这些企业为积极反馈的客户提供礼品卡等奖励。

但科技行业专家表示，由OpenAI推广的人工智能文本生成工具使欺诈者能够更快、更大规模地生成评论。

这种欺骗行为全年都在进行，但在春节期间对消费者来说是一个更大的问题，因为很多人都依靠评论来帮助他们购买礼物。

人工智能生成的评论出现在哪里？

虚假评论遍布各行各业，从电子商务、住宿和餐饮，到房屋维修和钢琴课程等服务。

透明公司（Transparency Company）是一家利用软件检测虚假评论的科技公司和监督组织，该公司表示，它从2023年中期开始看到人工智能生成的评论大量出现，从那以后它们成倍增长。

在本月发布的一份报告中，The Transparency Company分析了家庭、法律和医疗服务三个领域的7300万条评论。近14%的评论可能是假的，该公司表示“高度自信”，认为230万条评论部分或完全是人工智能生成的。

“对于这些评论骗子来说，这是一个非常非常好的工具，”科技创业公司的投资者和顾问莫里·布莱克曼（Maury Blackman）说。他审查了透明公司的工作，并将于1月1日开始领导该组织。

今年8月，软件公司DoubleVerify表示，它观察到由生成式人工智能编写评论的手机和智能电视应用程序“显著增加”。该公司表示，这些评论经常被用来欺骗客户安装可能劫持设备或不断运行广告的应用程序。

接下来的一个月，美国联邦贸易委员会（Federal Trade Commission）起诉了开发人工智能写作工具和内容生成器Rytr的公司，指控其提供的服务可能会通过欺诈性评论污染市场。

今年禁止虚假评论的美国联邦贸易委员会表示，Rytr的一些用户使用该工具为车库门维修公司、“复制品”设计师手袋销售商和其他企业制作了数百甚至数千条评论。

它很可能也出现在著名的在线网站上

人工智能检测公司Pangram Labs的首席执行官马克斯·斯佩罗（Max Spero）表示，他的公司使用的软件几乎可以肯定地检测到，亚马逊上发布的一些人工智能生成的评价会出现在评论搜索结果的顶部，因为它们非常详细，似乎经过了深思熟虑。

但判断什么是假的或不是很有挑战性。亚马逊表示，外部各方可能达不到要求，因为他们无法“获得表明滥用模式的数据信号”。

Pangram Labs已经为一些著名的在线网站进行了检测，但Spero根据保密协议拒绝透露这些网站的名称。他说他独立评估了亚马逊和Yelp。

Spero说，Yelp上许多人工智能生成的评论似乎是由那些试图发表足够评论以获得“精英”徽章的人发布的，这是为了让用户知道他们应该相信这些内容。

该徽章提供了与当地企业主的独家活动的访问权限。前联邦刑事调查员凯·迪恩（Kay Dean）说，欺诈者也希望它能让他们的Yelp资料看起来更真实。迪恩经营着一个名为“虚假评论观察”（Fake Review Watch）的监督组织。

可以肯定的是，一篇评论是人工智能生成的，并不一定意味着它是假的。一些消费者可能会尝试使用人工智能工具来生成反映他们真实情感的内容。一些非英语母语人士表示，他们求助于人工智能，以确保他们在撰写评论时使用准确的语言。

研究虚假评论的密歇根州立大学营销学教授Sherry He说：“如果评论是出于好意，它可以帮助评论（并）使其更有信息量。”她说，科技平台应该关注不良行为者的行为模式，而不是阻止合法用户转向人工智能工具，一些知名平台已经这样做了。

公司在做什么

知名公司正在制定政策，让人工智能生成的内容融入他们的系统，以删除虚假或滥用评论。一些公司已经采用算法和调查团队来检测和删除虚假评论，但在使用人工智能方面给予了用户一定的灵活性。

例如，亚马逊和Trustpilot的发言人表示，他们将允许客户发布人工智能辅助的评论，只要这些评论反映了他们的真实体验。Yelp采取了更为谨慎的做法，称其指导方针要求评论者自己撰写评论。

该公司在一份声明中表示：“随着最近消费者对人工智能工具的采用增加，Yelp在更好地检测和减轻我们平台上此类内容的方法上投入了大量资金。”

由亚马逊、Trustpilot、就业评论网站Glassdoor以及旅游网站Tripadvisor和Expedia于去年成立的可信评论联盟（Coalition for Trusted Reviews）表示，尽管欺诈者可能会将人工智能用于非法用途，但这项技术也提供了“一个反击那些试图利用评论误导他人的人的机会”。

“通过分享最佳实践和提高标准，包括开发先进的人工智能检测系统，我们可以保护消费者，保持在线评论的完整性，”该组织表示。

禁止虚假评论的规定于去年10月生效，该规定允许该机构对从事虚假评论的企业和个人进行罚款。主持此类评论的科技公司不受处罚，因为根据美国法律，它们不对外人在其平台上发布的内容承担法律责任。

包括亚马逊（Amazon）、Yelp和b谷歌在内的科技公司已经起诉虚假评论经纪人，指控他们在自己的网站上兜售虚假评论。这些公司表示，他们的技术已经屏蔽或删除了大量可疑评论和可疑账户。然而，一些专家表示，他们可以做得更多。

“到目前为止，他们的努力还远远不够，”虚假评论观察（Fake Review Watch）的院长说。“如果这些科技公司如此致力于消除其平台上的评论欺诈，为什么我这样一个没有自动化的人，每天都能发现数百甚至数千条虚假评论？”

发现人工智能生成的虚假评论

根据研究人员的说法，消费者可以通过注意一些来尝试。过于热情或负面的评论都是危险信号。重复产品全名或型号的术语是另一个潜在的泄露。

说到人工智能，耶鲁大学组织行为学教授Balázs Kovács进行的研究表明，人们无法区分人工智能生成的评论和人工撰写的评论。研究称，一些人工智能探测器也可能被较短的文本所欺骗，这在在线评论中很常见。

然而，网上购物者和寻求服务的人应该记住一些“人工智能提示”。Panagram Labs表示，用人工智能撰写的评论通常较长，结构高度结构化，并包括“空描述符”，如通用短语和属性。文章还倾向于使用诸如“第一件让我震惊的事”和“游戏规则改变者”之类的陈词滥调。