微软发表了一篇由人工智能生成的旅游文章,其中推荐游客参观加拿大渥太华的食品银行。然而,在文章发表后不久,微软撤回了该文章的版本。
微软高级总监在一份声明中表示,该文章已被删除,并且正在调查该文章是如何通过审核流程的。
据了解,微软于2020年解雇了 Microsoft News 和 MSN 的记者,并用人工智能取代他们。该 AI 撰写的旅游文章作者署名为 “Microsoft Travel” 署,推荐的每个景点包含一个简短的描述。
关于食品银行的总结引起了人们的广泛关注,因为在描述该地点时使用了非常糟糕的措辞,声称 “来找我们的人有工作和家庭要养活,还有开销要支付。生活已经足够困难了,考虑一下是否要饿着着肚子面对它。” (注:食物银行是名单上排名第三的推荐,位于国家战争纪念馆后面。)
渥太华食品银行的传媒经理表示,这种说法明显是不敏感的,并且没有经过人工编辑的审核。她还表示,随着人工智能越来越受欢迎,类似于这样的错误或不适当的描述在这样的文章中会越来越多。这突显了人类研究人员、作家和编辑的重要性。
微软在其 Microsoft Start 计划的 “关于我们” 页面中写道:“我们的算法每天浏览由合作伙伴发送的数十万篇内容,对其进行处理以理解其新鲜度、类别、主题类型、观点内容和潜在流行度,并根据用户偏好进行发布。与人类监督结合起来,以确保我们展示的内容与我们的价值观相一致,并且关键信息在我们的体验中占据重要位置。”
最近,其他出版商也开始使用人工智能来辅助或替代人类的工作,但往往效果不佳。Gizmodo 发布的一篇由 AI 撰写的文章未能正确列出《星球大战》电影的时间顺序。CNET 对数十篇由 AI 撰写的报道进行了更正,BuzzFeed 和微软一样,也使用 AI 撰写旅游指南。
这一事件引发了人们对人工智能在新闻领域中的使用方式和审核流程的关注。虽然人工智能可以自动化生成大量内容,但人类研究人员、作家和编辑的角色仍然不可或缺,以确保信息的准确性和敏感性。随着人工智能的不断发展,如何在技术和道德之间找到平衡将成为一个重要的问题。