聊天机器人技术引发的一系列道德问题

日期: 2017-05-02 作者:Bridget Botelho翻译:杨宏玉 来源:TechTarget中国 英文

新的人工智能平台赋予了聊天机器人生命,让它们能够更好的解读客户意图。现在你收到一封电子邮件,你可能分不清这封邮件是来自于聊天机器人还是真正的人类。 最近我参加了一个课程,该课程汇报了人工智能在商业应用上的使用情况,在课程上,我访问了Conversica的网站,观看了其聊天机器人技术的现场展示。我填写了一个在线表格,一个名叫Rachel Brooks的销售助理名通过电子邮件与我沟通,她十分地友好,为我提供了更多的信息。

在我没有继续回应的情况下,这个坚持不懈的销售人员又给我发了另一封电子邮件: 主题:来自Conversia Rachel Brook 的跟进邮件 Hi Bridget, 我想继续跟进……

我们一直都在努力坚持原创.......请不要一声不吭,就悄悄拿走。

我原创,你原创,我们的内容世界才会更加精彩!

【所有原创内容版权均属TechTarget,欢迎大家转发分享。但未经授权,严禁任何媒体(平面媒体、网络媒体、自媒体等)以及微信公众号复制、转载、摘编或以其他方式进行使用。】

微信公众号

TechTarget微信公众号二维码

TechTarget

官方微博

TechTarget中国官方微博二维码

TechTarget中国

新的人工智能平台赋予了聊天机器人生命,让它们能够更好的解读客户意图。现在你收到一封电子邮件,你可能分不清这封邮件是来自于聊天机器人还是真正的人类。 最近我参加了一个课程,该课程汇报了人工智能在商业应用上的使用情况,在课程上,我访问了Conversica的网站,观看了其聊天机器人技术的现场展示。我填写了一个在线表格,一个名叫Rachel Brooks的销售助理名通过电子邮件与我沟通,她十分地友好,为我提供了更多的信息。在我没有继续回应的情况下,这个坚持不懈的销售人员又给我发了另一封电子邮件: 主题:来自Conversia Rachel Brook 的跟进邮件 Hi Bridget, 我想继续跟进我们之前的沟通邮件,看看我们是否可以继续回答你对我们人工智能引导软件的任何问题。你有兴趣打电话了解更多信息吗? 非常感谢, Rachel Brooks | 销售助理 我和这家公司负责产品营销的主管Gary Gerber提到了Rachel,我提出了我的猜测,虽然Rachel和我进行着看似正常的沟通,但我觉得Rachel是虚拟的。 “你猜对了,Rachel是Conversica的自动助理,”Gerber解释道,“她提升了公司销售团队和营销团队的效率,而且,最重要的是,它能确保你的客户拥有良好的客户体验。这对Conversia和客户都有好处。其实自动化还可以带来更多的好处,对吧?”

等等,确定不是真人么?

类似Rachel Brooks的聊天机器人已经被越来越多的企业所接受,这些聊天机器人能够解放客户服务人员和销售人员,让他们能够专注于更复杂的任务。人工智能(AI)技术在未来的应用领域将会越来越广泛。Gartner预测,在2020年,超过85%的客户交互行为将交由人工智能来管理。 对聊天机器人技术的使用取得了良好的效果,它目前工作良好,能够提供全天候的服务。然而,此前我一直以为我在和一个活生生的人沟通,当我发现它只是一个机器人时,我感到被欺骗了。有这种感觉的并不是我一个人。一位高科技行业分析师怀疑他正在与一个机器人进行电子邮件交谈,因为回复的响应速度和语速远高于人类的效率,他认为应该起草相关法律,强迫公司明确说明哪些客服是机器人。这样我才能合理表达我的客户诉求,”Simon Bramfitt在推特上写道。 这是一个很好的观点,但立法这个提议却让一些业内人士犹豫了。David Vandegrift,一个投资了初创企业和人工智能技术的风险投资家,他对立法持反对态度,因为他觉得这可能会对研究产生负面影响,也会影响人们对待AI的方式。他指出,各种形式的人工智能长期以来一直用于客户服务。如果您致电有线电视提供商或银行,一般会由交互式语音应答(IVR)系统提供服务。 “[ IVR ]的客户体验十分的糟糕,客户可以很容易的分辨出提供服务的是一个机器,”Vandegrift说道,“但是,当AI表现的越来越像一个人类,客户也不会觉得为他提供服务的是一个机器人时,我不认为人们会有太多的抵触情绪。” 他看到的是,当客户第一次意识到和他们沟通的是一个聊天机器人时,他们的第一感觉是受到了欺骗,但这只是下意识的反应,这种情绪可能不会持续太久,客户可能会觉得和聊天机器人沟通要比一个真正的人类客服舒服的多。毕竟,与人工客服沟通有时也会相当痛苦,他补充道。

不要欺骗消费者

基本上,消费者所期望得到的是一种信任,当他们发现一个公司用机器人来与他们沟通,他们可能会感觉到背叛,甚至会对品牌产生强烈的不信任感,Vandegrift承认,并补充说,公司在这一点上要对消费者开诚布公。 向客户呈现与真人互动的假象,针对这个道德问题,我询问了Conversica Gerber的看法。“也许这确实是一个道德问题,但人们的确得到他们需要的信息。这和他们与一个真人沟通并没有太大的区别”Gerber说道。 他进一步补充道,虚拟助理有时比人工客服做得更好。当销售经理忙的焦头烂额,无法进行客户回访的时候,一个虚拟助理将会是更好的选择,Gerber表示。“人们可能会喜欢与机器人交谈,因为他们会得到他们所需要的,”他说。 考虑下自动取款机的例子。当这些机器刚出现时,许多人不愿把钱存到ATM里,他们更乐意在银行柜员那儿存钱。现在,使用自动取款机是更普遍的做法,他们可以昼夜处理交易,而柜员只能在工作时间办公。 Susan Zaney是一家在线业务演示平台的前营销副总裁,她依赖Conversica的聊天机器人技术来追踪销售线索。他们把虚拟助理命名为“Caitlyn Kelly”,Caitlyn使用自然语言与客户进行沟通,客户一直没有察觉,甚至有时会向Caitlyn道歉,因为他们觉得Caitlyn为了处理他们的问题,不停的在加班。Zaney说。“我们还为Caitlyn建立一个电话专线和语音邮件,因为有很多客户打电话找Caitlyn Kelly。还有人建议我们为Caitlyn Kelly创建LinkedIn个人资料,但我们拒绝了这一提议。”(所有给Caitlyn Kelly的留言都会由人工客服来回应)。

3D 化身

虽然许多公司采取了类似的策略——给聊天机器人取一个人类名字,充当客户服务人员,但其他一些公司却只是把机器人作为数字技术的化身,很明显这些机器人并不是真实的人,Inbenta创始人和首席执行官Jordi Torras解释道。Inbenta公司构建了自己的自然语言处理(NLP)软件,为客户提供企业搜索服务和人工智能聊天机器人。“我们有非常棒的3D化身,我们的客户会给这些机器人命名,但他们知道这些仅仅是机器人,”Torras说,聊天机器人应该明确的表明身份,他不认为把聊天机器人伪装成人是个好主意。 公平地说,公司并没有试图用聊天机器人技术来欺骗客户,也没有试图使用机器人来构建类似于真人客服与客户之间的人际关系。一个聊天机器人的任务只是提供援助或帮助客户到合适人类客服,Zaney说。“如果你想和我们进行一场会谈,而我们忘记了答复,”她解释道,“你只需要和Caitlyn进行沟通,你就能得到你想要的一切。” 随着时间的推移,机器人客服将成为常态,消费者对客服机器人的态度将归于平静,并逐渐习惯于聊天机器人的沟通,Inbenta的Torras 说道。 但这并不是说聊天机器人将成为所有的客户默认跟进方式。Inbenta仍然依赖于销售代表来跟进业务问询。一位业务发展经理最近答复过我的问询,他说道:“虽然机器人非常有用,但与客户沟通仍然需要人情味。” 不管是你是否喜欢与机器人聊天互动这个想法,这都是之前给我们带来糟糕体验的IVR系统的巨大进步。Inbenta声称其NLP技术解决了90-97%的客户服务问题。当遇到AI技术不能回答问题时,系统会自动转接到真人客服那里,Torras说。 相关技术在未来几年只会越来越好。“与聊天机器人的对话将会越来越自然,”他说,“他们解决特定的问题,也许会比真人更加优秀”。 Gartner预计,到2020年,所有业务应用程序都会包含自然语言处理能力,深层神经网络和会话能力。很有可能在几年之后,你与销售助理进行电子邮件交谈,对方根本就不是人类,而你却丝毫不会察觉。法律上,这不是问题。道德上呢?这就需要你自己评判了。

作者

Bridget Botelho
Bridget Botelho

资深专家

翻译

杨宏玉
杨宏玉

TechTarget特邀编辑。北京邮电大学计算机科学与技术专业硕士。熟悉软件开发流程,对系统管理,网络配置,数据库应用等方面有深入的理解和实践经验。现就职于IBM(中国)投资有限公司,从事IBM服务器相关软件的开发工作。业余时间喜欢游泳登山,爱健身,喜欢结交朋友。

相关推荐