法院命令加拿大航空为聊天机器人的不良建议支付赔偿金

一家小额索赔法院裁定，加拿大航空应对一名被联络中心聊天机器人误导支付全价机票的客户进行赔偿。

这名乘客名叫 Jake Moffatt ，他是一位失去亲人的孙子，他为往返多伦多的往返机票支付了 1600 多美元，而实际上，根据航空公司的丧亲费率，他只需要支付大约 760 美元。

聊天机器人告诉莫法特，他可以在购买全价票后填写退票申请，以退还一半以上的费用，但这是错误的建议。

尽管如此，加拿大航空辩称，除了其他辩护之外，它不应该对其聊天机器人给出的建议负责。

民事解决法庭 (CRT) 成员 Christopher Rivers在其判决理由中写道：

实际上，加拿大航空表示聊天机器人是一个独立的法律实体，对其自身行为负责。这是一个了不起的提交。

“虽然聊天机器人具有互动组件，但它仍然只是加拿大航空网站的一部分。

“对于加拿大航空来说，显而易见的是，它对其网站上的所有信息负责。

“信息来自静态页面还是聊天机器人都没有区别。”

最初，加拿大航空客户服务代表向莫法特先生指出了聊天机器人分享的链接，该链接提供了有关其丧亲政策的准确信息。他们还告诉他，他们将更新聊天机器人，以防止它发出同样的误导性建议。

然而，莫法特先生对此并不满意，并选择起诉该航空公司。

除了辩称自己对聊天机器人的言论不负有责任外，该航空公司还辩称，莫法特先生本可以在其网页之一上找到正确的信息，以及免除其责任的关税条款和条件。

法院没有被这些论点所说服，并命令加拿大航空向莫法特先生支付总计 812.02 美元，用于赔偿损失、判决前利息和 CRT 费用。

加拿大法律信息研究所（该研究所拥有加拿大法律判决的数据库）的一项调查显示，莫法特先生的案件是第一个出现聊天机器人错误建议的案件。

更广阔的视野

借助新的 GenAI 增强型聊天机器人，品牌可以将其虚拟代理连接到内部知识源，并且无需事先培训即可响应客户。

这个故事强调了审查材料和测试的必要性。

然而，这也引出了一个问题，没有人机交互的 GenAI 是否已经准备好应对此类用例？

毕竟，这个故事是在DPD 的 GenAI 机器人咒骂并写下一首诗讲述“他们作为一家公司是多么糟糕”之后发生的。

Valoir 首席执行官兼首席分析师 Rebecca Wetteman 预计，许多人工智能项目将在 2024 年遭受“惨痛的”失败——看来她可能已经发现了一些事情。

她在CX 预测视频中表示：“缺乏成熟的技术、适当的政策和程序、培训和保障措施，正在为人工智能事故制造一场完美风暴，其戏剧性远远超出幻觉。 ”

当事情出现问题时，预计会出现公开失败、诉讼以及技术供应商和人工智能采用者的有效重组。

尽管许多公司已经依靠聊天机器人来满足其客户服务需求，但该技术显然还有待进一步成熟。

事实上，babelforce首席执行官兼联合创始人 Pierce Buckley 担心今年第二波可怕的机器人即将到来；第一波是 2010 年代初发布的。

他认为，为了提高聊天机器人的用户体验，企业必须从一开始就考虑到人的视角。