首页
学习
活动
专区
圈层
工具
发布

新国标今起实施 企业须为 AI 客服答复担责

从 9 月 1 日起,企业再也不能用 “AI 说的不算数” 来推卸责任。我国首个聚焦人工客服与智能客服协同机制的国家标准《顾客联络服务 人工与智能客户服务协同要求》正式落地实施。该标准明确规定,企业须对智能客服的回复内容承担相应责任,不得以 “AI 回答不代表公司立场” 等说法推脱自身义务。

近年来,AI 客服 “已读乱回”、答非所问已经成为不少消费者的糟心体验,相关投诉量持续走高。有的 AI 客服口头承诺车款包含过户费,线下交易却额外收费;还有的生成错误指引,甚至出具虚假赔付承诺书。可当纠纷出现时,部分企业便以回复由算法生成为由撇清责任,引发大量争议。本次新国标的出台,正是瞄准这一行业痛点,为乱象画上句号。

新规划定了人机客服协同的多项硬性准则。转人工入口必须清晰醒目,不得层层隐藏跳转路径,面向老年人等群体优先开放人工通道;当用户明确呼叫人工,或是问题涉及人身、财产安全时,系统应当直接转接人工客服,同时完整同步用户聊天信息,避免消费者反复复述问题。最关键的一条便是,智能客服给出的答复属于企业服务的一部分,企业不能再拿 AI 内容无效当作挡箭牌。

需要留意的是,这份国标属于推荐性标准,没有强制约束力,但它将会成为行业服务质量的重要评判标尺,在后续消费纠纷、监管核查乃至司法判决中,具备极高的参考价值。

在新国标压实客服场景企业责任的同时,过往司法判例也为大范围生成式 AI 服务厘清了责任边界。今年年初宣判的全国首例 AI “幻觉” 侵权案给出示范:AI 自主生成的赔偿承诺不具备法律效力,平台并非需要为 AI 的所有错误无限兜底。案件审判遵循过错责任原则,如果平台已经提前提示 AI 技术局限性、并且采取优化手段降低出错概率,尽到了合理的注意义务,则无需承担侵权责任。

业内专家表示,新规与判例形成互补,找到了技术创新和消费者权益之间的平衡点。行业不必追求零幻觉的严苛标准,但金融、医疗等高风险领域还需要更加细化的合规条款。企业享受 AI 降本增效红利的同时,不能把风险转嫁到用户身上。

两份规则共同搭建起 AI 服务的责任新格局:商业客服场景下,AI 回复代表企业意志,“已读乱回” 不能甩锅 AI;而普通信息服务场景,平台责任边界落脚于风险提示和技术保障,不用对 AI 幻觉负无限赔偿责任。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OHcV73mtU51EMIf-GyepAEDg0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券