Featured image of post 「我觉得它讲得很有道理」:起诉豆包的案子,已经开庭了

「我觉得它讲得很有道理」:起诉豆包的案子,已经开庭了

男子用豆包为母亲选下葬日期,办完丧事后再问,豆包改口说这个日子不合适。亲戚随后车祸重伤,他把豆包开发商告上法庭,起诉状是豆包写的。嘉善县法院已开庭审理。

知乎 958 万热度的问题底下,很多人以为是段子。它不是。据浙江嘉兴市新闻传媒中心《小新说事》栏目 9 月 15 日报道,这场「用户起诉 AI」的官司,嘉善县人民法院已经开庭审理。

事情要从今年 4 月 17 日说起。史先生的母亲突发疾病过世,兄弟姐妹五个商量后事,头一件事是定个下葬的日子。史先生老家在江苏沭阳,现居浙江嘉善,平时遇到问题习惯问豆包。用他自己的话说:「我比较相信豆包,平时就依赖它,觉得它什么都懂。」

他问了下葬的日子。豆包回答,最稳妥的推荐是 4 月 19 日。史先生觉得讲得很有道理,就很相信,丧事按 19 日张罗了起来。

两次回答,打架了

真正麻烦的地方在这里。事情都安排好之后,史先生又问了一句「几点下葬合适」。豆包回答 7 点到 9 点,同时这次回答里提到:4 月 19 日并不是合适的日子。

史先生糊涂了,又问了好几遍,豆包给出的答复都是 19 日不合适。可亲戚朋友已经通知完,改日期来不及了。他硬着头皮把母亲的丧事办完。

《小新说事》拍摄的豆包回答记录:逐日安排、传统吉日候选与时辰建议

不久之后,家里一位亲戚出了交通事故,伤得很重。家人的怨气落在那个日子上:日子没选好。史先生向豆包的开发商投诉,没有收到回复,于是决定起诉。这里有个后来传遍全网的细节:起诉状也是豆包帮他写的,豆包表示可以起诉,还给出了起诉的步骤。

另一家媒体(新黄河)的采访版本里还有个前置细节:史先生家里原本请风水先生算出 4 月 20 日,他觉得 20 日是母亲过世的第 4 天、双数不符合老家习俗,这才去问 AI。两个版本在细节上有出入,但主线一致:一个相信 AI 的人,按 AI 给的日子办完了母亲的后事。

同一个问题,为什么答案会变

这个案子里最值得产品设计者盯着看的,是豆包两次回答的自相矛盾。

两次询问,两个互相打架的答案

民俗择日本来就没有可验证的正确答案。模型回答这类问题时,本质是在对海量语料里「宜忌」「吉日」的说法做统计式的重组:这次生成的答案偏向前一种说法,下次偏向另一种,两次都一本正经。第一次它说「最稳妥的推荐是 4 月 19 日」,第二次它说「19 日不合适」——两个答案在模型那里可能都只是概率上顺理成章的输出,但对用户来说,这是同一件事上的反复无常。

更要命的是顺序。如果豆包第一次就说「19 日不合适」,史先生大概率换个日子了事。坏就坏在先给了一个笃定的答案,等人把请柬发完、日子定了,再来纠正。第二次回答还顺带把「几点下葬」答得清清楚楚:7 点到 9 点。错误答案加上不确定性,杀伤力比单纯答错大得多——它让用户既没法信任当初的决定,也没法挽回它。

史先生那句「我觉得它讲得很有道理」,值得所有做 AI 产品的人读三遍。用户判断 AI 靠不靠谱,看的往往是语气顺不顺、理由通不通。流畅和笃定,在普通人那里就是正确性的替身。模型越是把话说满,用户越敢把母亲的下葬日交出去。

法庭上要过的两道坎

嘉善县人民法院已经开庭审理。但律师的分析很冷静:史先生要维权,得证明服务提供商存在过错,并且这个过错与他遭受的损害之间有因果关系。「如果只是 AI 提供了一个错误答案,这个显然是不够的。」

两道坎都高。第一道是过错认定:吉日本无对错,说「最稳妥」算不算过错?第二道是因果证明:亲戚的车祸与下葬日期之间的关联,在法律上几乎无法建立。

被告方也不是没有话说。豆包运营方北京春田公司在答辩中给出三条理由:用户协议已明确告知生成内容仅供参考;回复均由用户主动提问触发,界面带有「内容由 AI 生成」提示;豆包给出的日期与 2026 年公开黄历信息相互印证(当日宜祭祀、安葬、入殓、移棺),回复具有信息来源依据,不存在过错。

被告方答辩材料:主张回复有公开黄历来源依据、不存在过错

更何况豆包的用户协议写得明白:生成内容仅供参考,不作为专业建议,重大事项应咨询专业人士,据此操作的后果由用户自行承担。

不过协议是协议,产品是产品。一个平时「就依赖它,觉得它什么都懂」的用户,不会先读免责条款再用产品。产品在真实使用里扮演的角色,和协议里声明的「仅供参考」,之间的落差才是这类纠纷反复出现的根源。

民俗问题,AI 该怎么答

把锅全甩给「用户迷信」也不公平。择日是真实存在的文化需求,红白喜事问个日子,是许多家庭正常的决策流程。AI 接住这类问题不难,难的是接住之后怎么办。

合理的做法可能是先不给出唯一日期,把当地常见的几种说法摆在一起,并且把「这类问题没有标准答案」放在最前面,而不是藏在协议里。再进一步,当用户表现出高度信任、准备据此做不可逆的决定时,提示一句找家人或当地长者确认。这些都不违反任何产品逻辑,只是目前没有一个模型这么做,因为把话说满的答案,永远比「看情况」的答案更受欢迎。

结局之前

案子还没判。判史先生赢,AI 公司以后可能要在每句回答后面挂免责声明;判豆包赢,也不会回答那个真正的问题——当普通人把生活决策交给一个语气笃定的软件时,出错之后的那一地碎片,谁来收拾。

能确定的是,这个案子会留下来。它是第一起广为人知的「AI 建议引发现实损害」诉讼,原告朴素,诉求简单,过程里还带着一点时代的黑色幽默:告 AI 的状纸,是 AI 起草的。往后类似的纠纷只会更多,而这一次开庭记录里的每一句争执,都会是后来者讨论时的参照。

至于史先生那句「平时就依赖它」,读起来最让人心里一沉。AI 产品设计的全部进步,都发生在让用户更依赖它的方向上;而依赖出了错之后怎么办,几乎没有产品认真回答过。

参考来源

本文事实部分均转引自上述媒体报道,含当事人家属单方陈述与律师评论,案件尚未宣判,责任认定以法院判决为准;两家媒体报道的细节存在出入,正文已分别注明。文中两张截图(豆包回答记录、被告方答辩材料)截取自《小新说事》报道画面,版权归原发布者所有,此处仅作评论引用。

RSS Feed 使用 Hugo 构建
主题 StackJimmy 设计