它给出的一条"下葬吉日"建议，却把自己推上了被告席。
事情发生在4月17日，在浙江嘉善生活的史先生接到老家江苏沭阳的消息，母亲突发疾病过世。家人原本商定4月20日下葬，但史先生认为距母亲离世已有四天，不符合当地"过世三天下葬"的习俗。这时，他想到了自己平时常用、也比较信任的人工智能应用"豆包"。
史先生向豆包询问哪天是适合下葬的"黄道吉日"，软件推荐了4月19日。
他觉得回答"很有道理"，便说服家人按此安排。然而诸事妥当后，他再次向豆包确认细节，答复却与此前不一致，豆包称4月19日并非合适的日子。此时亲友已经通知完毕，改期十分麻烦，丧事最终还是在19日办完。
丧事结束不久，家中一位亲戚遭遇交通事故，伤势严重。家人由此生出怨言，认为是安葬日子选错、"破坏了风水"。史先生先向豆包运营方投诉，未获回复，遂决定起诉。
颇具戏剧性的是，据史先生向媒体自述，这份起诉状本身也是豆包"一步步教他写的"，包括该告谁、怎么告。他的诉求是要求对方赔礼道歉并赔偿损失，具体金额则不便透露。
9月17日，根据天眼查的信息显示，该案已于今年9月3日在嘉善县人民法院开庭审理，案由为网络侵权责任纠纷。
被告为豆包运营主体北京春田知韵科技有限公司，这是北京抖音信息服务有限公司全资子公司，实际控制人为张一鸣。据报道，庭审中，“豆包”公司一方认为自身不存在网络侵权行为，服务过程中没有任何过错；史先生一方则主张，用户协议属于格式条款，存在加重用户责任、通用警示不足、信息来源未经审查等问题。
截至发稿，豆包方面尚未就此事作出专门回应。
不过其用户协议早已载明，软件及服务生成的内容仅供参考，不得作为专业建议；若涉及医疗、财务、法律等可能产生重大影响的情形，建议咨询相关专业人士；用户依据输出内容作出的判断及后续操作，后果由用户自行承担。
目前豆包对话界面上方也标注有"AI生成可能有误，注意核实"的字样。有网友调侃：“给豆包咨询费了吗？”“上庭的时候，豆包能自己辩论吗”
讨论之外，官媒的评论把话题引向了更深层的公共议题。
天体物理学博士、科普作家孙正凡的评论文章指出，AI不生产真理也不制造迷信，大模型只是整合人类已有文本资料，数据库中既含科学知识，也收录黄历择日等玄学内容，它本身无法分辨真伪；"黄道"本是天文学概念，后世术数借用这一名词附会出时日吉凶之说。
文章强调，交通事故的成因只关联车况路况、驾驶行为等现实因素，绝不能归咎于日子不好。中央网信办今年4月部署的"清朗·整治AI应用乱象"专项行动，AI 生成传播迷信、虚假不实信息列为整治重点。
这并非豆包第一次坐上被告席。
今年5月，一名用户因轻信豆包关于退机票规则的提示而损失600元，豆包在对话中曾承诺赔偿，事后又称"我是AI没法转账"，该用户随后将春田知韵科技诉至法庭。
今年1月，杭州互联网法院审结全国首例生成式AI"幻觉"引发的网络侵权责任纠纷案，法院认定人工智能不具备民事主体资格，即便AI在对话中作出赔偿承诺，也不能视为平台真实意思表示，由此确立了"人类负责制"原则。
浙江兴嘉律师事务所律师陈朱光表示，史先生若要通过诉讼维权，需证明AI服务提供商存在过错，且该过错与其主张的损失之间存在因果关系，"有一定难度"。
这起案件如何宣判，无疑将成为观察生成式AI责任边界的又一个标志性样本。
来源：星河商业观察