百度AI虚假信息案开庭，称是AI幻觉非故意

2025年5月，北京黄贵耕律师在检索百度时发现，百度AI自动生成了多条关于他的严重虚假负面信息，包括威胁法官、介绍贿赂、伪造印章以及非法吸收公众存款等刑事犯罪内容。[1][2]

这些虚假信息被他人传播给黄贵耕律师正在代理案件的委托人及委托人家属，给他带来了巨大困扰和职业损失。[1][3]

证据显示，百度AI生成的虚假信息主要源于对新闻报道、公文和公开披露信息的篡改，如将相关案件中

在2月6日的庭审中，百度公司发表答辩意见称，涉案行为载体为百度AI及文心助手，均属于生成式人工智能。百度方面认为，AI大模型基于自然语言理解能力对搜索来源中的信息进行整合，并非拥有独立意志的发布者。[1][2]

百度方面辩称：

针对百度公司的答辩，黄贵耕律师明确表示，"AI幻觉"不能成为免责事由，"技术中立"也不能推卸审核责任。[1][2]

黄贵耕指出，他曾使用豆包、腾讯元宝、阿里千问、deepseek等其他AI平台进行互动，均未生成类似严重失实的虚假内容，这表明百度AI的问题并非行业普遍现象，而是百度自身技术或审核机制存在缺陷。[1][3]

黄贵耕认为，作为AI服务提供者，百度公司有责任对生成内容进行必要审核，防止虚假信息对个人名誉造成损害。他强调，技术发展不能成为侵害他人合法权益的借口，企业应当承担相应的社会责任和法律责任。[2][3]

北京海淀区人民法院于2025年11月2日立案受理该起AI网络侵权责任纠纷案，2月6日的一审庭审中，双方就AI生成内容的责任归属问题展开了激烈辩论。[1][2]

值得注意的是，当日庭审尚未进入辩论阶段即告休庭，表明案件复杂性较高，可能需要更多时间进行审理。[1]

此案件被视为中国AI领域具有里程碑意义的诉讼，将对AI生成内容的责任认定产生重要影响。类似案件在杭州已有先例，杭州滨江区法院曾审结浙江首例因传播AI幻觉内容引发的不正当竞争案，法院明确判决被告需承担责任，表明AI不是内容失实的"免责金牌"。[3]

法律专家指出，随着AI技术的快速发展，如何平衡技术创新与个人权益保护成为亟待解决的问题。此案的判决结果将为未来类似AI侵权案件提供重要参考，也可能推动相关法律法规的完善。[1][2]