夜间模式
  • 3292阅读
  • 0回复

[法治宣传]【普法·微提醒】警惕!AI生成的虚假案例已出现 [复制链接]

上一主题 下一主题
发帖
2159
昆币
34746 枚
只看楼主 使用道具 电梯直达
楼主  发表于: 4小时前 , 来自:江苏省0==

为了佐证观点

原告代理人竟使用AI生成的

虚假案例当诉讼依据?

在北京市通州区人民法院

近期审理的一起案件中

就出现了这样让人大跌眼镜的操作!

近年来

随着人工智能技术突飞猛进

AI大模型理解用户意图、汇总专业知识

生成相应内容的能力越来越强

但技术红利背后

虚假信息入侵司法程序的风险也悄然浮现

法官指出

结合该案审理经验及司法实践规律

可从以下几方面

识别AI生成的虚假案例特征

案号编排存在规律化痕迹

真实司法案例的案号由年份、法院代字、案件性质代字、审级代字和案件编号组成,其中案件编号遵循受理顺序自然生成,具有随机性和连续性的统一特征。而AI生成案例的案号往往呈现刻意规律化的特点:多采用“12345”“1234”等连续整数或“111”等具有明显特征的数字。所以遇到涉及此类案号的案件就要倍加小心。




案情描述过度贴合需求场景

AI大模型的生成逻辑基于概率统计与语境匹配,当使用者明确输入案件细节后,其生成的案例往往刻意贴合需求,事实细节、论理结论可能与使用者需求高度重合,呈现人为定制化特征。如果向AI提出的需求比较细节,而使用AI检索出的案例过于完美和契合,应当慎重处理。




难以通过检索方式进行验证

案例是对裁判文书的提炼和总结,AI模型虽能生成案例,但其生成的虚假案例并无真实裁判文书印证。且案件往往存在很多漏洞,AI有时会刻意模糊案件可识别要素,比如当事人的姓名等。故最稳妥的识别方法仍然是通过登录中国裁判文书网对生成案例的真实性进行核实和验证。





法官提示

近年来,ChatGPT、DeepSeek等软件引发的人工智能浪潮正深刻地改变着人们的工作方式,其强大的语言生成能力在短时间内就能输出看似专业、详实的文本。但在没有正确引导的情况下,AI极有可能生成误导性甚至虚假的信息。

民事诉讼法及司法解释等对行为人利用AI生成不属于证据性质的虚假参考案例如何处理尚没有明确规定,但AI生成虚假信息对司法秩序带来的危害值得重视。虚假案例干扰了法院的正常审理流程,审判团队不得不花费额外的时间和精力对律师提交的案例进行反复查找和甄别核实,一旦AI生成的虚假信息被参照适用,司法公信力将受到质疑。

法律从业人员应将AI作为辅助工具,而非替代自身专业判断的神器。使用AI工具时,仍需保持审慎和理性,对AI生成的内容进行严格审查,确保信息来源可靠、内容真实准确。

来源:尚法昆山




爆料有奖!关注昆山论坛抖音号,抖音搜索“昆山论坛”,或搜索抖音号:ksbbs
 
快速回复
限76 字节
如果您提交过一次失败了,可以用”恢复数据”来恢复帖子内容
 
上一个 下一个