幽灵的威胁：生成式人工智能幻觉及其法律规制.pdfVIP

域外法治

幽灵的威胁：生成式人工智能幻觉及其法律规制

[]·*

巴西维克托兰蒂著杨安卓伍静雯译

H.

,,。

内容摘要生成式人工智能正在迅速渗透到法律领域既提供机遇也带来新的挑战本文研究了

,。

日益增长的人工智能幻觉现象即这些系统生成事实不正确或捏造信息的情况本文还探讨了此类错误

,,,

的潜在法律后果包括错误的案例引用和对法律的误解并指出需要一个强大的监管框架来降低风险确

,。

保负责任地将生成式人工智能整合到法律实践中从而维护正义和公众信任

关键词生成式人工智能幻觉法律人工智能规制

,。

人工智能正在迅速改变许多领域尤其是法律领域以ChatGPT等平台为代表的生成式人工智能

,、。,

模型越来越多地用于协助法律文件起草法学理论研究和客户交流互动然而一个严重的问题随之浮

:“”()。,

现出来人工智能的幻觉Hallucination现象当人工智能系统生成的信息虽然看似合理但事实不

,。,、

正确或完全捏造时人工智能幻觉就会显现在法律情境下这带来了错误的法律解释虚构的法律引用

或虚构的法律先例等风险。

:,

考虑这样一个场景一位律师利用人工智能工具进行判例法研究他在收到从未发生的法院判决的

,。,,

虚假引用后将该判例纳入他们的法律论证或者想象一下法官咨询虚拟助手以澄清法律问题却收到

,。