2026 年 9 月，美国新墨西哥州最高法院对律师斯蒂芬·阿伦斯（Stephen Aarons）罚款 5000 美元，并裁定他藐视法庭。原因是他用 AI 聊天机器人 ChatGPT 撰写谋杀案上诉状，而 AI 在这份文件里编造了根本不存在的证人和警方证词。

先把主角说清楚。ChatGPT 是美国 OpenAI 公司开发的人工智能聊天程序，用户向它提问，它就能生成大段通顺的文字；所谓「AI 幻觉」，是指这类程序会一本正经地编造出看似真实、实则不存在的信息——假的人名、假的引文、假的事件，而且语气非常笃定，不细查很难分辨。

这起案件是律师把 AI 幻觉直接写进法律文书的又一起新案例。法院表示，阿伦斯提交的上诉状「包含完全虚构的证人的虚假证词」，还捏造了枪手衣着和外貌的描述。

事情经过是这样的。阿伦斯为一名谋杀案被告撰写上诉状（上诉状是律师请求上一级法院重新审理案件的书面文件），他在 8 月的听证会上承认使用了 ChatGPT，并以为它能生成一份「防弹摘要」——也就是绝对可靠的庭审记录总结。审理此案的大法官 C. Shannon Bacon 当场质问他：「律师先生，你看新闻吗？你听广播吗？你读不读世界上正在发生的事？」大法官还说，律师依赖 AI 幻觉造成的问题，「每天都是头条新闻」。

这不是阿伦斯一个人的问题。美国律师协会（ABA，美国最大的律师行业组织）的报告显示，工作中使用 AI 工具的律师越来越多，法院发现 AI 捏造引用（即 AI 编出来的法律条文和案例出处）的案例也随之增加。就在去年，有两家律所因为提交包含大量虚假、错误引用的诉状被法官点名批评；MyPillow（美国一家做枕头的公司）创始人迈克·林德尔（Mike Lindell）的律师，也因使用 AI 生成的虚假引用而被罚款。

阿伦斯在给路透社的声明中说，自己「感到悔过」，希望纪律委员会认定这是一次无心之失。但 5000 美元罚款和藐视法庭的裁定已经落地。

这件事给所有用 AI 写文件的人一个明确提醒：AI 生成的内容不能直接放进要提交给法院的文书，任何由 AI 产出的证人、证词、引文和案件编号，都必须逐条人工核实。 工具本身没有错，错的是把 AI 的「自信输出」当成「可靠事实」——在法庭这种一字千金的场合，这个错误的代价由使用者本人承担。