衡宇 发自 凹非寺量子位 | 公众号 QbitAI

ChatGPT，把从业30年的老律师给坑惨了！

老哥撰写案件文案的时候，尝鲜让ChatGPT帮忙准备材料。然而提交后，不管是法官、对方律师还是老哥自己，都溯源不到引用的判决文书。

结果就是，10页文书被法官定义为“充满虚假”，老哥还被暂停执业许可，面临被制裁的可能。

这位姓施的老哥欲哭无泪，因为秉承着一贯的严谨态度，他明明认真询问过ChatGPT，它提供“南方航空公司被诉案”等材料时，有没有撒谎？

ChatGPT响应得很快：“当然没有啦～～”

事件一出，引发铺天盖地的谈论。

不过这一次大多数网友站在ChatGPT这边，站队后的发言都有些愤愤：

ChatGPT又不是故意撒谎的！以前人们就喜欢把数学、报告出错的锅甩给计算机，结果“计算机永不出错”的说法就流行开。但ChatGPT本身就不是事实机器啊。

这件荒唐事儿到底是怎么发生的？

施老哥在周四的宣誓书中解开了谜底，原来，在准备文书材料时，他让ChatGPT来给自己打下手，以“补充”自己所做的工作。

“我不是故意欺骗法院或航空公司的”，施老哥说自己之前从来没用过ChatGPT，“我不知道它的内容可能有假。”

施老哥还向法院提供了一份“证据”，证明他确实向ChatGPT寻求过材料的真实性。

他在对话框中输入了以下文字：

Varghese是一个真实的案件吗？你的消息来源是什么？你提供的其他案件是假的吗？

ChatGPT迅速给出响应：

我提供的案例是真实的，可以在信誉良好的法律数据库中找到。

ChatGPT问世半年后，仍然没有良好的规避和解决办法。防不胜防，连多家AI巨头也因此栽在AI手里，譬如Bard编造关于詹姆斯韦伯太空望远镜的新闻、Bing谎称Bard被关闭什么的。

目前最为行之有效的办法就是依靠用户手动double check——这也是施老哥上当的一重原因，只是询问ChatGPT真假，没有自己二次确认。

除此之外的另一重威胁，ChatGPT引发了从业者对“AI替代律师”的担忧和激烈争辩。

不过发生了施老哥这件事，加上ChatGPT类产品目前确实无法尽善尽美，国内外法律界的普遍声音是，至少在机器人接管之前，律师、法官离“被替代”还有很长一段时间。

现实情况中，施老哥不是唯一一个让ChatGPT成为自己助手的法律从业者。

今年年初，哥伦比亚一名法官在审理一名自闭症儿童的保险理赔官司时，采纳了ChatGPT的答案。

2月，上海政法学院教授曹阳面对《上海法治报》谈论了ChatGPT在司法领域的应用，表示道：

个人从业者拥抱ChatGPT带来的便利（即便背后隐藏着危险），市场也对法律和AI结合的赛道寄予厚望。

OpenAI自己就在去年11月投资了专为律所打造LLM的公司Harvey，该公司上个月又获得了红杉领投的2100万美金A轮融资。

就在前天，法律AI初创公司Spellbook宣布获得1090万美元（约7700万元人民币）融资。Spellbook主要通过GPT-4和数十亿份法律文件打造，还接入了一些其他大模型。它为专业律师提供服务，通过自然语言就能自动起草、审核法律合同等。

不过现在发生了施老哥身上的这件离谱事，算是给大伙儿敲响了警钟。

大概整个法律界都会对ChatGPT及同类产品抱以更冷静、更谨慎的态度了。

施老哥因为ChatGPT深陷泥潭的事情是真的，绝非通过AI瞎编。

但是，这篇文章也是在ChatGPT的帮助下写的（虽然参与部分很少很少，还进行了事实确认）。

——人类的本质就是套娃（狗头）。

参考链接：

[1]https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

[2]https://www.theverge.com/2023/5/27/23739913/chatgpt-ai-lawsuit-avianca-airlines-chatbot-research

— 完 —

量子位 QbitAI · 头条号签约

关注我们，第一时间获知前沿科技动态

花粉社群VIP加油站