刘铮律师：美国法律界试图规范ChatGPT应用

玄武真人

刘铮律师：美国法律界试图规范ChatGPT应用
瀚海星语  2023-06-24 09:17
The following article is from 睿盟Rimon Author 睿盟 Rimon

睿盟Rimon
.
美国睿盟律师事务所（Rimon）总部位于硅谷，通过遍布全球的办公室为企业、金融机构和个人提供跨行业的综合性法律服务。与传统律所相比，睿盟以其创新的商业模式在客户利益、律师付出和业务质量间取得了极佳的平衡。
↑↑↑ 点击蓝字，欢迎关注并转发
第239 期
编辑：王玫 8902

【编者按】自从OpenAI团队发布的聊天机器人ChatGPT于2022年底横空出世，各行各业都在讨论并开始试验其带来的革命性应用。ChatGPT能快速检索、生成文本文件，使它在法律界的应用不可小觑。一方面它可以有效地提高法律行业的效率和生产力，但另一方面最近的一些ChatGPT在法律界的应用却暴露了它的严重缺陷。校友刘铮律师（8708）是RIMON LAW在知识产权和商业诉讼部门的合伙人。她在这里给我们讲述美国法律界在ChatGPT应用上遇到的新挑战，和相应出台的规范限制。这样的人工智能和人类相遇相知，相爱相杀的故事才刚刚开始…　

ChatGPT作为Open AI的一个聊天机器人模型，可以快速汇编信息并执行从编写计算机程序到商业推销的任务。它的一个核心特征是能够与用户进行类似人类的对话。自从ChatGPT出现，全世界法律界有很多想象、考量和试验其应用。法律界普遍认为它能提高一些律师的的生产力，但其基础技术也存在大规模风险。
高盛公司3月份发布的一份研究报告预测，44%的法律任务可以通过使用人工智能工具实现自动化，这可能对律师事务所的运作产生重大影响。华尔街的对冲基金（其中许多是大型律师事务所的客户）也表示，生成式人工智能（generative AI）正在加快通常由初级员工处理的平常任务。
不少法律科技公司开始用此工具作为其法律科技的一部分。最有影响力的是全球最大的法律信息公司律商联讯（LexisNexis）开始以其的强大的法律信息数据库为基础，提供人工智能工具。一些著名律所，如贝克-麦坚时（Baker McKenzie）、 里德-斯密斯（Reed Smith）、富理达（Foley & Lardner）已经开始对此工具开始试用。
今年2月，安理国际律师事务所（Allen & Overy）高调宣称自己是第一家将专门从事机器学习和数据分析的人工智能平台哈维（Harvey）纳入其全球业务的律师事务所。该公司在一份声明中说，大约3500名律师在试验期间向哈维提出了4万个与他们日常工作有关的问题。
ChatGPT 惹麻烦了

几天前，保守派谈话节目主持人马克-沃特（Mark Walters）状告ChatGPT的公司OpenAI，说ChatGPT编造了一个完全虚假的起诉书。事情是这样的：上个月AmmoLand 的编辑弗雷德-里尔（Fred Riehl）， 用ChatGPT对一个有名的诉讼进行研究，（华盛顿州的Second Amendment Foundation v. Robert Ferguson )，让ChatGPT总结此诉讼的事实。结果ChatGPT的回答说主持人沃特是Second Amendment Foundation的CFO和掌门人，并已经被控贪污和挪用公款。当里尔询问ChatGPT该"指控"是否有起诉书时，ChatGPT立即编造了一个不存在的起诉书。马克-沃特因此状告OpenAI, 说他们知道ChatGPT撒谎，而且当ChatGPT把这些假的信息发给里尔时，OpenAI便涉嫌发表了诽谤性的材料。
而火遍全网的新闻当属这个令人哭笑不得的事件：今年五月，纽约曼哈顿的一位联邦法官发现两位律师提交的一份简报中包括对六个不存在的案件的引用和编造的引文，因此这两位律师正面临可能的制裁。
史蒂文-施瓦茨（Steven Schwartz），是一位1992年以来纽约州执业的老牌律师，但是他被人工智能工具ChatGPT忽悠了。他问ChatGPT其提供内容是否真实， ChatGPT回答“是”，他便信以为真了。

施瓦茨在5月25日提交的宣誓书中承认生成式人工智能工具ChatGPT在对案件进行研究时生造了这六个案件。他说，他 “没有意识到其内容有可能是虚假的”。

据Law360报道，联邦法官凯文-卡斯特尔（Kevin Castel）在6月8日举行的听证会上，将施瓦茨和他的同事彼得-洛杜卡（Peter LoDuca）“尅”了两个小时，并且对这两位律师的失误原因和道歉态度表示质疑。卡斯特尔法官表示他很怀疑这只是一个低级错误：第一，诉讼对手在向法院提交的文件的指出了引用案子不真实的情况，说明证实内容的真实性并不难；第二；施瓦茨没有做常规的法案搜索；第三，洛杜卡在之前的询问中撒谎说自己在度假，拖延回答为施瓦茨争取时间来应对，而事实上洛杜卡对此案的参与度很低，对庭审的进程和对方的质疑完全不了解，在法官面前撒谎可不是小事。

看样子，这两位律师没好果子吃......我们等待卡斯特尔法官的命令…


刘铮律师点评：美国的诉讼案子中有一部分律师是做风险代理的，也就是说，客户不支付律师费，案子赢了之后律师分30%左右的赔款或者和解费。国内在美国做诉讼的客户有不少很喜欢这种方式。在美国，除了personal injury（身体受伤索赔）类案件，其他诉讼律师愿意这么做的不多。做风险代理的，尤其这类索赔案件的律师，绝大部分是认真负责的，但是这个商业模式会一定程度导致律师在工作中并不尽心尽力。历史上一些比较大的律师不负责任的案子，有不少是这种代理方式。从法律界对这件事的反应来看，很多业内人士都认为上述两位律师有偷懒懈怠之嫌，没有认真负责地工作。这个不是ChatGPT的问题，而是律师职业操守的问题。

那法官们对此怎么看呢？

今年一月哥伦比亚的加西亚法官（Juan Manuel Padilla Garcia）用ChatGPT帮助他撰写了一份文件，内容关于保险公司是否需要给一位自闭症儿童提供医疗费用。加西亚法官把他与ChatGPT的对话都包括在他的命令中（原文西班牙文）。今年五月，印度最高法院的Anoop Chitkara法官用ChatGPT帮助他决定不给予一位待审的暴力攻击杀人的罪犯保释，两位法官都发表申明，说ChatGPT不能取代法官，但是可以帮助法官的工作。
法官下令，律师必须证明AI使用的合规性

据彭博社消息，德克萨斯州北区联邦法院的布兰特利-D-斯塔尔（Brantley D. Starr）发布了一项长期命令，要求律师在法官面前申明所使用的法律文件（部分或全部）不是由生成式人工智能起草，或者人类检查了人工智能所起草的任何语言文字的准确性。
“这些平台在目前的状态下容易产生幻觉和偏见（hallucinations and bias），” 斯塔尔法官说。“在幻觉上，他们编造东西--甚至是引文和引证。”
斯塔尔法官对出庭律师的命令表明，法律界正在寻找方法来规范这项有望颠覆律师工作方式的技术。迈阿密大学法学院教授米歇尔-德斯特凡诺（Michele DeStefano）认为，德克萨斯州的命令是在律师事务所和律师开始探索在日常工作中使用该技术的方式时发布的。
“在接下来的几年里，我们将找出使用它的正确和错误的方法，”她说。
斯塔尔法官在他的命令中指出，“虽然律师们发誓要抛开他们的个人偏见、偏差和信仰，忠实地维护法律并代表他们的客户，但生成式人工智能是人类设计的程序的产物，他们不必发出这样的誓言。”也就是说，律师需要在法庭面前对自己的言语和行为负责，而ChatGPT不需要。
斯塔尔说：“任何一方认为平台具有法律简报所需的准确性和可靠性，都可以提出许可申请并解释原因。律师必须在备审簿上提交证明，证明该律师已经阅读了法院法官的具体要求，并理解他或她将根据规则第11条对其签署并提交给法院的任何文件的内容负责，否则，无论生成式人工智能是否起草了该文件的任何部分，法院将删除该律师的任何申请。”他没有详细说明促成这一常设命令的具体原因。职业行为规则已经包括关于律师能力和准确性的规定。
德斯特凡诺教授认为，尽管生成式人工智能工具有望帮助诉讼律师和公司律师成为更有说服力的写手和沟通者，但其影响力也带来了如何监管的重要问题。她说，律师本来就应该根据律师专业规则认真做他们的工作并证实他们的主张和文件中的内容的准确性，而不应该需要一个法官来告诉律师怎么做他的工作。
但是众所周知，若法官疏于管理，律师行为不规范的情形也经常出现。有些州的管理机构对律师行为管理乏力。如，最近加州的state bar (律师管理协会)就出现管理人员对臭名昭著的腐败律师汤姆-吉拉迪（Tom Girardi）的行为至少睁只眼闭只眼的现象。目前加州正在调查这些管理人员是否有腐化行为。所以法官开始监督律师使用人工智能工具的行为规范，也是在预料之中的。
另一位法官，美国国际商务法院（U.S. Court of International Trade）的斯苔芬-凡登（Stephen A. Vaden） 今天下令，律师必须说明自己是否使用生成式AI（generative AI） 工具，另外申明在使用过程中没有非法泄露保密信息。他指出诉讼中有很多保护人身和商业信息机密的规定，但是使用生成式AI 工具会很难保护这样的信息。虽然生成式 AI 工具的公司声称工具不保存信息，但是这些工具的自我学习功能决定了会从用户和工具的交流中学习到保密的信息，然后无法区分哪些交流里含有保密的信息。

今后，我们将继续报道法律界人士对此事的评论。







【作者简介】刘铮律师（8708）就读于中国科学技术大学生物系，毕业后获得俄亥俄州立大学的硕士和加州大学伯克利分校的法学博士。现在是RIMON LAW 知识产权和商业诉讼部门的合伙人。她经常代表中国大陆和台湾的科技公司，就与在中国境外开展业务相关的广泛法律问题提供咨询，特别是在知识产权、技术、商业纠纷、员工纠纷、白领犯罪和国际贸易方面有着丰富的经验。她拥有生物学和物理学的背景，有能力驾驭与不同行业的公司合作，包括电信、无人机、互联网、金融科技和生命科学。她代理过的中国大陆和台湾企业有宏碁、支付宝、华大基因、寒武纪、大疆、云顶制药、福昕、昆山国力、苏州旭创、南亚、OPPO、腾讯、优必选、小米、和小鹏汽车。刘律师是美国湾区华裔律师协会（CALOBA）的前任主席和董事会成员，该协会致力于协助华裔律师和法学专业学生的职业发展，以及帮助广大美国华人社区了解他们在美国的权利和责任。她经常就知识产权、诉讼、技术法和国际贸易等相关问题发表演讲和撰写文章。


推荐阅读

8万人在线的科大校友ChatGPT论坛（附论坛视频）
瀚海数据说 | 林达华: 试说AI相关的现代数学体系
瀚海数据说 | 成浩: 人工智能真的智能吗？
瀚海数据说 |  刘洪亮: 用机器智能解决网络安全问题：基于DNS的实践（上）
瀚海数据说 |  刘洪亮: 用机器智能解决网络安全问题：基于DNS的实践（下）
【科大瞬间】马斯克口无遮拦会惹到法律麻烦吗?
【科大瞬间】我在美国当诉讼律师
情系科大 | 吴卿乐: 科大少年班再回首



瀚海星语
《瀚海星语》公众号是由中国科学技术大学校友主办的非官方公益自媒体平台，是原《瀚海数据说》公众号的继续，包括“人文科大”、”情系科大”等专栏，旨在全方位展示科大校友的思想、学术、工作和生活。
207篇原创内容
公众号
欢迎留言、投稿和转发分享
转载请留言，投稿请电邮 hanhaistars@gmail.com
Read more
Reads 615
Share
Favorite
4
2

瀚海星语
207篇原创内容
Follow
Comment

KiwiBear

利益团体急了

yelleft

谣言好几个大所都在尝试用自己的案例和法律文档fine tune ChatGPT类似的模型，如果成功了，大批律所的小朋友要失业....
万一要成了，以后律所大概率就是合伙人出面忽悠，秘书+少量小朋友打杂的工作模式.
而普通人的普通法律咨询，估计问问chatgpt本身就能搞定了.

HolyHH

我们天天都用GPT4，最大的用处是翻译，写软文，广告，blog，GPT生成后人工review，可以节约一些时间。
但是做关系到成败的事情完全不行，查错，review，改结构的时间不如自己写了。
最关键的是，律师最花时间的一步getting instructions，GPT完全没有任何作用。