人工智能在辩护材料中虚构过往案例，卑诗省一华裔律师中招，专家称这是一记警钟

（大中网/096.ca讯）加拿大通讯社（The Canadian Press）报道说，温哥华科技律师布莱克（Ryan Black）与视频游戏公司的合作使他有幸目睹了人工智能在该行业的兴起。

现在，他发现自己又站在了科技前沿，因为他自己的行业也在努力应对这项技术。

律师布莱克帮助卑诗省律师协会（LSBC）起草了关于使用人工智能的律师建议。他说："人工智能对游戏工作室的影响程度着实让人吃惊。"

他发现，生成式人工智能革命对人们的冲击非常大，人工智能已经可以根据用户提示创建段落和文章，人们现在必须真正关注这个问题了，这对很多人来说都是一件新鲜事。

他说："律师们对此了解不多，这并不让我感到惊讶。"

他注意到，像 ChatGPT 这样的生成式人工智能工具的兴起是 "法律实践的革命性变化"，但法律专家表示，卑诗省最高法院最近的一项裁决表明，律师必须谨慎和怀疑地使用这项技术。

在2月20日公布的一项与儿童监护权案件有关的财产分割裁决中，温哥华柯律师（Chong Ke）被揭露使用 ChatGPT 准备辩护材料。

这些材料包括引用过往不存在的案例，她的对手称这是人工智能"虚构"案例。

柯律师告诉法庭，当她发现引用了不实案例后"羞愧万分"，她迅速通知了律师协会，并承认不了解使用人工智能起草法庭材料的"风险"。

柯律师在一份宣誓书中说："我现在意识到了依赖人工智能生成材料的危险性。我知道这个问题在其他司法辖区也出现过，而且律师协会在最近几个月发布了一些材料，提醒卑诗省的律师注意这些危险。"

柯律师已向法庭和她的律师同事道歉。

她的律师同事福斯特龙（John Forstrom）在一封电子邮件中表示，此案中律师的遭遇引起了公众的极大兴趣，但案件的本身却没有人关心。

他说："我不确定此案对在法庭诉讼中使用生成式人工智能是否有重大影响。"

"柯律师在本案中使用人工智能是一个公认的错误。在法律工作中是否或如何适当地使用人工智能的问题并没有出现。"

律师协会发言人谭律师（Christine Tam）在一封电子邮件中说，律师协会目前正在调查柯律师的行为。

谭律师解释说："在认识到使用人工智能提供法律服务的潜在好处的同时，律师协会也向律师们发布了关于适当使用人工智能的指导意见，并希望律师们在依赖人工智能为客户提供服务时，能够遵守合格律师应有的行为标准。"

律师协会于2023年底发布的指南敦促律师寻求使用该技术的培训，并注意数据安全的保密问题、抄袭和版权问题，以及该技术产生的材料中可能存在的偏颇。

加拿大其他省份和地区的法律协会和法院也制定了关于使用人工智能的指南。例如，育空地区最高法院在2023年6月的一份实践指南中指出，如果任何律师在任何事项中以任何形式依赖人工智能进行法律研究或提交材料，他们必须告知法院。

对于DLA Piper律师事务所的布莱克律师来说，人工智能的使用引起很多焦虑，担心有同行业律师依赖这样的工具来完成繁重的工作。

布莱克律师表示，伸张正义需要“人类同行”的公正判断，能够评估并做出具有法律约束力的重要决定。

对于人工智能，他遇到的律师和法官 “有的完全信赖，有的完全反感，有的不置可否”。

他对技术的发展速度印象深刻，但对于现在和未来的律师来说，需要对生成的任何材料保持谨慎和怀疑的态度。

布莱克在反思柯律师案和其他类似案件时说，像ChatGPT这样的工具是非常好的自动更正工具，在将文本与其他文本联系起来方面做得非常出色，但技术本身不了解世界，不了解现实。

卑诗大学（UBC）法学教授托马斯恩（Kristen Thomasen）在接受采访时说，卑诗省最高法院的案例不仅表明了技术的局限性，也表明律师和其他专业人士需要对他们使用的技术持批判态度。

尽管人工智能被炒的火热，托马斯恩教授建议对技术的优缺点进行评估。

她表示，在司法和执法等“高风险”职业中，不能将需要人工操作的工作委托给计算机系统，因为在这些职业中，应该谨慎对待和使用可能存在问题的新技术。

她还解释，这种技术被描述为对人类生存的威胁，或者被认为是“电脑中的幽灵”，这并不可怕，它们只是根据从互联网上获取的数据进行计算得到的结果。

她说：“当我们看到它是如何发展的，当我们更好地了解这项技术是什么样子的时候，不断制定更完善、更详细的准则或规则才是有意义的。”

柯律师所涉案件的法官表示，如果有其他材料采用了像 ChatGPT 这样的人工智能技术，涉事律师应该“谨慎”地告诉法庭和对方律师。

法官苏哈拉（David Masuhara）在其裁决中写道：“不幸的是，本案表明，生成式人工智能仍然无法替代司法系统对律师要求的专业知识。选择和使用任何技术，包括由人工智能驱动的工具，最终的决定权是在人。”

布莱克律师认为，人工智能技术不会消失，由于其发展的惊人速度，现在制定的任何规则都可能需要改变。

他说：“我们未来的世界肯定会被人工智能所包围。在我看来，这种影响是不会消失的。”