律师的小型模型：勒克西斯尼克斯蒸馏模型，用于创建助理人工智能

当法律研究公司Lexesnexis创建了自己的人工智能助手时，她想找出如何在不部署大型模型的情况下使用自己的经验的最佳方法。

该蛋白质试图帮助律师，合伙人和律师撰写法律文件，并确认他们在投诉和内裤中引用的一切都是准确的。尽管如此，Lexisnexis不希望通用法律助理AI；他们想建立一个研究公司工作流程并更自定义的人。

Lexnexis Legal and Professional的技术总监Jeff Riehl说，Lexisnexis看到了有机会从人类和先生带来大型语言（LLM）的力量（LLMS），并找到最佳的模型。

里尔说：“我们使用最佳模型，用于在多种方法中使用的特定选项。我们使用的模型可提供最佳响应时间的最佳结果。” “对于某些使用选项，这将是一种小语言模型，例如Mistral，或者我们进行蒸馏以提高生产力并降低成本。”

尽管LLM在为AI创建应用程序方面仍然很有价值，但一些组织转向使用小语言模型（SLM）或蒸馏LLMS成为同一模型的小版本。

蒸馏，LLM“教”较小模型已成为许多组织的流行方法。

小型型号通常最适合应用程序，例如聊天或简单代码，Lexisnexis想要用于Protégé。

这不是Lexisnexis第一次创建AI应用程序，甚至在2024年7月的法律研究中心Lexisnexis + AI启动之前。

里尔说：“过去，我们使用了很多AI，这与自然语言的处理更相关，一些深度学习和机器学习。” “这确实在2022年11月开始发射时发生了变化，因为在许多AI能力之前，就好像在幕后。

小型，微妙的模型和模型路由

Riehl说，LexisNexis在创建自己的AI平台时使用了大多数主要型号供应商的模型。 Lexisnexis + AI使用了Anpropic Claude模型，GPT OpenAI模型和Mistral模型。

这种多模式的方法有助于分解用户想要在平台上完成的所有任务。为此，Lexisnexis必须对其平台进行架构以在模型之间切换。

里尔说：“我们将打破在单独的组件中执行的任何任务，然后我们将确定支持此组件的最佳大型语言模型。一个例子我们将使用Mistral来评估输入用户的请求。”

对于蛋白质，该公司想要更快的响应和模型，更薄的法律使用。因此，这变成了Riehl所说的“薄”版本的模型，本质上是LLM或蒸馏型的重量版本。

他说：“您不需要GPT-4O来评估请求，因此我们将其用于更艰难的工作并切换模型。”

当用户询问特定情况的问题时，他是PIN的第一个模型是先生的微妙设置，以评估请求，然后确定该请求的目的和意图。

Right now, Lexisnexis is mainly relied on on the thin Mistral model, although Riehl said that she used the thin version of Claude “When it first came out; Today we do not use it in the product, but in other ways. ” Lexisnexis is also interested in using other Openai models, especially after the company has released new opportunities for reinforcements last year. LexisNexis正在评估OpenAI推理模型，包括其平台的O3。

Riehl补充说，他还可以研究Google Gemini型号的使用。

LexisNexis用自己的知识图支持其所有AI平台，以实现提取补充一代（RAG）的可能性，尤其是当Protégé以后可以帮助启动代理流程时。

法律AI

甚至在生成人工智能的出现之前，Lexisnexis都检查了将聊天式容性在法律行业中放置的能力。 2017年，该公司检查了将与Watson竞争的人工智能助理，而Prosgé的Prosegé的领先IBM位于Lexisnexis + AI平台上，该平台将Lexisnexis人工智能服务团结起来。

Protégé帮助律师事务所完成倾向于律师或合作伙伴的任务。这有助于根据公司的文件和数据编写法律简短的笔记和投诉，提供法律工作流程的进一步步骤，提供新的提示来阐明搜索，作证和检测的问题草案，申请中链接的链接以确保准确性，创建截止日期，当然，总结复杂的法律文件。

Ril说：“我们认为Protégé是个性化和代理机遇的第一步。” “考虑各种类型的律师：合并和收购，司法机构，房地产。根据您所执行的特定任务，它将继续变得越来越个性化。我们的愿景是，每个法律专家都会有一个个人助理，他们将帮助他们根据自己在做什么，而不是其他律师所做的工作。”

目前，Protege与其他法律研究和技术平台竞争。汤森·路透社为他的法律助理凯瑟尔（Cocounsel）建立了Openai的O1-Mini模型。哈维（Harvey）从包括Lexisnexis在内的投资者那里筹集了3亿美元，他还拥有人工智能的法律助理。

每天有关VB每日业务使用方案的见解

如果您想打动老板，VB每天都会覆盖您。我们为您提供有关公司对生成AI的影响的内部勺子，从监管转变到实际部署，因此您可以分享对最大投资盈利能力的了解。

阅读我们的保密政策

感谢您的订阅。在此处查看更多VB信息选票。

发生错误。