构建法律 AI 聊天机器人：使用 bigscience/T0pp LLM、开源 NLP 模型、Streamlit、PyTorch 和 Hugging Face Transformers 的分步指南

在本教程中，我们将使用开源工具构建一个高效的法律 AI 聊天机器人。它提供了使用bigscience/T0pp LLM、Hugging Face Transformers 和 PyTorch 创建聊天机器人的分步指南。我们将指导您设置模型、使用 PyTorch 优化性能，并确保高效且易于访问的 AI 法律助理。

from transformers import AutoModelForSeq2SeqLM, AutoTokenizer


model_name = "bigscience/T0pp"  # Open-source and available
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSeq2SeqLM.from_pretrained(model_name)

首先，我们使用 Hugging Face Transformers 加载开源 LLM bigscience/T0pp。它初始化用于文本预处理的标记器并加载 AutoModelForSeq2SeqLM，使模型能够执行文本生成任务，例如回答法律查询。

import spacy
import re


nlp = spacy.load("en_core_web_sm")


def preprocess_legal_text(text):
    text = text.lower()
    text = re.sub(r'\s+', ' ', text)  # Remove extra spaces
    text = re.sub(r'[^a-zA-Z0-9\s]', '', text)  # Remove special characters
    doc = nlp(text)
    tokens = [token.lemma_ for token in doc if not token.is_stop]  # Lemmatization
    return " ".join(tokens)


sample_text = "The contract is valid for 5 years, terminating on December 31, 2025."
print(preprocess_legal_text(sample_text))

然后，我们使用 spaCy 和正则表达式对法律文本进行预处理，以确保 NLP 任务的输入更干净、更结构化。它首先将文本转换为小写，使用正则表达式删除多余的空格和特殊字符，然后使用 spaCy 的 NLP 管道对文本进行标记和词形还原。此外，它还会过滤掉停用词，只保留有意义的术语，使其成为 AI 应用程序中法律文本处理的理想选择。清理后的文本对于机器学习和 bigscience/T0pp 等语言模型来说更有效，从而提高了法律聊天机器人响应的准确性。

def extract_legal_entities(text):
    doc = nlp(text)
    entities = [(ent.text, ent.label_) for ent in doc.ents]
    return entities


sample_text = "Apple Inc. signed a contract with Microsoft on June 15, 2023."
print(extract_legal_entities(sample_text))

在这里，我们使用 spaCy 的命名实体识别 (NER) 功能从文本中提取法律实体。该函数使用 spaCy 的 NLP 模型处理输入文本，识别和提取关键实体，例如组织、日期和法律术语。它返回一个元组列表，每个元组包含已识别的实体及其类别（例如组织、日期或法律相关术语）。

import faiss
import numpy as np
import torch
from transformers import AutoModel, AutoTokenizer


embedding_model = AutoModel.from_pretrained("sentence-transformers/all-MiniLM-L6-v2")
embedding_tokenizer = AutoTokenizer.from_pretrained("sentence-transformers/all-MiniLM-L6-v2")


def embed_text(text):
    inputs = embedding_tokenizer(text, return_tensors="pt", padding=True, truncation=True)
    with torch.no_grad():
        output = embedding_model(**inputs)
    embedding = output.last_hidden_state.mean(dim=1).squeeze().cpu().numpy()  # Ensure 1D vector
    return embedding


legal_docs = [
    "A contract is legally binding if signed by both parties.",
    "An NDA prevents disclosure of confidential information.",
    "A non-compete agreement prohibits working for a competitor."
]


doc_embeddings = np.array([embed_text(doc) for doc in legal_docs])


print("Embeddings Shape:", doc_embeddings.shape)  # Should be (num_samples, embedding_dim)


index = faiss.IndexFlatL2(doc_embeddings.shape[1])  # Dimension should match embedding size
index.add(doc_embeddings)


query = "What happens if I break an NDA?"
query_embedding = embed_text(query).reshape(1, -1)  # Reshape for FAISS
_, retrieved_indices = index.search(query_embedding, 1)


print(f"Best matching legal text: {legal_docs[retrieved_indices[0][0]]}")

使用上述代码，我们利用 FAISS 构建了一个法律文档检索系统，以实现高效的语义搜索。它首先从 Hugging Face 加载 MiniLM 嵌入模型，以生成文本的数字表示。embed_text 函数通过使用 MiniLM 计算上下文嵌入来处理法律文档和查询。这些嵌入存储在 FAISS 向量索引中，从而实现快速的相似性搜索。

def legal_chatbot(query):
    inputs = tokenizer(query, return_tensors="pt", padding=True, truncation=True)
    output = model.generate(**inputs, max_length=100)
    return tokenizer.decode(output[0], skip_special_tokens=True)


query = "What happens if I break an NDA?"
print(legal_chatbot(query))

最后，我们将法律 AI 聊天机器人定义为使用预先训练的语言模型生成对法律查询的响应。legal_chatbot 函数接收用户查询，使用标记器对其进行处理，然后使用模型生成响应。然后将响应解码为可读文本，删除任何特殊标记。当输入“如果我违反保密协议会怎样？”之类的查询时，聊天机器人会提供相关的 AI 生成的法律响应。

总之，通过整合 bigscience/T0pp LLM、Hugging Face Transformers 和 PyTorch，我们展示了如何使用开源资源构建强大且可扩展的法律 AI 聊天机器人。该项目为创建可靠的 AI 驱动的法律工具奠定了坚实的基础，使法律援助更加便捷和自动化。

作者：Asif Razzaq
原文：https://www.marktechpost.com/2025/02/23/building-a-legal-ai-chatbot-a-step-by-step-guide-using-bigscience-t0pp-llm-open-source-nlp-models-streamlit-pytorch-and-hugging-face-transformers/