Cấu hình và tinh chỉnh các mô hình chat (tiếp tục)
Chú ý Truy vấn sau giả định truy cập tới lịch sử vị trí qua một GPS tool, cái model không có bản địa.
Đầu ra là giả thuyết.
Những cái duyệt đầu ra
Sử dụng những cái duyệt đầu ra để cấu trúc các trả lời cho các nhiệm vụ cuối dòng hay các định dạng cụ
thể, như JSON hay SQL.
from langchain.prompts import ChatPromptTemplate, HumanMessagePromptTemplate
from langchain_core.messages import SystemMessage
# Create a chat template with system and human messages
chat_template = ChatPromptTemplate.from_messages([
SystemMessage(content=’You respond only in the JSON format.’),
HumanMessagePromptTemplate.from_template(‘Top {n} countries in {area} by population.’)]
)
# Fill in the specific values for n and area
messages = chat_template.format_messages(n=’5′, area=’Asia’)
print(messages)
# Outputs the formatted chat messages
output = llm.invoke(messages)
print(output)
Đoạn code này minh họa sử dụng LangChain để tạo một mẫu prompt có cấu trúc với một kế hoạch trả lời,
chuẩn bị khởi tạo một trả lời đối với một câu hỏi trong khi buộc một định dạng đầu ra cụ thể.
Tinh chỉnh các Chat models trong LangChain
Như bây giờ, LangChain không xử lí tinh chỉnh model trực tiếp; nó hỗ trợ các dòng làm việc và tích
hợp cho các models được tinh chỉnh sử dụng các khung như Hugging Face hay API tinh chỉnh của OpenAI.