Các dạng móc xích LangChain (phần 6)

Định tuyến đa prompt (tiếp tục)

Các bước sử dụng trong ví dụ ở trên:
+ Định nghĩa mẫu: Code bắt đầu bằng cách định nghĩa 2 mẫu: beginner_template và expert_template. Các mẫu này là các
strings cái sẽ được sử dụng để định dạng các câu hỏi cho các mức khác nhau của chuyên gia.
+ Thông tin prompt: Một list gọi là prompt_infos được tạo, chứa các dictionaries với thông tin về các dạng khác nhau
của prompts. Mỗi dictionary bao gồm một tên, mô tả và mẫu tương ứng để sử dụng.
+ Tạo các xích đích đến: Code sau đó lặp qua prompt_infos list để tạo một dictionary của các xích đích đến. Mỗi xích
liên quan đến một dạng prompt cụ thể (e.g, “advanced physics” hay “beginner physics”). Các xích này sử dụng LLMChain
class, cái chứa một mô hình ngôn ngữ (LLM) với một mẫu prompt.
+ Xích mặc định: Một xích mặc định được tạo sử dụng một mẫu đơn giản cái chính truyền đầu vào trực tiếp. Cái này sẽ
được sử dụng nếu không xích đích đến cụ thể nào khớp đầu vào.
+ Các đích định dạng: Code tạo một string được định dạng của đích đến bằng cách kết hợp tên và mô tả của mỗi thông
tin prompt.
+ Thiết lập router: Một mẫu router được tạo sử dụng MULTI_PROMPT_ROUTER_TEMPLATE được định nghĩa trước và các
đích đến được định dạng. Mẫu này được sử dụng để tạo một router prompt, cái sẽ giúp quyết định xích đích
đến nào sẽ sử dụng cho một đầu vào đã cho.
+ Tạo Router Chain: Một LLMRouterChain được tạo sử dụng mô hình ngôn ngữ và router prompt. Xích này sẽ chịu trách
nhiệm cho định tuyến các đầu vào tới xích đích đến phù hợp.
+ Multi-prompt Chain: Cuối cùng, một MultiPromptChain được tạo, kết hợp router chain, các xích đích đến, và xích
mặc định. Thiết lập này cho phép hệ thống định tuyến các câu hỏi tới xích phù hợp nhất dựa trên đầu vào.

Chia sẻ