LangChain Expression Language (LCEL) (phần 2)

LangChain Expression Language (LCEL) (tiếp tục)

Ban đầu thì, LangChain thực thi mô hình này qua các classes Chain cụ thể như LLMChain và ConversationChain.
Trong khi các classes di sản này vẫn tồn tại, chúng đã bị ít sử dụng để ủng hộ cách tiếp cận LCEL mạnh
mẽ và linh động, cái được xây dựng trên giao diện Runnable.
Giao diện Runnable là đá tảng của LangChain hiện đại. Một Runnable là bất cứ bộ phận nào cái có thể
xử lí các đầu vào và sinh ra các đầu ra theo một cách thức tiêu chuẩn. Mọi bộ phận xây dựng với LCEL
tuân thủ giao diện này, cái cung cấp các phương thức ổn định bao gồm:
+ invoke(): Xử lí một đầu vào đồng bộ và trả về một đầu ra
+ stream(): Tạo dòng đầu ra khi nó đang được khởi tạo
+ batch(): Xử lí hiệu quả nhiều đầu vào song song
+ ainvoke(), abatch(), astream(): Các phiên bản không đồng bộ của các phương thức trên
Tiêu chuẩn hóa này có nghĩa bất cứ bộ phận Runnable nào – bất kể nó là một LLM, một mẫu prompt, một cái
giành tài liệu hay một hàm tùy chỉnh – có thể được kết nối tới bất cứ Runnable khác, tạo một hệ thống
kết hợp mạnh mẽ.
Mọi Runnable thực thi một tập ổn định các phương thức bao gồm:
+ invoke(): Xử lí một đầu vào đơn đồng bộ và trả về một đầu ra.
+ stream(): Tạo dòng đầu ra khi nó đang được khởi tạo.

Chia sẻ