Các fallbacks
Trong phát triển phần mềm, một fallback là một chương trình thay thế cái cho phép bạn phục hồi nếu một
cái cơ sở bạn thất bại. LangChain cho phép bạn định nghĩa các fallbacks trên một mức Runnable. Nếu thực
thi thất bại, một xích thay thế được châm ngòi với cùng các tham số đầu vào. Ví dụ, nếu LLM bạn đang
sử dụng là không có sẵn trong một thời gian ngắn, xích của bạn sẽ tự động chuyển sang một cái khác cái
sử dụng một nhà cung cấp thay thế (và có thể là các prompts khác).
Một khi model giả thất bại mọi mỗi giây, thì hãy thêm một fallback vào nó. Nó chính là một lambda cái
in ra một phát biểu. Như chúng ta có thể thấy, mọi mỗi giây, fallback được thực thi:
from langchain_core.runnables import RunnableLambda
chain_fallback = RunnableLambda(lambda _: print(“running fallback”))
chain = fake_llm | RunnableLambda(lambda _: print(“running main chain”))
chain_with_fb = chain.with_fallbacks([chain_fallback])
chain_with_fb.invoke(“test”)
chain_with_fb.invoke(“test”)
>> running fallback
running main chain
Khởi tạo các kết quả phức tạp cái có thể đi theo một mẫu nhất định và có thể được xử lí tin cậy được gọi
là khởi tạo có cấu trúc (hay khởi tạo có kiểm soát). Cái này có thể giúp xây dựng các dòng làm việc phức
tạp hơn, nơi một đầu ra của bước điều hướng bởi LLM có thể được tiêu thụ bởi bước theo chương trình khác.
Chúng ta sẽ nhặt cái này lên một lần nữa chi tiết hơn trong các học phần sau.
Các prompts cái bạn gửi tới một LLM là một trong những khối xây dựng quan trọng nhất của các dòng làm
việc của bạn. Vì vậy, hãy thảo luận một vài cơ bản của prompt engineering tiếp theo và xem làm cách nào
tổ chức các prompts của bạn với LangChain.