Langchain là gì (tiếp tục)
Một vài trường hợp cho langchain bao gồm:
+ LLMs được huấn luyện trên text không cấu trúc do người viết. Trong khi cái này làm việc tốt cho các tương tác
con người, nó có thể không làm việc tốt cho gửi text không định dạng tới một API. Các APIs thay vì dữ liệu cấu
trúc như JSON. Langchain có thể định dạng đầu vào và đầu ra trong các tương tác LLM.
+ Các LLMs là phi trạng thái. Chúng không nhớ bạn là ai và bạn đã nói gì cách dây một vài giây. Langchain cung
cấp hỗ trợ cho cả ghi nhớ dài hạn và ngắn hạn.
+ Các LLMs có thể là chậm. Langchain có thể tạo dòng các trả lời như chúng được khởi tạo, cung cấp thông tin
phản hồi nhanh tới người dùng.
+ Các LLMs có các ngày tháng cutoff kiến thức. Ví dụ, GPT 3.5 không có dữ liệu sau năm 2021. Và GPT-4o không
biết bất cứ thứ gì sau Oct 2023. Với Langchain, chúng ta có thể tạo và quản lí các AI agents cái đi online, tìm
kiếm cho thông tin, và sử dụng các công cụ để duyệt thông tin đó.
+ Chúng ta có thể móc nối nhiều LLMs cùng vói nhau. Ví dụ, chúng ta có thể khởi tạo một bài viết với Google’s
Gemini model và sau đó truyền text tới Midjourney để khởi tạo các ảnh cho bài viết đó.
+ Các LLMs thiếu truy cập tới các tài liệu tổ chức nội bộ. Chúng ta có thể sử dụng Retrieval-Augmented Generation
(RAG) để cung cấp bối cảnh thêm tới một model, cho phép nó tương tác với các người dùng dựa trên các quy tắc và
kiến thức của tổ chức. Langchain có một bộ công cụ cực tốt cho các hoạt động RAG.
Langchain tiêu chuẩn hóa các hoạt động như các thứ ở trên, làm nó dễ dàng để tráo đổi các bộ phận khi cần. Muốn
sử dụng một LLM khác vì nó là tốt hơn hay rẻ hơn? Muốn thay đổi CSDL vector để lưu giữ các nhứng RAG? Không vấn
đề, Langchain có cái bạn bao quát.
Langchain trừu tượng hóa và tiêu chuẩn hóa các mô hình phổ biến khi làm việc với các LLMs. Nhớ trong ngày cũ với
không tương thích trình duyệt? Sau đó Jquery xuất hiện. Cái này là cái Langchain nhằm làm cho tích hợp LLM.
Trong khi nó là có thể để tạo bất cứ app nào mà không có Langchain, nó đơn giản hóa quá trình tới một mức độ
cực tốt và là tốt hơn nhiều prompt thủ công.
Nếu bạn muốn đào sâu vào chủ đề, tôi khuyến nghị lắng nghe tới episode with Harrison Chase, the founder
of LangChain từ podcast Latent Space tuyệt với.