Cơ sở dữ liệu Vector và LLMs (phần 15)

Các đem đi then chốt

Bây giờ bạn đã biết hoạt động chung của một hệ thống Retrieval Augmented Generation. Chìa khóa là sử dụng text được
chọn liên quan đến câu hỏi và xây dựng một prompt được hỗ trợ với thông tin và yêu cầu người dùng. Theo cách này,
model có thông tin cần thiết để xây dựng một trả lời đúng đắn.
Để chọn text để sử dụng làm phong phú prompt, một CSDL vector hóa được sử dụng, làm có thể một tìm kiếm dựa trên
tương tự vector. Cái này đảm bảo rằng model có thông tin phù hợp với cái gì nó cần để trả lời.
Trong phần tiếp theo, bạn sẽ tạo một hệ thống Retrieval Augmented Generation sử dụng CSDL Chroma và model mã nguồn
mở từ Hugging Face.

Chia sẻ