RAG và các CSDL vector (tiếp tục)
+ Xây dựng prompt: Một prompt được xây dựng sử dụng thông tin phù hợp và câu hỏi của người dùng. Prompt này được
thiết kế để trao đổi thông tin hiệu quả về bối cảnh của truy vấn người dùng tới mô hình ngôn ngữ. Theo cách này,
không chỉ model được cung cấp với thông tin để xây dựng trả lời của nó, mà các mơ hồ cũng được giảm xuống vì model
không phải sáng tạo thông tin nó không biết.
+ Gọi model: Prompt được truyền tới mô hình ngôn ngữ. Model sử dụng bối cảnh cung cấp trong prompt để tạo sinh
một trả lời.
+ Trả lời từ model: Trả lời của model được trình bày tới người dùng. Nếu hệ thống RAG được xây dựng đúng đắn,
trả lời này nên là phù hợp và có nền móng trong thông tin giành được từ cơ sở kiến thức.
Nó đơn giản như thế! Bây giờ chúng ta chỉ cần khám phá nơi nào các CSDL vector vừa vặn quá trình này và tại sao.
Trong tất cả các bước đề cập trên, một cái là quan trọng và nhạy cảm bậc nhất: tìm kiếm cho thông tin phù hợp để
trả lời câu hỏi người dùng. Đây là nơi các CSDL vector đi vào vai trò, trợ giúp trong chọn thông tin nào từ CSDL
là phù hợp với cái gì người dùng hỏi.
