Cắt xén lịch sử chat (tiếp tục)
+ Tóm tắt các thông điệp dài vào một cái ngắn: Bạn cũng có thể tóm tắt các thông điệp dài. Cái này có thể
đặc biệt phù hợp cho các trường hợp sử dụng RAG, cái chúng ta sẽ thảo luận trong học phần tiếp theo,
khi đầu vào của bạn cho model có thể bao gồm nhiều bối cảnh thêm thêm vào đỉnh của đầu vào người dùng
thực sự.
+ Thực thi logic cắt xén của bản thân bạn: Cách thức khuyên dùng là thực thi token hóa của bản thân bạn
cái có thể được truyền tới một hàm trim_messages từ khi bạn có thể sử dụng lại nhiều logic cái hàm này
đã quan tâm cho.
Tất nhiên, vấn đề vẫn còn về làm cách nào bạn có thể duy trì lịch sử chat. Hãy thẩm định cái đó tiếp
theo.