Làm việc với các cửa sổ bối cảnh ngắn
Một cửa sổ bối cảnh của 1 hay 2 triệu tokens dường như là đủ cho hầu hết bất cứ nhiệm vụ nào chúng ta
có thể tưởng tượng. Với các models đa thể thức, bạn có thể chính hỏi các câu hỏi model về 1, 2 hay
nhiều PDFs, ảnh hay thậm chí videos. Để xử lí nhiều tài liệu (cho tóm tắt hay trả lời câu hỏi), bạn
có thể sử dụng cái được biết đến như là cách tiếp cận vật. Cách tiếp cận này là theo đường thẳng:
sử dụng các mẫu prompt để kết hợp tất cả các đầu vào thành một prompt đơn. Sau đó, gửi prompt cô đặc
này tới một LLM. Cái này làm việc tôt khi nội dung kết hợp khớp cửa sổ bối cảnh model của bạn. Trong
các học phần tiếp theo, chúng ta sẽ thảo luận các cách thức xa hơn sử dụng dữ liệu bên ngoài để cải
thiện các trả lời của model.
Giữ trong đầu rằng điển hình thì các PDFs được đối xử như các ảnh bởi một LLM đa thể thức.