Các móc xích (tiếp tục)
Hãy xem làm cách nào thêm một móc xích vào backend code của chúng ta:
Bạn có thể chạm trán một vài ví dụ online cái sử dụng phương thức chain.call() thay vì chain.invoke(). Hãy
chú ý rằng .call() được xuống cấp và sẽ bị loại bỏ.
Tùy chọn verbose: true là tùy chọn. Nếu kích hoạt, nó sẽ cung cấp các chi tiết thêm về móc xích trong
backend console Thông tin này bao gồm:
+ Đầu vào và đầu ra cho mỗi bước của móc xích
+ Mỗi bước mất bao lâu
+ Biến tokenUsage
Điểm cuối cùng là quan trọng vì chúng ta trả tiền để sử dụng LLM’s API với các tokens. Trung bình thì, 100
từ đại khái là 130 tokens. Một công cụ hữu dụng cho quản lí các tokens là OpenAI Tokenizer. tokenUsage được
chia thành prompt đầu vào đã sử dụng bao nhiêu và trả lời thực đã sử dụng bao nhiêu:
Trong frontend code, chúng ta sẽ đơn giản thay thế text input với một select box để tạo điều kiện nhập dữ
liệu:
