Các thử lại (tiếp tục)
ChatAnthropic có một tham số max_retries cái bạn có thể định nghĩa hoặc mỗi thực thể hoặc mỗi yêu cầu.
Một ví dụ tốt khác về một khối xây dựng nâng cao hơn là thử khôi phục từ một lỗi xử lí. Thử lại một
bước xử lí sẽ không giúp vì điển hình các lỗi xử lí là liên quan đến đầu ra LLM không hoàn chỉnh.
Cái gì xảy ra nếu chúng ta thử lại bước khởi tạo và hi vọng cho cái tốt nhất, hay thực sự cung cấp
cho LLM một gợi ý về cái gì bị sai? Đó chính xác là cái gì một RetryWithErrorOutputParser đang làm.
Để sử dụng RetryWithErrorOutputParser, chúng ta cần trước tiên khởi tạo nó với một LLM (sử dụng để
sửa đầu ra) và cái xử lí của chúng ta. Sau đó, nếu xử lí của chúng ta thất bại, chúng ta chạy nó và
cung cấp prompt ban đầu của chúng ta (với tất cả các tham số thay thế), trả lời được khởi tạo, và lỗi
xử lí:
from langchain.output_parsers import RetryWithErrorOutputParser
fix_parser = RetryWithErrorOutputParser.from_llm(llm=llm, # provide llm here
parser=parser, # your original parser that failed
prompt=retry_prompt, # an optional parameter, you can redefine thedefault prompt
)
fixed_output = fix_parser.parse_with_prompt(completion=original_response, prompt_value=original_prompt)