Xích tư duy
Đội ngũ Google Research giới thiệu kĩ thuật xích tư duy (CoT) đầu năm 2022. Họ minh họa rằng một điều
chỉnh đơn giản tương đối vào một prompt cái khuyến khích một model khởi tạo các bước luận lí từng
bước một trung gian gia tăng đáng kể hiệu suất của LLM trên luận lí biểu tượng phức tạp, ý nghĩa
chung và các nhiệm vụ toán học. Một gia tăng như vậy trong hiệu suất đâ lặp lại nhiều lần từ đó.
Bạn có thể đọc bài viết gốc giới thiệu CoT, Chain-of-Thought Prompting Elicits Reasoning in Large
Language Models, xuất bản bởi Jason Wei và cộng sự https://arxiv.org/abs/2201.11903
Có các điều chỉnh khác nhau của CoT prompting, và vì nó có các đầu ra dài, điển hình thì, các
CoT prompts là zero-shot. Bạn thêm các lệnh cái khuyến khích một LLM nghĩ về vấn đề trước tiên thay
vì khởi tạo trung gian các tokens trình bày trả lời. Một ví dụ rất đơn giản về CoT chính là thêm
vào mẫu prompt của bạn thứ gì đó như “Let’s think step by step.” Có các CoT prompts khác nhau báo
cáo trong các bài viêt khác nhau. Bạn cũng có thể khám phá mẫu CoT có sẵn trên LangSmith. Cho mục
đích học của chúng ta, hãy sử dụng một CoT prompt với các ví dụ few-shot:
from langchain import hub
math_cot_prompt = hub.pull(“arietem/math_cot”)
cot_chain = math_cot_prompt | llm | StrOutputParser()
print(cot_chain.invoke(“Solve equation 2*x+5=15”))
>> Answer: Let’s think step by step
Subtract 5 from both sides:
2x + 5 – 5 = 15 – 5
2x = 10
Divide both sides by 2:
2x / 2 = 10 / 2
x = 5