Tính nhất quán tự thân
Ý tưởng đằng sau tính nhất quán tự thân là đơn giản: hãy tăng một LLM’s temperature, tạo mẫu trả lời
nhiều lần, và sau đó lấy câu trả lời xuất hiện nhiều nhất từ phân tán. Cái này đã được minh chứng
để cải thiện hiệu suất của các dòng làm việc dựa trên LLM trên các nhiệm vụ nhất định, và nó làm
việc đặc biệt tốt trên các nhiệm vụ như phân loại hay rút thực thể, nơi mà số chiều của đầu ra thấp.
Háy sử dụng một xích từ một ví dụ trước và thử một phương trình bậc hai. Thậm chi với CoT prompting,
thử đầu tiên có thể cung cấp cho chúng ta một trả lời sai, nhưng nếu chúng ta tạo mẫu từ một phân
tán, chúng ta sẽ có khả năng hơn nhận một cái đúng:
generations = []
for _ in range(20):
generations.append(final_chain.invoke({“question”: “Solve equation
2*x**2-96*x+1152”}, temperature=2.0).strip())
from collections import Counter
print(Counter(generations).most_common(1)[0][0])
>> x = 24