Tạo một chatbot với OpenAI (tiếp tục)
Hàm trả về tới chúng ta trả lời của model
Tôi nghĩ nó là đáng tạo một dấu ngoặc đơn để giải thích theo nghĩa rộng tham số temperature làm việc như thế nào
trong một mô hình khởi tạo ngôn ngữ. Model xây dựng câu bằng cách định hình ra từ nào nó nên sử dụng, chọn nó
từ một danh sách các từ cái có một tỉ lệ phần trăm cơ hội xuất hiện.
Ví dụ, cho câu: My car is… model có thể trả về danh sách sau các từ:
Fast — 45%
Red — 32%
Old — 20%
Small — 3%
Với một giá trị bằng 0 cho temperature, model sẽ luôn trả về từ Fast. Nhưng khi chúng ta tăng giá trị temperature,
khả năng chọn từ khác từ danh sách tăng lên. Chúng ta phải cẩn thận, vì cái này không chỉ tăng nguyên gốc, nó thường
tăng trí tưởng tượng của model.
Bây giờ, hãy tạo một hàm mới. Hàm này sẽ tích hợp các phát biểu người dùng vào trao đổi trò chuyện, có nghĩa
nó sẽ chịu trách nhiệm cho duy trì bối cảnh và đảm bảo model nhận toàn bộ cuộc trao đổi trò chuyện.
def add_prompts_conversation(_):
#Get the value introduced by the user
prompt = client_prompt.value_input
client_prompt.value = ”
#Append to the context the User prompt.
context.append({‘role’:’user’, ‘content’:f”{prompt}”})
#Get the response.
response = continue_conversation(context)
#Add the response to the context.
context.append({‘role’:’assistant’, ‘content’:f”{response}”})
#Update the panels to show the conversation.
panels.append(pn.Row(‘User:’, pn.pane.Markdown(prompt, width=600)))
panels.append(
pn.Row(‘Assistant:’, pn.pane.Markdown(response, width=600)))
return pn.Column(*panels)
Hàm này chịu trách nhiệm cho thu thập nhập vào người dùng, tích hợp nó vào bối cảnh của cuộc trò chuyện, gọi model
và tích hợp trả lời của nó vào cuộc trò chuyện.
Đó là, nó chịu trách nhiệm cho quản lí bộ nhớ! Nó là đơn giản như thêm các cụm từ với định dạng đúng vào một danh
sách, nơi mỗi câu được hình thành bởi vai trò và cụm từ.