python远程调用 Ollama 部署到本地的 DeepSeek 模型 来进行连续对话
若是读取文件内容出来再进行提问,会导致deepseek回答的不够完美。有个解决不了的问题,如果是想对文件进行上传应该如何呢?
·
有个解决不了的问题,如果是想对文件进行上传应该如何呢?
若是读取文件内容出来再进行提问,会导致deepseek回答的不够完美。
import requests
import json
message_list = []
while True:
text = input("\n请输入: ")
user_dict = {"role": "user", "content": text}
message_list.append(user_dict)
# 发送请求,开启流式输出
res = requests.post(
url="http://远程ip:11434/api/chat",
json={
"model": "deepseek-r1:32b",
"messages": message_list,
"stream": True # 开启流式输出
},
stream=True # 设置流式响应
)
for chunk in res.iter_content(chunk_size=1024):
if chunk:
try:
data_dict = json.loads(chunk.decode('utf-8'))
if 'message' in data_dict and 'content' in data_dict['message']:
print(data_dict['message']['content'], end='')
except Exception as e:
print("Error parsing response:", e)
更多推荐
所有评论(0)