开发者社区> 问答> 正文

通过文档上传接口上传了文件,并且拿到了文件 id,如何在大模型推理 api 里面使用这个文档 id?

通过文档上传接口上传了文件,并且拿到了文件 id,如何在大模型推理 api 里面使用这个文档 id?请提供一个调用示例

展开
收起
河水流流 2024-08-09 09:51:17 57 0
1 条回答
写回答
取消 提交回答
  • 要使用已上传文件的文档ID在大模型推理API中,您可以参考以下Python示例代码,这里以OpenAI SDK的调用方式进行说明: python from pathlib import Path from openai import OpenAI # 替换以下变量为您自己的设置 api_key = "$your-dashscope-api-key" # 您的DashScope API密钥 file_id = "your-file-id" # 您通过文档上传接口获得的文件ID client = OpenAI( api_key=api_key, base_url="https://dashscope.aliyuncs.com/compatible-mode/v1" ) # 使用文件ID进行大模型推理 completion = client.chat.completions.create( model="qwen-long", # 或其他适用的模型名称 messages=[ {"role": "system", "content": "You are a helpful assistant."}, {"role": "system", "content": f"fileid://{file_id}"}, {"role": "user", "content": "请根据此文档回答我的问题。"} ] ) # 输出或进一步处理模型的回复 print(completion.choices[0].message.content) 这段代码展示了如何创建一个OpenAI客户端,使用之前上传的文件ID进行大模型的对话推理。
    请确保替换api_keyfile_id变量为实际值,并根据需求选择合适的模型名称。
    参考链接:https://help.aliyun.com/zh/model-studio/developer-reference/qwen-long-quick-start

    2024-08-09 21:14:02
    赞同 4 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Spring Boot2.0实战Redis分布式缓存 立即下载
CUDA MATH API 立即下载
API PLAYBOOK 立即下载