开发者社区 > ModelScope模型即服务 > 正文

基于modelscope_agent 创建的agent,如果通过api接口调用

使用modelscope_agent 部署的服务,如果通过api接口进行问答,为了让别的系统可以调用

展开
收起
游客fudmiygv7ahj2 2024-03-04 10:29:47 129 0
1 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    为了让其他系统可以通过API接口调用使用modelscope_agent部署的服务进行问答,你需要创建一个API服务器。以下是一个简单的示例,使用Python的Flask库创建一个简单的API服务器:

    1. 首先,确保你已经安装了Flask库。如果没有,可以使用以下命令安装:
    pip install flask
    
    1. 创建一个名为app.py的文件,并添加以下代码:
    from flask import Flask, request, jsonify
    import modelscope_agent
    
    app = Flask(__name__)
    
    @app.route('/ask', methods=['POST'])
    def ask():
        question = request.json.get('question')
        answer = modelscope_agent.answer(question)
        return jsonify({'answer': answer})
    
    if __name__ == '__main__':
        app.run(debug=True)
    

    这个示例中,我们创建了一个名为ask的API端点,它接受一个POST请求,其中包含一个问题。然后,它使用modelscope_agent生成答案,并将答案作为JSON响应返回。

    1. 运行app.py文件以启动API服务器:
    python app.py
    
    1. 现在,其他系统可以通过发送POST请求到http://localhost:5000/ask来调用你的API。请求体应该包含一个名为question的字段,其值为要提问的问题。例如,使用Python的requests库发送请求:
    import requests
    
    url = 'http://localhost:5000/ask'
    data = {'question': '你的问题'}
    response = requests.post(url, json=data)
    print(response.json()['answer'])
    

    这样,其他系统就可以通过API接口调用使用modelscope_agent部署的服务进行问答了。

    2024-03-04 15:49:52
    赞同 1 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
Spring Boot2.0实战Redis分布式缓存 立即下载
CUDA MATH API 立即下载
API PLAYBOOK 立即下载