前言
内容纯属个人经验，若有不当或错误之处，还请见谅，欢迎指出。
文中大致介绍了，如何快捷地使用PaddleHub服务化部署一个简单的AI模型，并简单包装成一个Web应用的过程。
主要工具：
- Flask（python的Web框架）
- PaddleHub（飞桨的预训练模型库）
1. 效果展示
2. 应用设计
总体思路如下：
使用PaddleHub部署对分词模型lac进行服务化部署
用Flask框架构建app
app从前端获取请求，将请求转发给lac服务，将得到的响应再显示到前端
使用了jinja2模板引擎（没有做前后端全分离，一是简陋的应用没必要，二是我还不会，哈哈）
3. 实现
3.1. lac分词模型的服务化部署
1、什么是服务化部署？
“部署”这个词我见到过很多次了，但总对它的意思有些模糊。有时，将一个AI模型训练好后，保存为本地文件，然后我们就可以在python脚本中加载模型以及使用模型进行预测，这样的过程也称为“部署”。
服务化部署，就是将模型部署为一个“Web服务”。这样部署的效果就是，你只需要对相应的端口发送合适的请求，就可以得到模型的预测结果，即响应。而使用该模型不再需要各种各样的环境依赖（部署的模型本身仍然是运行在其依赖的环境中的）。
感觉说得还是有点迷糊，先就这样叭。
2、lac分词模型的部署方法
lac是PaddleHub模型仓库中的一个“预训练模型”，即已经训练好的模型，部署非常简单（在此之前你需要在python环境中安装好PaddleHub的库，具体安装方法不再赘述，可自行去github上查看相应的文档：PaddleHub），只需要两步：
- 下载lac模型
- 一行命令部署
运行下面两行代码时，就会自动下载lac模型（通常会下载到C盘用户目录的.paddlehub文件夹中，通常还有一个README.md文件，里面是模型的介绍以及使用教程）
import paddlehub as hub lac = hub.Module(name="lac")
用下面的代码对模型进行测试：
import paddlehub as hub lac = hub.Module(name="lac") test_text = ["今天是个好天气。"] results = lac.cut(text=test_text, use_gpu=False, batch_size=1, return_tag=True) print(results) #{'word': ['今天', '是', '个', '好天气', '。'], 'tag': ['TIME', 'v', 'q', 'n', 'w']}
然后命令行启动服务完成部署（不执行上面的代码，直接运行命令，也可以自动下载模型），
hub serving start -m lac
启动成功时的终端输出：
* Running on all addresses (0.0.0.0) * Running on http://127.0.0.1:8866 * Running on http://192.168.43.166:8866 INFO 2023-03-17 00:12:29,487 _internal.py:224] Press CTRL+C to quit
3.2 使用Flask构建app
1、目录结构
- templates - index.html - app.py - forms.py
注：templates这个文件夹是固定的，与flask框架的render_template搭配使用，html文件都放里面，不然找不到。
2、forms.py
定义了一个表单类TextForm，之后就从网页的表单中输入待分析的文本，将数据传到后端。
from flask_wtf import FlaskForm from wtforms import StringField from wtforms.validators import DataRequired class TextForm(FlaskForm): text = StringField('待分析的文本', validators=[DataRequired(message="不能为空")])
3、app.py
该脚本也会启动一个Web服务，直接在浏览器输入链接http://127.0.0.1:5000即可访问，其中5000由app.run()中的port参数指定。
from flask import Flask, jsonify, render_template, request import requests from forms import TextForm app = Flask(__name__) app.config['SECRET_KEY'] = 'your_secret_key_here' @app.route('/', methods=['GET', 'POST']) def predict(): # 实例化一个表单对象 form = TextForm() if form.validate_on_submit(): # 1. 将表单的文本数据转换为字典 --> lac服务的输入要求是字典 data = {"text": form.text.data} # 2. 向paddlehub的lac服务发送请求 --> 链接是使用paddlehub部署时内部默认指定的 response = requests.post("http://127.0.0.1:8866/predict/lac", json=data) result = response.json() results = result['results'] return render_template('index.html', form=form, results=results) return render_template('index.html', form=form) if __name__ == '__main__': app.run(debug=True, port=5000) # port指定运行的端口
3、index.html
主页内容。
该html文件中，使用了一些属于flask的jinja2（模板引擎，渲染html文件）的语法，即带{% %}或{{ }}的内容。其中{% %}实现控制结构，{{ }}引用从render_template传过来的参数。
由于我前端了解较少，下面的页面显示起来是比较简陋的，但核心功能已经完成（能run就行）。
<h1>体验分词功能</h1> <form action="" method="post" class="mt-4"> <!-- csrf这一句好像可以删掉 --> {{ form.csrf_token }} {{ form.text(class='input', style='width:500px', placeholder='请输入待分析的文本') }} <input type="submit" value="Submit"> </form> {% if results %} <p>分词结果如下：</p> {% endif %} <p> {% for word in results %} {{ word }} {% endfor %} </p>
4. 小结
- 本次实现了一个简陋的网页应用，应用的核心功能——分词，是由另一个独立运行的服务lac提供的。将AI模型独立部署有一个好处，即它可以同时为多个网页应用提供服务。
- 也是我自己是对之前学习的Flask知识的一次小的实践尝试。
