Использование Gevent во флаконе: API не асинхронный
Раньше я пользовался услугами официантки. Теперь я использую Gevent для запуска своего приложения Flask, в котором есть только один API.
from flask import Flask, request, jsonify
import documentUtil
from gevent.pywsgi import WSGIServer
app = Flask(__name__)
@app.route('/post-document-string', methods=['POST'])
def parse_data():
req_data = request.get_json(force=True)
text = req_data['text']
result = documentUtil.parse(text)
return jsonify(keywords = result)
if __name__=='__main__':
http_server = WSGIServer(('127.0.0.1', 8000), app)
http_server.serve_forever()
Это прекрасно работает. Но API не асинхронный. Если из внешнего интерфейса я запускаю один и тот же API дважды в одно и то же время, второй вызов ожидает, пока первый ответит первым.
Что здесь не так? Как сделать его асинхронным?
Ответы
Мы используем Gunicorn для запуска Flask в нескольких процессах. Таким образом вы получите больше энергии из Python + автоматический перезапуск и прочее. Пример файла конфигурации:
import multiprocessing
bind = "0.0.0.0:80"
workers = (multiprocessing.cpu_count() * 2) + 1
# ... additional config
Затем запустите что-то вроде
gunicorn --config /path/to/file application.app
Не уверен, однако я думаю, что добавление параметра потока в объект сервера может решить проблему.
http_server = WSGIServer(('127.0.0.1', 8000), app, numthreads=50)
источник: https://f.gallai.re/wsgiserver
"""index.py"""
from flask import Flask
from flask import jsonify
app = Flask(__name__)
@app.route('/')
def index():
"""Main page"""
doc = {
'site': 'stackoverflow',
'page_id': 6347182,
'title': 'Using Gevent in flask'
}
return jsonify(doc)
# To start application
gunicorn -k gevent --bind 0.0.0.0 index:app
k : worker_class
--bind : bind address
# See https://docs.gunicorn.org/en/latest/settings.html