Usando Gevent no frasco: API não é assíncrona
Antes eu estava usando a garçonete. Agora estou usando Gevent para executar meu aplicativo Flask que tem apenas uma API
from flask import Flask, request, jsonify
import documentUtil
from gevent.pywsgi import WSGIServer
app = Flask(__name__)
@app.route('/post-document-string', methods=['POST'])
def parse_data():
req_data = request.get_json(force=True)
text = req_data['text']
result = documentUtil.parse(text)
return jsonify(keywords = result)
if __name__=='__main__':
http_server = WSGIServer(('127.0.0.1', 8000), app)
http_server.serve_forever()
Isso funciona bem. Mas a API não é assíncrona. Se, do front-end, eu disparar a mesma API duas vezes ao mesmo tempo, a segunda chamada espera que a primeira dê uma resposta primeiro.
O que há de errado aqui? Como posso torná-lo assíncrono?
Respostas
Usamos Gunicorn para executar o Flask em vários processos. Dessa forma, você obtém mais energia do python + reinicializações automáticas e outras coisas. Arquivo de configuração de amostra:
import multiprocessing
bind = "0.0.0.0:80"
workers = (multiprocessing.cpu_count() * 2) + 1
# ... additional config
Em seguida, execute com algo como
gunicorn --config /path/to/file application.app
Não tenho certeza, no entanto, acho que adicionar parâmetro de thread no objeto do servidor pode resolver o problema.
http_server = WSGIServer(('127.0.0.1', 8000), app, numthreads=50)
fonte: https://f.gallai.re/wsgiserver
"""index.py"""
from flask import Flask
from flask import jsonify
app = Flask(__name__)
@app.route('/')
def index():
"""Main page"""
doc = {
'site': 'stackoverflow',
'page_id': 6347182,
'title': 'Using Gevent in flask'
}
return jsonify(doc)
# To start application
gunicorn -k gevent --bind 0.0.0.0 index:app
k : worker_class
--bind : bind address
# See https://docs.gunicorn.org/en/latest/settings.html