Сервер API gRPC через Python не может работать

Aug 25 2020

Я разработал сервер API gRPC через Python, затем собрал его в контейнер и развернул в Cloud Run,

Какой мой сервер gRPC интегрируется с приложением TensorFlow. На самом деле это тензорный поток для изображения ML, но это пример кода для обсуждения.

class Calculator(calculator_pb2_grpc.CalculatorServiecer):
    def Calculate(self, request, context):
        try: 
            # Processing
            return #protobuf message    
        except Exception as e:
            logging.error(e)     

def main():
    server = grpc.server(futures.ThreadPoolExecutor(max_workers=10))
    calculator_pb2_grpc.add_CalculatorServiecer_to_server(Calculator(), server)
    server.add_insecure_port('[::]:8080')
    server.start()
    logging.info("Listening on %s.", '8080')
    server.wait_for_termination()

if __name__ == '__main__':
    main() 

Но у меня всегда возникает ошибка, когда я вызываю gRPC, например

gRPC status code 14

ERROR:root:<_InactiveRpcError of RPC that terminated with:
status = StatusCode.UNAVAILABLE
details = "Socket closed"

ERROR:root:<_InactiveRpcError of RPC that terminated with:
    status = StatusCode.UNAVAILABLE
    details = "Connection reset by peer"

У кого-нибудь есть идея? Потому что, когда я тестирую на локальном хосте, все работает, даже в контейнере докеров все еще может работать, но когда все в Cloud Run рушится.

Не уверен, в чем основная причина этой проблемы. Это может быть поддержка активности или тайм-аут?

Я много пробую, но на канале подключения меняю имя хоста на

 {HOST}:443

Пожалуйста, помогите, спасибо

Пример кода клиента

Я создаю клиентское приложение как сервер REST API для вызова внешнего gRPC, этот сервер REST API также развертывается в Cloud Run.

CHANNEL = grpc.insecure_channel('<CLOUD_RUN_DOMAIN_WITHOUT_HTTP>:443')
STUB = calculator_pb2_grpc.CalculatorStub(CHANNEL)

@app.get("/add") # passing value via query string
def index_dest(first : float, second : float):
    try:
        res = STUB.Calculate(calculator_pb2.BinaryOperation(first_operand=first,second_operand=second,operation="ADD")) 
        return {"message" : res}
    except Exception as e:
        logging.error(e)

Ответы

DustinIngram Aug 25 2020 at 11:04

Из https://cloud.google.com/run/docs/issues#grpc_websocket:

Cloud Run (полностью управляемый) в настоящее время не поддерживает потоковую передачу HTTP. Поэтому входящие запросы с такими протоколами, как WebSockets и потоковая передача gRPC, не поддерживаются.