Multiprocesamiento en Python con múltiples argumentos (palabras clave) [duplicado]

Jan 11 2021

Estoy tratando de guardar 2 archivos json al mismo tiempo en multiprocesamiento. Para esto primero necesito serializar la matriz. Cuando asigno una cls=NumpyArrayEncodeclase en argsmultiprocesamiento, recibo un error porque no podemos asignar cls=NumpyArrayEncodeprobablemente debido al =inicio de sesión igual argsen multiprocesamiento.

A continuación se muestra mi código solo para un proceso. Para el segundo proceso, la idea es la misma.

# json serialization
class NumpyArrayEncode(JSONEncoder):
    def default(self, o):
        if isinstance(o, np.ndarray):
            returno.tolist()
        return JSONEncoder.default(self, o)

json_data = np.array([[3, 5, 6], [8, 12, 6]]) # example

with open('test.json', 'w') as fn:
    p1 = multiprocessing.Process(target = json.dump, args=(json_data, fn, cls=NumpyArrayEncode)) # here is problem that we can't add equal `=` sign in `args` in multiprocessing. 

¿Cómo agregar cls=NumpyArrayEncodeargumentos en multiprocesamiento?

Buscando una sugerencia amable

Respuestas

1 sim Jan 11 2021 at 14:49

Dos opciones: usar el kwargsparámetro (consulte la multiprocessing.Processdocumentación para pasar argumentos de palabras clave:

multiprocessing.Process(target=json.dump,
                        args=(json_data, fn),
                        kwargs={"cls": NumpyArrayEncoder})

o usas functools.partial:

multiprocessing.Process(target=functools.partial(json.dump, cls=NumpyArrayEncoder),
                        args=(json_data, fn))