Multiprocessing dengan Python dengan beberapa argumen (kata kunci) [duplikat]

Jan 11 2021

Saya mencoba untuk menyimpan 2 file json sekaligus dalam multiprocessing. Untuk ini pertama saya perlu membuat serial array. Ketika saya menetapkan cls=NumpyArrayEncodekelas dalam argsmultiprocessing maka saya mendapatkan kesalahan karena kita tidak dapat menetapkan cls=NumpyArrayEncodemungkin karena =masuk yang sama argsdi multiprocessing.

Di bawah ini adalah kode saya hanya untuk satu proses. Untuk ide proses kedua sama.

# json serialization
class NumpyArrayEncode(JSONEncoder):
    def default(self, o):
        if isinstance(o, np.ndarray):
            returno.tolist()
        return JSONEncoder.default(self, o)

json_data = np.array([[3, 5, 6], [8, 12, 6]]) # example

with open('test.json', 'w') as fn:
    p1 = multiprocessing.Process(target = json.dump, args=(json_data, fn, cls=NumpyArrayEncode)) # here is problem that we can't add equal `=` sign in `args` in multiprocessing. 

Bagaimana menambahkan cls=NumpyArrayEncodesebagai argumen dalam multiprocessing?

Mencari saran yang baik

Jawaban

1 sim Jan 11 2021 at 14:49

Dua opsi: Gunakan kwargsparameter (lihat multiprocessing.Processdokumentasi untuk menyampaikan argumen kata kunci:

multiprocessing.Process(target=json.dump,
                        args=(json_data, fn),
                        kwargs={"cls": NumpyArrayEncoder})

atau Anda menggunakan functools.partial:

multiprocessing.Process(target=functools.partial(json.dump, cls=NumpyArrayEncoder),
                        args=(json_data, fn))