Ulangi tetapi dalam potongan berukuran variabel di numpy

Aug 20 2020

Saya memiliki sebuah array yang merupakan rangkaian dari potongan-potongan yang berbeda:

a = np.array([0, 1, 2, 10, 11, 20, 21, 22, 23])
#             >     <  >    <  >            <
chunks = np.array([3, 2, 4])
repeats = np.array([1, 3, 2])

Setiap segmen yang dimulai dengan dekade baru pada contoh di atas adalah "bagian" terpisah yang ingin saya ulangi. Ukuran potongan dan jumlah pengulangan diketahui untuk masing-masing. Saya tidak dapat melakukan pembentukan ulang diikuti oleh kronatau repeatkarena potongannya memiliki ukuran yang berbeda.

Hasil yang saya inginkan adalah

np.array([0, 1, 2, 10, 11, 10, 11, 10, 11, 20, 21, 22, 23, 20, 21, 22, 23])
# repeats:>  1  <  >         3          <  >              2             <

Ini mudah dilakukan dalam satu putaran:

in_offset = np.r_[0, np.cumsum(chunks[:-1])]
out_offset = np.r_[0, np.cumsum(chunks[:-1] * repeats[:-1])]
output = np.zeros((chunks * repeats).sum(), dtype=a.dtype)
for c in range(len(chunks)):
    for r in range(repeats[c]):
        for i in range(chunks[c]):
            output[out_offset[c] + r * chunks[c] + i] = a[in_offset[c] + i]

Ini mengarah pada vektorisasi berikut:

regions = chunks * repeats
index = np.arange(regions.sum())

segments = np.repeat(chunks, repeats)
resets = np.cumsum(segments[:-1])
offsets = np.zeros_like(index)
offsets[resets] = segments[:-1]
offsets[np.cumsum(regions[:-1])] -= chunks[:-1]

index -= np.cumsum(offsets)

output = a[index]

Apakah ada cara yang lebih efisien untuk melakukan vektorisasi masalah ini? Supaya kami jelas, saya tidak meminta tinjauan kode. Saya senang dengan bagaimana pemanggilan fungsi ini bekerja bersama. Saya ingin tahu apakah ada kombinasi panggilan fungsi yang sama sekali berbeda (lebih efisien) yang dapat saya gunakan untuk mencapai hasil yang sama.

Pertanyaan ini terinspirasi oleh jawaban saya untuk pertanyaan ini .

Jawaban

1 AkshaySehgal Aug 20 2020 at 20:29

Cara yang lebih " numpythonic " untuk menyelesaikan ini daripada jawaban lainnya adalah -

np.concatenate(np.repeat(np.split(a, np.cumsum(chunks))[:-1], repeats))
array([ 0,  1,  2, 10, 11, 10, 11, 10, 11, 20, 21, 22, 23, 20, 21, 22, 23])

Perhatikan, tidak ada for-loop yang eksplisit.

( np.splitmemiliki loop implisit seperti yang ditunjukkan oleh @Divakar).


EDIT: Benchmark (MacBook pro 13) -

Solusi Divakar berskala lebih baik untuk larik, potongan, dan pengulangan yang lebih besar seperti yang ditunjukkan @Mad Physicist di posnya.

1 Valdi_Bo Aug 20 2020 at 19:35

Cara yang lebih numpit untuk melakukan tugas Anda (daripada jawaban lainnya) adalah:

result = np.concatenate([ np.tile(tbl, rpt) for tbl, rpt in
    zip(np.split(a, np.cumsum(chunks[:-1])), repeats) ])

Hasilnya adalah:

array([ 0,  1,  2, 10, 11, 10, 11, 10, 11, 20, 21, 22, 23, 20, 21, 22, 23])
1 Divakar Aug 20 2020 at 20:06

Untuk potongan-potongan itu adalah array jangkauan, kita dapat langsung bekerja pada array input dan dengan demikian menghindari langkah pengindeksan terakhir dan itu akan meningkatkan segalanya -

# https://stackoverflow.com/a/47126435/ @Divakar
def create_ranges(starts, ends, l):
    clens = l.cumsum()
    ids = np.ones(clens[-1],dtype=int)
    ids[0] = starts[0]
    ids[clens[:-1]] = starts[1:] - ends[:-1]+1
    out = ids.cumsum()
    return out

s = np.r_[0,chunks.cumsum()]
starts = a[np.repeat(s[:-1],repeats)]
l = np.repeat(chunks, repeats)
ends = starts+l
out = create_ranges(starts, ends, l)
MadPhysicist Aug 20 2020 at 20:47

Untuk tujuan informasional, saya telah membandingkan solusi yang berfungsi di sini .:

def MadPhysicist1(a, chunks, repeats):
    in_offset = np.r_[0, np.cumsum(chunks[:-1])]
    out_offset = np.r_[0, np.cumsum(chunks[:-1] * repeats[:-1])]
    output = np.zeros((chunks * repeats).sum(), dtype=a.dtype)
    for c in range(len(chunks)):
        for r in range(repeats[c]):
            for i in range(chunks[c]):
                output[out_offset[c] + r * chunks[c] + i] = a[in_offset[c] + i]
    return output

def MadPhysicist2(a, chunks, repeats):
    regions = chunks * repeats
    index = np.arange(regions.sum())

    segments = np.repeat(chunks, repeats)
    resets = np.cumsum(segments[:-1])
    offsets = np.zeros_like(index)
    offsets[resets] = segments[:-1]
    offsets[np.cumsum(regions[:-1])] -= chunks[:-1]

    index -= np.cumsum(offsets)

    output = a[index]
    return output

def create_ranges(starts, ends, l):
    clens = l.cumsum()
    ids = np.ones(clens[-1],dtype=int)
    ids[0] = starts[0]
    ids[clens[:-1]] = starts[1:] - ends[:-1]+1
    out = ids.cumsum()
    return out

def Divakar(a, chunks, repeats):
    s = np.r_[0, chunks.cumsum()]
    starts = a[np.repeat(s[:-1], repeats)]
    l = np.repeat(chunks, repeats)
    ends = starts+l
    return create_ranges(starts, ends, l)

def Valdi_Bo(a, chunks, repeats):
    return np.concatenate([np.tile(tbl, rpt) for tbl, rpt in
                           zip(np.split(a, np.cumsum(chunks[:-1])), repeats)])

def AkshaySehgal(a, chunks, repeats):
    return np.concatenate(np.repeat(np.split(a, np.cumsum(chunks))[:-1], repeats))

Saya telah melihat pengaturan waktu untuk tiga ukuran input: ~ 100, ~ 1000 dan ~ 10k elemen:

np.random.seed(0xA)
chunksA = np.random.randint(1, 10, size=20)   # ~100 elements
repeatsA = np.random.randint(1, 10, size=20)
arrA = np.random.randint(100, size=chunksA.sum())

np.random.seed(0xB)
chunksB = np.random.randint(1, 100, size=20)  # ~1000 elements
repeatsB = np.random.randint(1, 10, size=20)
arrB = np.random.randint(100, size=chunksB.sum())

np.random.seed(0xC)
chunksC = np.random.randint(1, 100, size=200)  # ~10000 elements
repeatsC = np.random.randint(1, 10, size=200)
arrC = np.random.randint(100, size=chunksC.sum())

Berikut beberapa hasil:

|               |    A    |    B    |    C    |
+---------------+---------+---------+---------+
| MadPhysicist1 | 1.92 ms |   16 ms |  159 ms |
| MadPhysicist2 | 85.5 µs |  153 µs |  744 µs |
| Divakar       | 75.9 µs | 95.9 µs |  312 µs |
| Valdi_Bo      |  370 µs |  369 µs |  3.4 ms |
| AkshaySehgal  |  163 µs |  165 µs | 1.24 ms |