Fatie vários quadros da matriz numpy com vários y1: y2, x1: x2
Eu tenho uma matriz numpy de vários quadros (multiple_frames) e quero cortar a altura e a largura de cada quadro com y1, y2, x1, x2 diferente para desenhar um quadrado de "1" em cada quadro. (slice_yyxx) é uma matriz numpy e contém uma matriz de y1, y2, x1, x2 para cada quadro.
slice_yyxx = np.array(slice_yyxx).astype(int)
nbr_frame = slice_yyxx.shape[0]
multiple_frames = np.zeros(shape=(nbr_frame, target_shape[0], target_shape[1], target_shape[2]))
print(multiple_frames.shape)
# (5, 384, 640, 1)
print(slice_yyxx)
# Value ok
print(slice_yyxx.shape)
# (5, 4)
# Then 5 array of coord like [y1, y2, x1, x2] for slice each frames
print(slice_yyxx.dtype)
# np.int64
multiple_frames[:, slice_yyxx[:,0]:slice_yyxx[:,1], slice_yyxx[:,2]:slice_yyxx[:,3]] = 1
# ERROR: TypeError: only integer scalar arrays can be converted to a scalar index
Respostas
A verdadeira questão aqui é como converter fatias arbitrárias em algo que você pode usar em várias dimensões sem loop. Eu diria que o truque é usar uma combinação inteligente de indexação sofisticada arange, e repeat.
O objetivo é criar uma matriz de índices de linha e coluna que corresponda a cada dimensão. Vamos pegar um caso simples que seja fácil de visualizar: um conjunto de 3 quadros de matrizes 3x3, onde queremos atribuir os submatrizes 2x2 superior esquerdo e inferior direito aos dois primeiros quadros, e tudo ao último quadro :
multi_array = np.zeros((3, 3, 3))
slice_rrcc = np.array([[0, 2, 0, 2], [1, 3, 1, 3], [0, 3, 0, 3]])
Vamos criar os índices que correspondem a cada um, bem como os tamanhos e formas:
nframes = slice_rrcc.shape[0] # 3
nrows = np.diff(slice_rrcc[:, :2], axis=1).ravel() # [2, 2, 3]
ncols = np.diff(slice_rrcc[:, 2:], axis=1).ravel() # [2, 2, 3]
sizes = nrows * ncols # [4, 4, 9]
Precisamos dos seguintes índices extravagantes para poder fazer a tarefa:
frame_index = np.array([0, 0, 0, 0, 1, 1, 1, 1, 2, 2, 2, 2, 2, 2, 2, 2, 2])
row_index = np.array([0, 0, 1, 1, 1, 1, 2, 2, 0, 0, 0, 1, 1, 1, 2, 2, 2])
col_index = np.array([0, 1, 0, 1, 1, 2, 1, 2, 0, 1, 2, 0, 1, 2, 0, 1, 2])
Se pudermos obter as matrizes frame_index, row_indexe col_index, podemos definir os dados para cada segmento da seguinte forma:
multi_array[frame_index, row_index, col_index] = 1
frame_index índice é fácil de obter:
frame_index = np.repeat(np.arange(nframes), sizes)
row_indexdá um pouco mais de trabalho. Você precisa gerar um conjunto de nrowsíndices para cada quadro individual e repeti-los ncolsvezes. Você pode fazer isso gerando um intervalo contínuo e reiniciando a contagem em cada quadro usando a subtração:
row_range = np.arange(nrows.sum())
row_offsets = np.zeros_like(row_range)
row_offsets[np.cumsum(nrows[:-1])] = nrows[:-1]
row_index = row_range - np.cumsum(row_offsets) + np.repeat(slice_rrcc[:, 0], nrows)
segments = np.repeat(ncols, nrows)
row_index = np.repeat(row_index, segments)
col_indexserá menos trivial ainda. Você precisa gerar uma sequência para cada linha com o deslocamento correto e repeti-la em partes para cada linha e, a seguir, para cada quadro. A abordagem é semelhante à de row_index, com um índice extravagante adicional para obter a ordem certa:
col_index_index = np.arange(sizes.sum())
col_index_resets = np.cumsum(segments[:-1])
col_index_offsets = np.zeros_like(col_index_index)
col_index_offsets[col_index_resets] = segments[:-1]
col_index_offsets[np.cumsum(sizes[:-1])] -= ncols[:-1]
col_index_index -= np.cumsum(col_index_offsets)
col_range = np.arange(ncols.sum())
col_offsets = np.zeros_like(col_range)
col_offsets[np.cumsum(ncols[:-1])] = ncols[:-1]
col_index = col_range - np.cumsum(col_offsets) + np.repeat(slice_rrcc[:, 2], ncols)
col_index = col_index[col_index_index]
Usando esta formulação, você pode até mesmo intensificar e especificar um valor diferente para cada quadro. Se você quiser atribuir values = [1, 2, 3]aos quadros no meu exemplo, basta fazer
multi_array[frame_index, row_index, col_index] = np.repeat(values, sizes)
Veremos se existe uma maneira mais eficiente de fazer isso. Uma parte sobre a qual perguntei está aqui .
Benchmark
Uma comparação de seu loop com minha solução vetorizada para nframesem {10, 100, 1000} e largura e altura de multi_arrayem {100, 1000, 10000}:
def set_slices_loop(arr, slice_rrcc):
for a, s in zip(arr, slice_rrcc):
a[s[0]:s[1], s[2]:s[3]] = 1
np.random.seed(0xABCDEF)
for nframes in [10, 100, 1000]:
for dim in [10, 32, 100]:
print(f'Size = {nframes}x{dim}x{dim}')
arr = np.zeros((nframes, dim, dim), dtype=int)
slice = np.zeros((nframes, 4), dtype=int)
slice[:, ::2] = np.random.randint(0, dim - 1, size=(nframes, 2))
slice[:, 1::2] = np.random.randint(slice[:, ::2] + 1, dim, size=(nframes, 2))
%timeit set_slices_loop(arr, slice)
arr[:] = 0
%timeit set_slices(arr, slice)
Os resultados são esmagadoramente a favor do loop, com a única exceção de um grande número de quadros e tamanhos de quadro pequenos. A maioria dos casos "normais" são uma ordem de magnitude mais rápidos com looping:
Looping
| Dimension |
| 100 | 1000 | 10000 |
--------+---------+---------+---------+
F 10 | 33.8 µs | 35.8 µs | 43.4 µs |
r -----+---------+---------+---------+
a 100 | 310 µs | 331 µs | 401 µs |
m -----+---------+---------+---------+
e 1000 | 3.09 ms | 3.31 ms | 4.27 ms |
--------+---------+---------+---------+
Vetorizado
| Dimension |
| 100 | 1000 | 10000 |
--------+---------+---------+---------+
F 10 | 225 µs | 266 µs | 545 µs |
r -----+---------+---------+---------+
a 100 | 312 µs | 627 µs | 4.11 ms |
m -----+---------+---------+---------+
e 1000 | 1.07 ms | 4.63 ms | 48.5 ms |
--------+---------+---------+---------+
TL; DR
Pode ser feito, mas não recomendado:
def set_slices(arr, slice_rrcc, value):
nframes = slice_rrcc.shape[0]
nrows = np.diff(slice_rrcc[:, :2], axis=1).ravel()
ncols = np.diff(slice_rrcc[:, 2:], axis=1).ravel()
sizes = nrows * ncols
segments = np.repeat(ncols, nrows)
frame_index = np.repeat(np.arange(nframes), sizes)
row_range = np.arange(nrows.sum())
row_offsets = np.zeros_like(row_range)
row_offsets[np.cumsum(nrows[:-1])] = nrows[:-1]
row_index = row_range - np.cumsum(row_offsets) + np.repeat(slice_rrcc[:, 0], nrows)
row_index = np.repeat(row_index, segments)
col_index_index = np.arange(sizes.sum())
col_index_resets = np.cumsum(segments[:-1])
col_index_offsets = np.zeros_like(col_index_index)
col_index_offsets[col_index_resets] = segments[:-1]
col_index_offsets[np.cumsum(sizes[:-1])] -= ncols[:-1]
col_index_index -= np.cumsum(col_index_offsets)
col_range = np.arange(ncols.sum())
col_offsets = np.zeros_like(col_range)
col_offsets[np.cumsum(ncols[:-1])] = ncols[:-1]
col_index = col_range - np.cumsum(col_offsets) + np.repeat(slice_rrcc[:, 2], ncols)
col_index = col_index[col_index_index]
if values.size == 1:
arr[frame_index, row_index, col_index] = value
else:
arr[frame_index, row_index, col_index] = np.repeat(values, sizes)
Esta é uma postagem de benchmarking usando o benchitpacote (algumas ferramentas de benchmarking empacotadas juntas; isenção de responsabilidade: eu sou o autor) para fazer o benchmark das soluções propostas.
Estamos set_slicesfazendo um benchmarking do soln do @Mad Physicist com arr[frame_index, row_index, col_index] = 1e set_slices_loopsem nenhuma alteração para obter o tempo de execução (sec).
np.random.seed(0xABCDEF)
in_ = {}
for nframes in [10, 100, 1000]:
for dim in [10, 32, 100]:
arr = np.zeros((nframes, dim, dim), dtype=int)
slice = np.zeros((nframes, 4), dtype=int)
slice[:, ::2] = np.random.randint(0, dim - 1, size=(nframes, 2))
slice[:, 1::2] = np.random.randint(slice[:, ::2] + 1, dim, size=(nframes, 2))
in_[(nframes, dim)] = [arr, slice]
import benchit
funcs = [set_slices, set_slices_loop]
t = benchit.timings(funcs, in_, input_name=['NumFrames', 'Dim'], multivar=True)
t.plot(sp_argID=1, logx=True, save='timings.png')
