Pytorch hesaplama grafiğini nasıl oluşturur?

Aug 25 2020

İşte web sitesinden örnek pytorch kodu:

class Net(nn.Module):

def __init__(self):
    super(Net, self).__init__()
    # 1 input image channel, 6 output channels, 3x3 square convolution
    # kernel
    self.conv1 = nn.Conv2d(1, 6, 3)
    self.conv2 = nn.Conv2d(6, 16, 3)
    # an affine operation: y = Wx + b
    self.fc1 = nn.Linear(16 * 6 * 6, 120)  # 6*6 from image dimension
    self.fc2 = nn.Linear(120, 84)
    self.fc3 = nn.Linear(84, 10)

def forward(self, x):
    # Max pooling over a (2, 2) window
    x = F.max_pool2d(F.relu(self.conv1(x)), (2, 2))
    # If the size is a square you can only specify a single number
    x = F.max_pool2d(F.relu(self.conv2(x)), 2)
    x = x.view(-1, self.num_flat_features(x))
    x = F.relu(self.fc1(x))
    x = F.relu(self.fc2(x))
    x = self.fc3(x)
    return x

İleri işlevde, x'e basitçe bir dizi dönüşüm uygularız, ancak hangi nesnelerin bu dönüşümün parçası olduğunu asla açık bir şekilde tanımlamayız. Yine de eğimi hesaplarken ve ağırlıkları güncellerken, Pytorch 'sihirli bir şekilde' hangi ağırlıkların güncelleneceğini ve eğimin nasıl hesaplanması gerektiğini bilir.

Bu süreç nasıl işliyor? Kod analizi yapılıyor mu yoksa kaçırdığım başka bir şey var mı?

Yanıtlar

1 AlexeyBirukov Aug 25 2020 at 23:08

Evet, ileri geçişte örtük analiz var. Sonuç tensörünü inceleyin, grad_fn= <CatBackward>tüm hesaplama grafiğini açmanıza izin veren bir bağlantı gibi bir şey var. Ve ağ modülünüzü nasıl tanımlamış olursanız olun, nesneye yönelik 'nn' veya 'işlevsel' şekilde, gerçek ileri hesaplama süreci sırasında oluşturulur.

torchvizBurada olduğu gibi, bu grafikten net analiz için yararlanabilirsiniz :https://github.com/szagoruyko/pytorchviz/blob/master/torchviz/dot.py