PyTorch - Wprowadzenie do klasztorów

Convents to budowa modelu CNN od podstaw. Architektura sieci będzie zawierała kombinację następujących kroków -

  • Conv2d
  • MaxPool2d
  • Rektyfikowana jednostka liniowa
  • View
  • Warstwa liniowa

Trenowanie modelu

Uczenie modelu jest tym samym procesem, co problemy z klasyfikacją obrazu. Poniższy fragment kodu kończy procedurę modelu szkoleniowego na podanym zestawie danych -

def fit(epoch,model,data_loader,phase 
= 'training',volatile = False):
   if phase == 'training':
      model.train()
   if phase == 'training':
      model.train()
   if phase == 'validation':
      model.eval()
   volatile=True
   running_loss = 0.0
   running_correct = 0
   for batch_idx , (data,target) in enumerate(data_loader):
      if is_cuda:
         data,target = data.cuda(),target.cuda()
         data , target = Variable(data,volatile),Variable(target)
      if phase == 'training':
         optimizer.zero_grad()
         output = model(data)
         loss = F.nll_loss(output,target)
         running_loss + = 
         F.nll_loss(output,target,size_average = 
         False).data[0]
         preds = output.data.max(dim = 1,keepdim = True)[1]
         running_correct + = 
         preds.eq(target.data.view_as(preds)).cpu().sum()
         if phase == 'training':
            loss.backward()
            optimizer.step()
   loss = running_loss/len(data_loader.dataset)
   accuracy = 100. * running_correct/len(data_loader.dataset)
   print(f'{phase} loss is {loss:{5}.{2}} and {phase} accuracy is {running_correct}/{len(data_loader.dataset)}{accuracy:{return loss,accuracy}})

Metoda obejmuje inną logikę szkolenia i walidacji. Istnieją dwa główne powody używania różnych trybów -

  • W trybie pociągu porzucenie usuwa pewien procent wartości, co nie powinno mieć miejsca w fazie walidacji lub testowania.

  • W przypadku trybu uczenia obliczamy gradienty i zmieniamy wartości parametrów modelu, ale propagacja wsteczna nie jest wymagana podczas faz testowania lub walidacji.