Model.train () hakkında kafa karışıklığı [duplicate]
Ben pytorch konusunda acemiyim. Github'da bazı derin öğrenme modellerinde model.train () olduğunu ve bazılarının olmadığını gördüm, ancak normal şekilde çalışabilirler. Model.train () gerekli olup olmadığını bilmek istiyorum. etkisi nedir?
Yanıtlar
trainmod veya evalmod yalnızca eğitim / test sırasında asimetrik davranan modülleriniz (örn. BatchNorm, Dropout) olduğunda önemlidir. Gradyan birikimini hiç etkilemediğini vurgulamak isterim. Asimetrik modüller ile bile, bir model evalmodda mükemmel şekilde eğitilebilir . Bazıları bunu, önceden eğitilmiş bir ImageNet modeli kullanarak eğitimde bellekten tasarruf etmek için yapar.
Asimetrik modülünüz yoksa, hiç önemli değil.
Varsayılan olarak, tüm modüller ile başlar training=True.
trainve muadili eval, modeli eğitim ve değerlendirme modu arasında değiştirir.
Eğitim modunda, izlenen gradyanlar genellikle modelin her değerlendirmesinde güncellenir. Bu, eğitim için kullanılan gradyan inişini gerçekleştirmek için gereklidir. Değerlendirme modunda değiller.