คำแนะนำสำหรับการฝึกอบรม Neural Network

ในบทนี้เราจะทำความเข้าใจเกี่ยวกับแง่มุมต่างๆของการฝึกอบรมเครือข่ายประสาทเทียมซึ่งสามารถดำเนินการได้โดยใช้กรอบ TensorFlow

ต่อไปนี้เป็นคำแนะนำ 10 ข้อซึ่งสามารถประเมินได้ -

กลับการขยายพันธุ์

การขยายพันธุ์กลับเป็นวิธีง่ายๆในการคำนวณอนุพันธ์บางส่วนซึ่งรวมถึงรูปแบบพื้นฐานขององค์ประกอบที่เหมาะสมที่สุดสำหรับโครงข่ายประสาท

Stochastic Gradient Descent

ในการสืบเชื้อสายไล่ระดับสุ่มก batchคือจำนวนตัวอย่างทั้งหมดที่ผู้ใช้ใช้คำนวณการไล่ระดับสีในการทำซ้ำครั้งเดียว จนถึงตอนนี้สันนิษฐานว่าแบตช์เป็นชุดข้อมูลทั้งหมด ภาพประกอบที่ดีที่สุดใช้งานได้ในระดับ Google ชุดข้อมูลมักประกอบด้วยตัวอย่างหลายพันล้านหรือหลายแสนล้านตัวอย่าง

อัตราการเรียนรู้ลดลง

การปรับอัตราการเรียนรู้เป็นหนึ่งในคุณสมบัติที่สำคัญที่สุดของการเพิ่มประสิทธิภาพการไล่ระดับสี นี่เป็นสิ่งสำคัญอย่างยิ่งต่อการใช้งาน TensorFlow

ออกกลางคัน

อวนประสาทลึกที่มีพารามิเตอร์จำนวนมากทำให้เกิดระบบแมชชีนเลิร์นนิงที่มีประสิทธิภาพ อย่างไรก็ตามการใส่มากเกินไปเป็นปัญหาร้ายแรงในเครือข่ายดังกล่าว

การรวมสูงสุด

Max pooling เป็นกระบวนการแยกตามตัวอย่าง ออบเจ็กต์คือการลงตัวอย่างการแสดงข้อมูลเข้าซึ่งจะช่วยลดขนาดมิติด้วยสมมติฐานที่ต้องการ

หน่วยความจำระยะสั้น (LSTM)

LSTM ควบคุมการตัดสินใจว่าควรรับปัจจัยใดภายในเซลล์ประสาทที่ระบุ รวมถึงการควบคุมในการตัดสินใจว่าควรคำนวณอะไรและควรสร้างเอาต์พุตใด