Lượng tử hóa vector học
Học lượng tử hóa vectơ (LVQ), khác với lượng tử hóa vectơ (VQ) và Bản đồ tự tổ chức Kohonen (KSOM), về cơ bản là một mạng cạnh tranh sử dụng học có giám sát. Chúng ta có thể định nghĩa nó như một quá trình phân loại các mẫu trong đó mỗi đơn vị đầu ra đại diện cho một lớp. Vì nó sử dụng phương pháp học có giám sát, mạng sẽ được cung cấp một tập hợp các mẫu đào tạo với phân loại đã biết cùng với phân phối ban đầu của lớp đầu ra. Sau khi hoàn thành quá trình huấn luyện, LVQ sẽ phân loại vector đầu vào bằng cách gán nó vào cùng lớp với của đơn vị đầu ra.
Ngành kiến trúc
Hình sau cho thấy kiến trúc của LVQ khá giống với kiến trúc của KSOM. Như chúng ta có thể thấy, có“n” số lượng đơn vị đầu vào và “m”số lượng đơn vị đầu ra. Các lớp được kết nối hoàn toàn với nhau với trọng lượng trên chúng.
Các thông số được sử dụng
Sau đây là các tham số được sử dụng trong quá trình đào tạo LVQ cũng như trong lưu đồ
x= vectơ huấn luyện (x 1 , ..., x i , ..., x n )
T = lớp đào tạo vector x
wj = vectơ trọng lượng cho jth Đơn vị đầu ra
Cj = lớp liên kết với jth Đơn vị đầu ra
Thuật toán đào tạo
Step 1 - Khởi tạo vectơ tham chiếu, có thể được thực hiện như sau:
Step 1(a) - Từ tập các vectơ huấn luyện đã cho, lấy “m”(Số cụm) vectơ huấn luyện và sử dụng chúng làm vectơ trọng số. Các vectơ còn lại có thể được dùng để huấn luyện.
Step 1(b) - Ấn định trọng lượng ban đầu và phân loại ngẫu nhiên.
Step 1(c) - Áp dụng phương pháp phân cụm K-mean.
Step 2 - Khởi tạo vector tham chiếu $ \ alpha $
Step 3 - Tiếp tục với các bước 4-9, nếu điều kiện dừng thuật toán này không được đáp ứng.
Step 4 - Làm theo các bước 5-6 cho mọi vectơ đầu vào đào tạo x.
Step 5 - Tính Bình phương Khoảng cách Euclid cho j = 1 to m và i = 1 to n
$$ D (j) \: = \: \ displaystyle \ sum \ limit_ {i = 1} ^ n \ displaystyle \ sum \ limit_ {j = 1} ^ m (x_ {i} \: - \: w_ {ij }) ^ 2 $$
Step 6 - Lấy đơn vị chiến thắng J Ở đâu D(j) là tối thiểu.
Step 7 - Tính trọng lượng mới của đơn vị thắng cuộc theo quan hệ sau:
nếu T = Cj sau đó $ w_ {j} (mới) \: = \: w_ {j} (cũ) \: + \: \ alpha [x \: - \: w_ {j} (cũ)] $
nếu T ≠ Cj sau đó $ w_ {j} (mới) \: = \: w_ {j} (cũ) \: - \: \ alpha [x \: - \: w_ {j} (cũ)] $
Step 8 - Giảm tỷ lệ học tập $ \ alpha $.
Step 9- Kiểm tra điều kiện dừng. Nó có thể như sau:
- Đã đạt đến số kỷ nguyên tối đa.
- Tỷ lệ học tập giảm xuống một giá trị không đáng kể.
Sơ đồ
Các biến thể
Ba biến thể khác là LVQ2, LVQ2.1 và LVQ3 đã được phát triển bởi Kohonen. Sự phức tạp trong cả ba biến thể này, do khái niệm rằng người chiến thắng cũng như đơn vị á quân sẽ học được, nhiều hơn trong LVQ.
LVQ2
Như đã thảo luận, khái niệm về các biến thể khác của LVQ ở trên, điều kiện của LVQ2 được hình thành theo cửa sổ. Cửa sổ này sẽ dựa trên các thông số sau:
x - vectơ đầu vào hiện tại
yc - vectơ tham chiếu gần nhất với x
yr - vectơ tham chiếu khác, gần nhất với x
dc - khoảng cách từ x đến yc
dr - khoảng cách từ x đến yr
Vectơ đầu vào x rơi trong cửa sổ, nếu
$$ \ frac {d_ {c}} {d_ {r}} \:> \: 1 \: - \: \ theta \: \: và \: \: \ frac {d_ {r}} {d_ {c }} \:> \: 1 \: + \: \ theta $$
Ở đây, $ \ theta $ là số lượng mẫu đào tạo.
Việc cập nhật có thể được thực hiện theo công thức sau:
$ y_ {c} (t \: + \: 1) \: = \: y_ {c} (t) \: + \: \ alpha (t) [x (t) \: - \: y_ {c} (t)] $ (belongs to different class)
$ y_ {r} (t \: + \: 1) \: = \: y_ {r} (t) \: + \: \ alpha (t) [x (t) \: - \: y_ {r} (t)] $ (belongs to same class)
Đây $ \ alpha $ là tỷ lệ học tập.
LVQ2.1
Trong LVQ2.1, chúng tôi sẽ lấy hai vectơ gần nhất là yc1 và yc2 và điều kiện cho cửa sổ như sau:
$$ Min \ begin {bmatrix} \ frac {d_ {c1}} {d_ {c2}}, \ frac {d_ {c2}} {d_ {c1}} \ end {bmatrix} \:> \ :( 1 \ : - \: \ theta) $$
$$ Max \ begin {bmatrix} \ frac {d_ {c1}} {d_ {c2}}, \ frac {d_ {c2}} {d_ {c1}} \ end {bmatrix} \: <\ :( 1 \ : + \: \ theta) $$
Việc cập nhật có thể được thực hiện theo công thức sau:
$ y_ {c1} (t \: + \: 1) \: = \: y_ {c1} (t) \: + \: \ alpha (t) [x (t) \: - \: y_ {c1} (t)] $ (belongs to different class)
$ y_ {c2} (t \: + \: 1) \: = \: y_ {c2} (t) \: + \: \ alpha (t) [x (t) \: - \: y_ {c2} (t)] $ (belongs to same class)
Ở đây, $ \ alpha $ là tỷ lệ học tập.
LVQ3
Trong LVQ3, chúng tôi sẽ lấy hai vectơ gần nhất cụ thể là yc1 và yc2 và điều kiện cho cửa sổ như sau:
$$ Min \ begin {bmatrix} \ frac {d_ {c1}} {d_ {c2}}, \ frac {d_ {c2}} {d_ {c1}} \ end {bmatrix} \:> \ :( 1 \ : - \: \ theta) (1 \: + \: \ theta) $$
Đây $ \ theta \ khoảng 0,2 $
Việc cập nhật có thể được thực hiện theo công thức sau:
$ y_ {c1} (t \: + \: 1) \: = \: y_ {c1} (t) \: + \: \ beta (t) [x (t) \: - \: y_ {c1} (t)] $ (belongs to different class)
$ y_ {c2} (t \: + \: 1) \: = \: y_ {c2} (t) \: + \: \ beta (t) [x (t) \: - \: y_ {c2} (t)] $ (belongs to same class)
Đây $ \ beta $ là bội số của tỷ lệ học tập $ \ alpha $ và $\beta\:=\:m \alpha(t)$ Cho mọi 0.1 < m < 0.5