Mạng nơ-ron là những Hộp đen này, nơi bạn cung cấp một số đầu vào, những đầu vào này đi qua một số chức năng và một đầu ra ra khỏi nó. Họ cực kỳ giỏi trong việc nhận dạng giọng nói, chú thích văn bản, dự đoán trạng thái trò chơi tiếp theo.

Trước khi đi sâu vào, hãy xem Bộ não con người hoạt động như thế nào hoặc thậm chí điều sâu xa hơn, “Nhận thức của con người”!

Lịch sử

“Nếu bộ não con người đơn giản đến mức chúng ta có thể hiểu được nó, thì chúng ta sẽ đơn giản đến mức không thể hiểu được.” — Emerson M. Pugh .

chủ nghĩa hiệp hội

Sự kết hợp

Trở lại với Plato, David Hume đến thuyết 2.500 năm cho mô hình Nhận thức của con người là “Hiệp hội”.

Hiệp hội là gì?

Tia chớp kéo theo sấm sét. “Chúng tôi vừa nghe thấy tiếng sấm; Có ai bị nó đánh không?”

Đây là Hiệp hội .

“Loại liên kết này vẫn được sử dụng trong Học máy nhưng chúng tôi đã đưa một số Toán học vào đó.”

Nhưng những Hiệp hội này được lưu trữ ở đâu? Rõ ràng là các Hiệp hội này phải được lưu trữ ở đâu đó và đưa ra các suy luận.

chủ nghĩa kết nối

Giữa những năm 1800: Bộ não là một khối các tế bào thần kinh liên kết với nhau. Não là cấu trúc của các tế bào mạng. Một cái gì đó với cấu trúc này có liên quan đến cách thức hoạt động của bộ não. Mỗi nơ-ron được kết nối với nhiều nơ-ron khác. Điều này đã dẫn đến chủ nghĩa kết nối

Các tế bào thần kinh kích thích và kích thích lẫn nhau. Các kết hợp đầu vào khác nhau dẫn đến tập hợp các đầu ra khác nhau. Trong ví dụ đã cho,

Nếu a & b cao, 'x' sẽ kích hoạt,

nếu b & c cao, 'y' sẽ kích hoạt,

nếu a & c cao, 'z' sẽ kích hoạt.

Vì vậy, các mẫu đầu vào khác nhau sẽ dẫn đến các mẫu đầu ra khác nhau. Tín hiệu có cường độ khác nhau có thể dẫn đến đầu ra khác nhau. Ngay cả một cách học do Alexander Bain đề xuất tùy thuộc vào cường độ của đầu vào.

McClloch và Pitts

Hai người này đã cố gắng tạo mô hình tế bào thần kinh nhân tạo đầu tiên.

Một tế bào thần kinh về cơ bản có hai kết nối. Thần kinh kích hoạt khi tổng số đầu vào kích thích của mỗi kết nối vượt quá ngưỡng trừ khi có tín hiệu ức chế đi qua dây ức chế đó.

Frank Rosenblatt

Perceptron của Rosenblatt bao gồm ba đơn vị, (i) Đơn vị cảm giác, (ii) Đơn vị liên kết, (iii) Đơn vị phản hồi.

Các đầu vào số lượng kết hợp nhân tuyến tính với các trọng số được gán cho đầu vào tương ứng. Hàm affine này được cung cấp làm đầu vào cho hàm ngưỡng. Tế bào thần kinh được kích hoạt khi giá trị vượt quá giá trị ngưỡng.

Y = { 1 nếu ∑wixi -T ≥ 0; khác 0

Thuật toán học tập:

W = W+η(d(x)-y(x))

Cập nhật trọng số bất cứ khi nào đầu ra perceptron sai. Cập nhật trọng số theo tích của đầu vào và sai số giữa đầu ra mong muốn và đầu ra thực tế.

Một perceptron đơn lẻ hoặc một mạng perceptron có thể mô hình hóa bất kỳ hàm boolean tùy ý nào. Tuy nhiên, các phần tử riêng lẻ của mạng là các mô hình tính toán yếu. Các phần tử được nối mạng là bắt buộc.

Trong blog tiếp theo, chúng ta hãy xem Perceptron nhiều lớp có thể mô hình hóa những gì và những hạn chế của nó.