Mọi thứ bạn cần biết về Deep Learning - từ Neuron đến Neural Networks

Học sâu là gì?

Học sâu là một tập hợp con của Học máy lấy cảm hứng từ cấu trúc sinh học và chức năng của bộ não con người sử dụng mạng thần kinh nhân tạo để tìm hiểu thông tin hoặc mẫu không dư thừa trong dữ liệu. Đó là một cách hiệu quả để xử lý một lượng lớn thông tin và đưa ra dự đoán. Học sâu rất tốn kém về mặt tính toán vì nó yêu cầu một lượng lớn dữ liệu và hiệu suất của các mô hình học sâu tỷ lệ thuận với lượng dữ liệu chúng tôi cung cấp.

Trong những năm gần đây, lượng dữ liệu được tạo ra mỗi ngày tăng theo cấp số nhân và sự ra đời của các đơn vị xử lý mạnh mẽ (CPU/GPU) đã thúc đẩy sức mạnh của AI, hiệu suất của AI vượt xa khả năng của con người trong nhiều lĩnh vực chuyên biệt như Công cụ nhận dạng hình ảnh (Computer Vision), xử lý ngôn ngữ tự nhiên (NLP), Công nghiệp trò chơi, Người máy và Nhận dạng giọng nói nhờ tiến bộ Công nghệ.

AI so với ML so với DL?

Trí tuệ nhân tạo (AI)

Đó là khả năng máy tính “suy nghĩ” giống như con người mà không cần bất kỳ sự can thiệp nào của con người. AI không phải là một cái gì đó mới, nó đã được nghiên cứu trong nhiều thập kỷ qua và có lẽ trong vài thập kỷ tới. Năm 1950, nhà toán học người Anh Alan Turing đã xuất bản một bài báo có tựa đề “ Máy tính và trí thông minh ” mở ra cánh cửa cho lĩnh vực được gọi là AI .

The Imitation Game là một bộ phim rất được khuyến khích dựa trên câu chuyện có thật vềnhà phân tích mật mãhuyền thoại Alan Turing và cuộc chạy đua của ông với thời gian để chế tạo một chiếc máy tính có thể thực hiện các phép hoán vị phức tạp nhanh hơn bất kỳ con người nào có thể bẻ khóa mã Enigma của Đức trong Thế chiến thứ hai. Người ta ước tính rằngcông việc của Turing đã rút ngắn cuộc chiến hai năm và cứu sống 14 triệu người. Đáng xem phải không? Tôi đã bị bộ phim này truyền cảm hứng đến mức tôi không thể không chia sẻ nó Đây là liên kết

Vài năm sau, John McCarthy , còn được gọi là Cha đẻ của AI, đã đặt ra thuật ngữ “Trí tuệ nhân tạo” trong một đề xuất tại hội nghị Dartmouth nổi tiếng vào mùa hè năm 1956.

3 loại AI

1. ANI (Trí tuệ thu hẹp nhân tạo) được định hướng theo mục tiêu và được lập trình để thực hiện các tác vụ đơn lẻ như dự đoán thời tiết, nhận dạng khuôn mặt, nhận dạng giọng nói trong trợ lý giọng nói, lái xe, v.v.
2. AGI (Trí tuệ tổng hợp nhân tạo) cho phép máy móc suy nghĩ, học hỏi, lĩnh hội và áp dụng trí thông minh của chúng để giải quyết các vấn đề phức tạp và hành động theo cách không thể phân biệt được với con người trong một tình huống nhất định, vẫn là một suy nghĩ lý thuyết. AGI nhằm mục đích đào tạo máy móc đủ thông minh để thực sự hiểu các khía cạnh của con người.
3. ASI (Trí tuệ siêu phàm nhân tạo) là một AI giả định nơi máy móc có khả năng thể hiện trí thông minh vượt trội hơn con người thông minh nhất, công nghệ có khả năng hơn hẳn con người ở mọi khía cạnh, một cảm giác đáng sợ , phải không?

Nó là một tập hợp con của AI sử dụng các thuật toán để cho phép máy tính tự học mà không cần lập trình rõ ràng. Học máy sử dụng các thuật toán thống kê khác nhau để tận dụng structured /unstructured - labeled / unlabelleddữ liệu nhằm đưa ra dự đoán bằng cách trích xuất các mẫu.

Một ví dụ có thể là một chiếc ô tô tự lái học hỏi bằng cách phân tích quãng đường hàng triệu dặm đã lái qua thời gian để tìm ra cách tốt nhất để điều hướng các con đường một cách an toàn vào các giờ khác nhau trong ngày và đêm trong các điều kiện thời tiết khác nhau.

Học kĩ càng

Đây là một cách tiếp cận trong học máy bao gồm nhiều lớp ẩn trong mạng thần kinh nhân tạo để cải thiện độ chính xác trong việc đưa ra dự đoán. Học máy yêu cầu tiền xử lý dữ liệu, bao gồm sự can thiệp của con người trong khi mạng thần kinh trong học sâu có khả năng trích xuất các tính năng; do đó không cần sự can thiệp của con người.

Do cấu trúc nhiều lớp phức tạp, một hệ thống deep learning cần một tập dữ liệu lớn - Big Data để loại bỏ các biến động và đưa ra các diễn giải chất lượng cao.

Mạng lưới thần kinh là gì?

Trọng tâm của các thuật toán học sâu, có một tổ chức nơ-ron phân cấp (tương tự như nơ-ron trong não) theo lớp, với các nơ-ron hay còn gọi là các nút được kết nối với các nơ-ron khác tạo thành một mạng nơ-ron phân lớp được gọi là Mạng nơ-ron nhân tạo (ANN).

Có 3 lớp đối với mạng Nơ-ron - The input layer, the Hidden layer, và the Output layer. ANN cơ bản nhất có thể được tạo thành từ 2 lớp (1 đầu vào & 1 Đầu ra với 0 lớp ẩn). Nó được gọi là mạng nơ-ron sâu vì số lượng lớp ẩn, số lớp ẩn càng nhiều thì mạng càng sâu.

Tế bào thần kinh là khối xây dựng cơ bản của mạng lưới thần kinh. Nó còn được gọi là nút/perceptron. “Nơ-ron bắn cùng nhau, kết nối với nhau” - Các nơ-ron gửi tín hiệu theo kiểu lan truyền ngược/truyền ngược ( chúng tôi sẽ đề cập đến vấn đề này trong nửa sau). Nếu đầu ra của bất kỳ nơ-ron riêng lẻ nào cao hơn giá trị ngưỡng đã chỉ định, nút đó sẽ được kích hoạt và dữ liệu được truyền từ lớp này sang lớp tiếp theo, từ cực bên trái (Lớp đầu vào) sang cực bên phải (Lớp đầu ra) với một số cơ chế phản hồi cho đến khi các thuật toán tìm hiểu weights & biasesđầu ra mong muốn.

Giải thể mạng lưới thần kinh

Bước 1: Đầu vào

Quá trình bắt đầu trong mạng thần kinh ở lớp đầu vào nơi lớp đầu vào đang nhập dữ liệu/giá trị đầu vào. Đây là các biến độc lập và đối với mạng nơ-ron, chúng thường được tiêu chuẩn hóa hoặc chuẩn hóa tùy thuộc vào vấn đề mà chúng ta đang giải quyết.

Bước 2: Tổng trọng số

Sau đó, mỗi giá trị/tín hiệu đầu vào được gán một số trọng số ngẫu nhiên. Các trọng số này là tham số duy nhất quyết định tham số đầu vào nào quan trọng hơn hoặc có mối quan hệ chặt chẽ với đầu ra. Các trọng số này được điều chỉnh thông qua quá trình học ( giảm độ dốc/lan truyền ngược ). Các trọng số được nhân với các đầu vào tương ứng và tất cả được chuyển đến nơ-ron. Do đó, các sản phẩm nhận được được cộng lại bên trong nơ-ron mà chúng tôi gọi là Tổng trọng số.

Bước 3: Kích Hoạt Chức Năng

Một độ lệch được thêm vào tổng trọng số, giống như phần chặn trong một phương trình tuyến tính. Nó được thêm vào chỉ để cải thiện hiệu suất của mô hình. Tổng kết quả sau đó được chuyển vào chức năng kích hoạt, chức năng quyết định số phận của nơ-ron và liệu nó có thể được kích hoạt hay không để truyền tín hiệu về phía trước, do đó có tên là Chức năng kích hoạt .

Đây là một bước rất quan trọng và cần thiết, nếu kích hoạt không được áp dụng cho một nơ-ron, thì tất cả các nơ-ron trên các chiều sẽ chỉ đơn giản là thực hiện phép biến đổi tuyến tính của các đầu vào và mô hình của chúng ta sẽ chẳng khác gì một mô hình hồi quy tuyến tính.

Có nhiều chức năng kích hoạt khác nhau. Bạn có thể thấy nó ở đây . những cái được sử dụng rộng rãi nhất là

1. Sigmoid: Hàm này cho đầu ra trong phạm vi từ 0 đến 1. Đối với các giá trị nhỏ (<-5), hàm này trả về giá trị gần bằng 0 và đối với các giá trị lớn (>5), kết quả của hàm sẽ gần bằng 1.
2. ReLU (Đơn vị tuyến tính đã chỉnh sửa): Hàm trả về 0 nếu nhận được bất kỳ giá trị đầu vào âm nào, nhưng với bất kỳ giá trị dương nào, hàm sẽ trả về giá trị đó dưới dạng max(x, 0) .

Đây là lớp cuối cùng của mạng mang thông tin học được qua lớp ẩn và kết quả là mang lại giá trị cuối cùng. Giá trị đầu ra có thể là Nhị phân, Liên tục hoặc Phân loại (rời rạc hoặc thực) , tùy thuộc vào chức năng kích hoạt được sử dụng để phân loại, dự đoán hoặc tạo dữ liệu. Bước cuối cùng là tính toán sai số bằng cách lấy chênh lệch giữa giá trị thực và giá trị dự đoán.

Vì vậy, đây là những gì xảy ra tại một nút/nút/nơ-ron duy nhất của lớp. Chúng ta có thể thêm nhiều perceptron vào một lớp và tất cả sẽ trải qua cùng một quy trình.

và tất nhiên, chúng tôi có thể thêm bao nhiêu lớp mà phần cứng của chúng tôi có thể xử lý :) để làm cho mạng lưới thần kinh thực sự sâu và mạnh mẽ. Nói chung, một mạng có nhiều hơn ba lớp (bao gồm cả đầu vào và đầu ra) đủ điều kiện là học sâu. Bằng cách tăng số lượng tế bào thần kinh và lớp , chúng ta có thể tạo ra các mô hình đủ mạnh để giải quyết các vấn đề/mẫu phức tạp bằng cách xử lý hàng triệu tỷ tham số.

Nhưng làm thế nào để các tế bào thần kinh học?

Feedforward so với Backpropagation

Quá trình trên mà các giá trị đi từ lớp đầu vào đến lớp đầu ra được gọi là Feed Forward Algorithmhoặc Forward Propagation& nó khá rõ ràng.

Khi chúng tôi tính toán lỗi, chúng tôi cần giảm thiểu nó và để làm được điều đó, chúng tôi sẽ phải điều chỉnh trọng số theo cách thủ công cho từng nút để hiểu được tác động của nỗi đau này ngoài sức tưởng tượng

Điều này dẫn đến Backpropagation, đó là một thuật toán được thiết kế để điều chỉnh trọng số dựa trên các lỗi thu được từ các giá trị đầu ra cùng một lúc.

3 khung học sâu hàng đầu

1. TensorFlow : Đó là một khung mã nguồn mở được phát triển đểBrain Team - Google Research chạy máy học, học sâu cũng như các khối lượng công việc phân tích thống kê và dự đoán khác. Nó có thể được sử dụng trong nhiều nhiệm vụ nhưng tập trung đặc biệt vào đào tạo và suy luận về mạng lưới thần kinh sâu.
2. PyTorch : Khung này dựa trên thư viện Torch, được sử dụng cho các ứng dụng như Thị giác máy tính và xử lý ngôn ngữ tự nhiên, ban đầu được phát triển bởiMeta AIvà hiện là một phần củachiếc ô. Linux Foundation
3. Máy ảnh : Một thư viện phần mềm nguồn mở cung cấp giao diện Python cho các mạng thần kinh nhân tạo. Máy ảnh hoạt động như một giao diện cho thư viện TensorFlow.

1. Chăm sóc sức khỏe.
2. Xe tự hành.
3. Trợ lý ảo.
4. Phát hiện gian lận.
5. Cá nhân hóa.
6. Tầm nhìn máy tính.
7. Nông nghiệp.
8. Xử lý ngôn ngữ tự nhiên.
9. Nhận dạng giọng nói.
10. Bản dịch vv

1. Nó cần một lượng dữ liệu khổng lồ - Big Data.
2. Đắt tiền để thực hiện.

Tôi hy vọng mình có thể giải được một số từ thông dụng xung quanh việc học sâu. Nếu bạn có bất kỳ câu hỏi nào hoặc tôi đã bỏ lỡ bất kỳ điều gì ở đây , vui lòng loại bỏ chúng trong phần bình luận.

Tôi sẽ cố gắng đưa ra nhiều khái niệm về Máy học/Khoa học dữ liệu hơn và sẽ cố gắng chia nhỏ các thuật ngữ và khái niệm nghe có vẻ hoa mỹ thành những khái niệm đơn giản hơn.

Tôi hy vọng bạn thích bài viết này! Bạn có thể theo dõi tôi Afaque Umer để biết thêm các bài viết như vậy.

Cảm ơn bạn đã đọc Tiếp tục học hỏi Tiếp tục chia sẻ Luôn tuyệt vời

Người giới thiệu:

1. IBM
2. Phân tích Vidhya
3. Hướng tới khoa học dữ liệu
4. Javtpoint
5. v7labs
6. Wikipedia