PyTorch - Mạng nơ ron đệ quy
Mạng nơ-ron sâu có một tính năng độc quyền cho phép tạo ra những đột phá trong việc học máy hiểu quá trình ngôn ngữ tự nhiên. Có thể quan sát thấy rằng hầu hết các mô hình này coi ngôn ngữ như một chuỗi các từ hoặc ký tự phẳng và sử dụng một loại mô hình được gọi là mạng nơ-ron lặp lại hoặc RNN.
Nhiều nhà nghiên cứu đi đến kết luận rằng ngôn ngữ được hiểu tốt nhất đối với cây phân cấp các cụm từ. Loại này được bao gồm trong mạng nơ-ron đệ quy có tính đến cấu trúc cụ thể.
PyTorch có một tính năng cụ thể giúp làm cho các mô hình xử lý ngôn ngữ tự nhiên phức tạp này dễ dàng hơn rất nhiều. Nó là một khuôn khổ đầy đủ tính năng cho tất cả các loại học sâu với sự hỗ trợ mạnh mẽ cho thị giác máy tính.
Các tính năng của mạng nơron đệ quy
Một mạng nơron đệ quy được tạo ra theo cách nó bao gồm việc áp dụng cùng một tập trọng số với các cấu trúc giống như đồ thị khác nhau.
Các nút được duyệt theo thứ tự tôpô.
Loại mạng này được đào tạo theo phương thức phân biệt tự động ngược lại.
Xử lý ngôn ngữ tự nhiên bao gồm một trường hợp đặc biệt của mạng nơron đệ quy.
Mạng tensor nơ ron đệ quy này bao gồm các nút chức năng thành phần khác nhau trong cây.
Ví dụ về mạng nơron đệ quy được trình bày dưới đây:
