Microsoft Cognitive Toolkit (CNTK) - Introdução

Neste capítulo, aprenderemos o que é CNTK, suas características, diferença entre sua versão 1.0 e 2.0 e importantes destaques da versão 2.7.

O que é o Microsoft Cognitive Toolkit (CNTK)?

O Microsoft Cognitive Toolkit (CNTK), anteriormente conhecido como Computational Network Toolkit, é um kit de ferramentas gratuito, de código aberto e de nível comercial que nos permite treinar algoritmos de aprendizagem profunda para aprender como o cérebro humano. Isso nos permite criar alguns sistemas populares de aprendizado profundo, comofeed-forward neural network time series prediction systems and Convolutional neural network (CNN) image classifiers.

Para um desempenho ideal, suas funções de estrutura são escritas em C ++. Embora possamos chamar sua função usando C ++, a abordagem mais comumente usada para o mesmo é usar um programa Python.

Recursos do CNTK

A seguir estão alguns dos recursos e capacidades oferecidos na versão mais recente do Microsoft CNTK:

Componentes integrados

• O CNTK possui componentes integrados altamente otimizados que podem lidar com dados multidimensionais densos ou esparsos de Python, C ++ ou BrainScript.

• Podemos implementar CNN, FNN, RNN, normalização em lote e sequência a sequência com atenção.

• Ele nos fornece a funcionalidade para adicionar novos componentes principais definidos pelo usuário na GPU do Python.

• Ele também fornece ajuste automático de hiperparâmetros.

• Podemos implementar aprendizagem por reforço, redes adversárias gerativas (GANs), aprendizagem supervisionada e não supervisionada.

• Para conjuntos de dados massivos, o CNTK possui leitores otimizados integrados.

Uso de recursos de forma eficiente

• O CNTK nos fornece paralelismo com alta precisão em várias GPUs / máquinas via SGD de 1 bit.

• Para caber nos maiores modelos de memória GPU, ele fornece compartilhamento de memória e outros métodos integrados.

Expresse nossas próprias redes facilmente

• CNTK tem APIs completas para definir sua própria rede, alunos, leitores, treinamento e avaliação de Python, C ++ e BrainScript.

• Usando CNTK, podemos avaliar facilmente modelos com Python, C ++, C # ou BrainScript.

• Ele fornece APIs de alto e baixo nível.

• Com base em nossos dados, ele pode moldar automaticamente a inferência.

• Ele tem loops de Rede Neural Recorrente Simbólica (RNN) totalmente otimizado.

Medindo o desempenho do modelo

• O CNTK fornece vários componentes para medir o desempenho das redes neurais que você constrói.

• Gera dados de registro do seu modelo e do otimizador associado, que podemos usar para monitorar o processo de treinamento.

Versão 1.0 vs Versão 2.0

A tabela a seguir compara o CNTK Versão 1.0 e 2.0:

Versão 1.0	Versão 2.0
Foi lançado em 2016.	É uma reescrita significativa da versão 1.0 e foi lançada em junho de 2017.
Ele usava uma linguagem de script proprietária chamada BrainScript.	Suas funções de framework podem ser chamadas usando C ++, Python. Podemos carregar facilmente nossos módulos em C # ou Java. BrainScript também é compatível com a versão 2.0.
Ele roda em sistemas Windows e Linux, mas não diretamente no Mac OS.	Também é executado em sistemas Windows (Win 8.1, Win 10, Server 2012 R2 e posterior) e Linux, mas não diretamente no Mac OS.

Destaques importantes da versão 2.7

Version 2.7é a última versão principal lançada do Microsoft Cognitive Toolkit. Tem suporte total para ONNX 1.4.1. A seguir estão alguns destaques importantes desta última versão lançada do CNTK.

• Suporte total para ONNX 1.4.1.

• Suporte para CUDA 10 para sistemas Windows e Linux.

• Suporta loop avançado de Redes Neurais Recorrentes (RNN) na exportação ONNX.

• Pode exportar mais de modelos de 2 GB no formato ONNX.

• Ele suporta FP16 na ação de treinamento da linguagem de script BrainScript.