Microsoft Cognitive Toolkit (CNTK)-CPU 및 GPU

Microsoft Cognitive Toolkit은 CPU 전용 및 GPU 전용이라는 두 가지 빌드 버전을 제공합니다.

CPU 전용 빌드 버전

CNTK의 CPU 전용 빌드 버전은 최적화 된 인텔 MKLML을 사용합니다. 여기서 MKLML은 MKL (Math Kernel Library)의 하위 집합이며 MKL-DNN 용 인텔 MKL의 종료 된 버전으로 인텔 MKL-DNN과 함께 릴리스됩니다.

GPU 전용 빌드 버전

반면에 CNTK의 GPU 전용 빌드 버전은 다음과 같이 고도로 최적화 된 NVIDIA 라이브러리를 사용합니다. CUBcuDNN. 여러 GPU와 여러 머신에 분산 된 훈련을 지원합니다. CNTK에서 더 빠른 분산 교육을 위해 GPU 빌드 버전에는 다음이 포함됩니다.

  • MSR에서 개발 한 1 비트 양자화 SGD.

  • 블록 모멘텀 SGD 병렬 훈련 알고리즘.

Windows에서 CNTK로 GPU 활성화

이전 섹션에서는 CPU와 함께 사용할 기본 버전의 CNTK를 설치하는 방법을 보았습니다. 이제 GPU와 함께 사용할 CNTK를 설치하는 방법에 대해 설명하겠습니다. 그러나 깊이 들어가기 전에 먼저 지원되는 그래픽 카드가 있어야합니다.

현재 CNTK는 적어도 CUDA 3.0을 지원하는 NVIDIA 그래픽 카드를 지원합니다. 확인하려면 다음에서 확인할 수 있습니다. https://developer.nvidia.com/cuda-gpus GPU가 CUDA를 지원하는지 여부.

따라서 Windows OS에서 CNTK로 GPU를 활성화하는 단계를 살펴 보겠습니다.

Step 1 − 사용중인 그래픽 카드에 따라 먼저 그래픽 카드 용 최신 GeForce 또는 Quadro 드라이버가 있어야합니다.

Step 2 − 드라이버를 다운로드 한 후 NVIDIA 웹 사이트에서 Windows 용 CUDA 툴킷 버전 9.0을 설치해야합니다. https://developer.nvidia.com/cuda-90-download-archive?target_os=Windows&target_arch=x86_64. 설치 후 설치 프로그램을 실행하고 지침을 따르십시오.

Step 3 − 다음으로 NVIDIA 웹 사이트에서 cuDNN 바이너리를 설치해야합니다. https://developer.nvidia.com/rdp/form/cudnn-download-survey. CUDA 9.0 버전에서는 cuDNN 7.4.1이 잘 작동합니다. 기본적으로 cuDNN은 CNTK에서 사용하는 CUDA 상단에있는 레이어입니다.

Step 4 − cuDNN 바이너리를 다운로드 한 후 CUDA 툴킷 설치의 루트 폴더에 zip 파일을 추출해야합니다.

Step 5− 이것은 CNTK 내에서 GPU 사용을 활성화하는 마지막 단계입니다. Windows OS의 Anaconda 프롬프트에서 다음 명령을 실행하십시오-

pip install cntk-gpu

Linux에서 CNTK로 GPU 활성화

Linux OS에서 CNTK로 GPU를 활성화하는 방법을 살펴 보겠습니다.

CUDA 툴킷 다운로드

먼저 NVIDIA 웹 사이트 https://developer.nvidia.com/cuda-90-download-archive?target_os=Linux&target_arch=x86_64&target_distro=Ubuntu&target_version=1604&target_type = runfilelocal 에서 CUDA 툴킷을 설치해야합니다 .

설치 프로그램 실행

이제 디스크에 바이너리가 있으면 터미널을 열고 다음 명령과 화면의 지침을 실행하여 설치 프로그램을 실행하십시오.

sh cuda_9.0.176_384.81_linux-run

Bash 프로필 스크립트 수정

Linux 컴퓨터에 CUDA 툴킷을 설치 한 후 BASH 프로필 스크립트를 수정해야합니다. 이를 위해 먼저 텍스트 편집기에서 $ HOME / .bashrc 파일을 엽니 다. 이제 스크립트 끝에 다음 줄을 포함합니다.

export PATH=/usr/local/cuda-9.0/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-9.0/lib64\
${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
Installing

cuDNN 라이브러리 설치

마지막으로 cuDNN 바이너리를 설치해야합니다. NVIDIA 웹 사이트에서 다운로드 할 수 있습니다.https://developer.nvidia.com/rdp/form/cudnn-download-survey. CUDA 9.0 버전에서는 cuDNN 7.4.1이 잘 작동합니다. 기본적으로 cuDNN은 CNTK에서 사용하는 CUDA 상단에있는 레이어입니다.

Linux 용 버전을 다운로드 한 후 /usr/local/cuda-9.0 다음 명령을 사용하여 폴더-

tar xvzf -C /usr/local/cuda-9.0/ cudnn-9.0-linux-x64-v7.4.1.5.tgz

필요에 따라 경로를 파일 이름으로 변경하십시오.