안녕하세요, MoonLight입니다. ​ 오늘은 널리 쓰이고 있는 Deep Learning Compiler 몇 가지를 살펴보도록 하겠습니다. ​ ​ 1. TVM ​ 1.0. Overview ​ TVM은 CPU , GPU 그 외의 다른 Deep Learning Accelerator들에 맞게 Model을 Compile하는 Framework입니다. 다양한 Hardware Backend에 맞게 Model을 최적화하고 효율적으로 계산하도록 만들어 줍니다. ​ ​ ​ 1.1. Conversion & Optimization ​ TVM이 Model을 최적화하고 Machine Code를 생성하는 방법을 소개하도록 하겠습니다. ​ 변환하고자 하는 Tensorflow / PyTorch / Onnx File을 입력 받습니다...

안녕하세요, MoonLight입니다. ​ 오늘은 Deep Learning Model을 다양한 환경에서 사용할 수 있도록 해주는 호환 Format인 ONNX에 대해서 알아보도록 하겠습니다. ​ 0. Introduction ONNX(Open Neural Network Exchange)는 Facebook과 Microsoft가 공동으로 개발한 Open Source Project입니다. 현재, 다양한 Deep Learning Framework가 존재하고 있으며, 각 Framework는 각기 다양한 형식으로 훈련된 Model File Format을 사용하며, 서로 호환되지 않습니니다. 내가 구현하려는 서비스에 적합한 Pre-Trained Model이 하필 내가 사용하지 않는 Framework으로 Train되었다던지..

안녕하세요, MoonLight입니다. ​ 오늘은 Deep Learning Model을 목적에 맞게 변화시킬 수 있는 Deep Learning Compiler에 대해서 알아보도록 하겠습니다. ​ 자, 가시죠~! ​ ​ ​ 0. Introduction ​ ​ ​ 우리는 다양한 Deep Learning Framework으로 Model을 만듭니다. 우리가 만든 Model이 실제로 실행되는 환경들은 매우 다양합니다. PC일수도 있고, Edge Device일수도 있고, Mobile Device, Cloud 환경 등등 매우 다양한 Target Device가 존재합니다. 이런 Target Device의 다양화에 어느 정도 대응할 수 있도록 해주는 것이 ONNX입니다. ONNX(Open Neural Network Exc..