model-acceleration-tutorial

CyberAgent AI Lab研修： "モデルコードの高速化・最適化チュートリアル"

Table of Contents

1. はじめに

1-1. このチュートリアルの目的 (1 min)

1-2. 解説すること・しないこと (1 min)

2. モデルをデプロイするときのランタイムの選択肢

2-1. ランタイムの選択肢 (15 min)

2-2. モデルのデプロイ先デバイスとランタイムの組み合わせ (5 min)

3. 研究からプロダクト転用を見越したモデル設計時に注意したいこと

3-1. CPU・GPU・TensorRT、他HW・FW推論を意識した設計 (1 min)

3-2. モデル構造アンチパターン・デザインパターン

3-2-1. ハンズオンのための環境準備 (5 min)

3-2-2. 前処理 (5 min, Google Colaboratory上です)

3-2-3. モデル本体 (10 min, Google Colaboratory上です)

3-2-4. 後処理 (5 min, Google Colaboratory上です)

4. おわりに

4-1. おわりに (1 min)