【公開講座】ディープラーニング ハンズオンセミナー　PyTorchコース　E資格受験プラン

1．イントロダクション

• ・人工知能、機械学習、ディープラーニングとは
• ・機械学習に必要な数学
• ・機械学習の３大トピック
• ・内挿と外挿

2．微分

• ・微分は「何」に使えるのか？
• ・導関数を求めよう
• ・微分の公式
• ・偏微分

3．単回帰分析（数学）

• ・「モデル」を決める
• ・「評価関数」を決める
• ・評価関数を「最小化」する

4．Python入門

• ・プログラミングの環境構築
• ・変数
• ・基本構文
• ・複数の変数を扱う
• ・制御構文
• ・関数

5．単回帰分析(実装）

• ・Numpyの数値計算
• ・Pandasによるデータベース操作
• ・Matplotlibでグラフ描画
• ・実データに対する単回帰分析の実装

6．線形代数

• ・スカラー,ベクトル,行列
• ・行列の演算
• ・サイズ感
• ・転置,単位行列,逆行列
• ・ベクトルで微分

7．重回帰分析(数学)

• ・「モデル」を決める
• ・「評価関数」を決める
• ・評価関数を「最小化」する

8．重回帰分析(実装)

• ・行列演算の基礎
• ・パラメータの導出
• ・実データで演習

9．統計

• ・主な統計量
• ・正規分布と3σ法
• ・スケーリング

10．外れ値を考慮した実装

• ・外れ値除去
• ・モデル構築
• ・スケーリングとパラメータの確認

11．ビジネス活用

• ・現場で機械学習を導入できる人材とは

1．イントロダクション

• ・人工知能
• ・学習と推論
• ・機械学習
• ・ディープラーニング
• ・機械学習の開発フロー

2．環境構築

• ・Microsoft Azure で VM 作成
• ・VM への接続
• ・Nvidia-Docker で GPU 環境構築

3．復習テスト（数学）

• ・微分
• ・線形代数
• ・確率統計

4．復習テスト（Python）

• ・基礎
• ・応用編（Class）
• ・Pandas
• ・Matplotlib と Seaborn

5．ディープラーニングの数学1

• ・ニューラルネットワークの構造
• ・順伝播の計算
• ・逆伝播の計算

6．PyTorch 入門

• ・PyTorch とエコシステム
• ・ネットワークの定義と順伝播の計算

7．ネットワークの学習

• ・データセットの準備
• ・データセットの分割
• ・ネットワークの学習
• ・評価指標の追加

8．PyTorch Lightning による簡略化

• ・PyTorch Lightning とは
• ・データの準備
• ・ネットワークの定義と学習
• ・評価指標の算出
• ・ログの記録
• ・検証とテストの実装

1．オープニング

• ・Docker の起動
• ・Day1 振り返り

2．分類の実装

• ・分類の実装
• ・早期終了の実装
• ・精度向上の実装
• ・学習済みモデルを使用した推論

3．回帰の実装

• ・演習形式で回帰の実装

4．画像処理の基礎

• ・Pillow の使い方
• ・OpenCV の使い方
• ・フィルタ処理

5．画像処理の理論

• ・画像の基礎
• ・CNN 以前の画像処理
• ・畳み込みの計算
• ・パディング処理
• ・プーリングの計算
• ・CNN の流れ

6．畳み込みニューラルネットワークの実装

• ・画像データの扱い方
• ・畳み込み処理の実装
• ・プーリング処理の実装
• ・ベクトル化の実装

7．画像分類

• ・CNN の定義と学習
• ・学習済みモデルの保存と推論

8．性能改善

• ・ファインチューニング
• ・データ拡張

1．オープニング

• ・Docker の起動
• ・Day2 振り返り

2．時系列解析の理論

• ・時系列データとは
• ・時系列データの構造
• ・再帰型ニューラルネットワーク

3．時系列解析の基礎

• ・時系列データの取得
• ・時系列データの可視化
• ・Prophet を使用した時系列解析

4．再帰型ニューラルネットワークの実装

• ・LSTM を使用した株価予測
• ・複数日データを使用した実装
• ・複数 LSTM で実装

5．自然言語処理の理論

• ・自然言語処理とは
• ・カウントベース手法の理論

6．自然言語処理の基礎

• ・形態素解析
• ・名詞抽出の実装
• ・特徴量変換の実装

7．文書分類

• ・自然言語処理モデルの定義と学習
• ・自然言語処理の特徴量を変更しての実装

8．アウトロダクション

• ・おすすめ学習書籍やコンテンツの紹介
• ・スキルチェックテスト
• ・アンケート

1.数学～線形代数～

• ・ノルム
• ・内積
• ・行列式
• ・三次の逆行列
• ・特異値分解
• ・ラグランジュの未定乗数法
• ・主成分分析

2．数学～確率統計～

• ・期待値
• ・確率分布
• ・ベイズ則
• ・尤度関数

3．情報理論

• ・情報量
• ・エントロピー
• ・KLダイバージェンス

4．機械学習～基礎・パーセプトロン～

• ・機械学習アルゴリズム
• ・微分で必要な知識
• ・パーセプトロン

5．機械学習～サポートベクターマシン～

• ・サポートベクターマシン

6．機械学習～ロジスティック回帰～

• ・ロジスティック回帰

7．機械学習〜k-means・最近傍法〜

• ・k-means
• ・最近傍法

8．深層学習〜誤差逆伝播法・過学習対策〜

• ・最急降下法の復習
• ・誤差逆伝播法
• ・ドロップアウト
• ・正則化

9． 深層学習〜最適化〜

• ・最適化-1-最急降下法
• ・最適化-2-SGD
• ・最適化-3-モーメンタム
• ・最適化-4-ネステロフのモーメンタム
• ・最適化-5-Adagrad
• ・最適化-6-RMSProp
• ・最適化-7-Adam

10．深層学習〜CNN・R-CNN〜

• ・CNN-1-有名なモデル1
• ・CNN-2-有名なモデル2
• ・R-CNN-1-概要
• ・R-CNN-2-CNNの復習
• ・R-CNN-3-CNNの中身
• ・R-CNN-4-IoU
• ・R-CNN-5-Fast R-CNN
• ・R-CNN-6-Multi task Loss
• ・R-CNN-7-Faster R-CNN
• ・SemanticSegmentation-1-U-net
• ・SemanticSegmentation-2-FCN
• ・SemanticSegmentation-3-SegNet

11．深層学習〜RNN〜

• ・RNN-LSTM1
• ・RNN-GRU
• ・RNN-GradientClipping
• ・RNN-双方向RNN

12．深層学習〜生成モデル〜

• ・生成モデル-AE
• ・生成モデル-VAE
• ・生成モデル-GAN

13．深層学習〜強化学習〜

• ・強化学習

14．深層学習〜計算グラフ〜

• ・計算グラフ -計算グラフとは
• ・計算グラフ -足し算、掛け算
• ・計算グラフ- Affine変換

15．深層学習〜NN実装〜

• ・NumpyでNN実装
• ・NumpyでNN実装-レイヤとしてまとめていく
• ・NumpyでNN実装-逆伝播-Affine
• ・NumpyでNN実装- 各種Optimizerについて
• ・NumpyでNN実装-NNの構造
• ・NumpyでNN実装-データの準備
• ・NumpyでNN実装-学習に必要な準備
• ・NumpyでNN実装-学習
• ・NumpyでNN実装-推論
• ・RNN-Attention

16．新シラバス

• ・正規化
• ・モデル圧縮
• ・分散処理
• ・MobileNet
• ・DenseNet
• ・Pix2Pix
• ・WaveNet
• ・Transformer
• ・AlphaGo