What You Will Learn!
- 集合，行列，ベクトルなどの線形代数の基礎
- 連立方程式の解釈と一般化逆行列による解法
- 微分の基礎と勾配ベクトル，ヘッセ行列，ヤコビ行列などの行列
- 3つの微分の実装方法：数式微分，数値微分，自動微分
- 制約なし最適化問題と最急降下法，ニュートン法などの代表的な反復法
- 線形回帰と連立方程式の解法
- 正則化を用いたリッジ回帰，lassoなどの解法
- 制約付き最適化問題と制約条件の考え方
- 疑似逆行列の導出：リッジ回帰，最小ノルム解
- 凸最適化の基礎
- 近接作用素，近接法，近接勾配法，射影勾配法
- 双対上昇法，拡張ラグランジュ法，ADMM
- 超平面による識別の考え方と損失関数
- パーセプトロン，ロジスティック回帰
- サポートベクトルマシンと制約付き最適化問題としての定式化
- 2クラス識別問題と多クラス識別問題
- ニューラルネットワークとロジスティック回帰の関係
- 多層ニューラルネットワークと畳込みネットワーク
Description
このレクチャーでは，コンピュータビジョンやパターン認識，画像処理などで使われる数式や考え方，数学的手法を学びます．基礎的な連立方程式の解き方とその解釈，微分と最適化，回帰とスパースモデリング，制約付き最適化問題と凸最適化，識別などの基本的な考え方を，数式を通して理解し，いくつかの問題についてはPythonコードを使って理解を深めます．特に連立方程式Ax=bというよく見かける数式を題材に，顔画像の近似問題としていろいろな手法が定式化できること，また解き方があることを学びます．
Who Should Attend!
- 線形代数と微分の応用例を知りたいエンジニア
- 連立方程式の様々な解法を理解したい学生
- 機械学習の専門書の数式に取り組みたいと思っている開発者
