線性代數

  1. 標量:單一數字 $n\in R$
  2. 向量:一維 $x\in R^n$
  3. 矩陣:二維 $x\in R^{m\times n}$
  4. 張量:超過二維

微積分

泰勒展開式:用一多項式f(x)去近似目標函數g(x), 並藉由f(0)=g(0) & f'(0)=g'(0) ... 來計算出f(x)的參數值

1. 微分

  1. 乘法律:f, g是x的函數 ⇒ $y = fg$ ⇒ $y' = \frac{dy}{dx}=f'g+fg'$
  2. 除法律:f, g是x的函數 ⇒ $y = \frac fg$ ⇒ $y' = \frac{dy}{dx}=\frac{f'g-fg'}{g^2}$
  3. 連鎖律:g是x的函數 ⇒ $y = f(g(x))$ ⇒ $y' = \frac{dy}{dx}=\frac{dy}{df}\frac{df}{dg}\frac{dg}{dx}$
  4. 對數的微分

統計

統計 vs 概率