ml-formulas
ml-formulas copied to clipboard
delta2323
機械学習・統計学・理論計算科学などに出てくる等式・不等式を集めていきます
確率分布間距離の比較についてのエントリが複数あるため (Le Camの不等式，Pinskerの不等式)，距離尺度の定義の一覧と，それらの強弱関係をまとめたページがあると良いかもと思いました． ## 距離尺度の例 * Total variation distance * Hellinger distance * Wasserstein distance * Kullback--Leibler divergence * chi^2-divergence * Renyi divergence * Levy metric, Prokhorov metric * Ky...
# Hypercontractive不等式 ## ステートメント 関数$f\colon\{-1,1\}^n \to \mathbb{R}$と実数$\rho \in [-1,1]$に対し， $$ T_\rho f(x)=\mathbb{E}_{y∼N_\rho(x)}[f(y)] $$ と定義する． ここで$y∼N_\rho(x)$とは，各$i \in \{1,\ldots,n\}$について独立に $$ y_i = \begin{cases} x_i & \text{確率 } \frac{1+\rho}{2}\\ -x_i & \text{確率 }...
