正準相関分析(CCA)は古くからある多変量解析の手法の１つで、説明変数と目的変数の両方が複数（多変量）である場合に用いる。回帰分析と違うのは目的変数にも変換を加える点だが、目的変数が１つである場合には重回帰分析と同じになる。内容としては両方の変数群を線形変換し ... もっと読む

関数解析は、微積分の線形代数化や無限次元の線形代数とも言われて機械学習にも応用される。関数解析では、関数を集合の要素とした関数空間を考える。まず基本となるものが線形空間（ベクトル空間）で、これは和とスカラー倍の演算が定義された集合である。線形空間にノルム ... もっと読む

確率過程は時間によって変化する確率変数であり、サンプルと時間の２つをパラメータとする関数である。確率過程では時間の経過と共に情報（生成される事象の数）は増大して、これをフィルトレーションと呼ぶ。 確率過程において時間での増分が独立で平均が一定となるときに ... もっと読む

古典的確率論おいて確率は場合の数の割り算によって定義されていて、これは直感的で分かりやすい。しかし20世紀になるとコルモゴロフの公理的確率論によってより一般的に定義された。公理的確率論では、（標本空間、事象、確率測度）の組からなる確率空間を考える。確率は、 ... もっと読む

ベイズの確率計算で使用されるMCMC法（マルコフ連鎖モンテカルロ法）だが、効率的な数値積分をしているという側面がある。数値積分は細かい区間に分けて足し合わせていけば求めることが出来る（求積法）が、次元が大きくなると計算量が増大する。そこで乱数を使用することで ... もっと読む