最小二乗法・交互最小二乗法

本書は，最小二乗法と交互最小二乗法およびその計算に関連する話題を取り上げたものである。 　最小二乗法は，現代統計学において，推定値を求めるときに最もよく利用されるが，意外と原理や考え方の基本に立ち戻って説明されることは少ない。また，質的データの最適変換や複数の制約条件から推定値を求める同時推定などに利用される交互最小二乗法も，最小二乗基準の立場から個別手法の解説を行っているものは多くない。そこで，最小二乗基準を核として，最小二乗法と交互最小二乗法のそれぞれについて，理論，性質，計算へと説明を進め，両手法の深い理解を図ろうとするのが本書である。特に，それぞれの導入部分では，わかりやすい例を用いて原理の説明を行う工夫をし，交互最小二乗法では，それが利用される推定法として，非計量主成分分析のみならず，最近の手法（k平均クラスタリング，同時プロクラステス分析，スパース行列因子分析）についても触れている。さらに，効率的な計算として取り上げた交互最小二乗法の計算の加速化は，他では多く取り上げられていない話題である。 　ツールとして使っているが，意外と正確なところを知らない最小二乗法と交互最小二乗法の原理を理解し，積極的に問題解決に応用してもらうことを意図した解説書が本書である。 第1章　最小二乗法 1.1　原理 　　1.1.1　二乗基準で最小化するとは 　　1.1.2　もっともらしい値を求める 1.2　統計手法への利用 　　1.2.1　平均値 　　1.2.2　回帰直線 　　1.2.3　直交回帰直線 1.3　最小二乗問題の計算と性質 　　1.3.1　最小二乗問題における最小解 　　1.3.2　最小二乗推定量の性質 　　1.3.3　一般化最小二乗法 1.4　最小二乗法の計算におけるその他の話題 　　1.4.1　制約条件がある場合：ラグランジュの未定乗数法の利用 　　1.4.2　最小二乗法と最尤法 第2章　交互最小二乗法 2.1　原理 　　2.1.1　最小二乗基準の最小化の交互反復 　　2.1.2　一般的定式化 2.2　交互最小二乗法の代表例 　　2.2.1　多変量カテゴリカルデータの分析 　　2.2.2　非計量主成分分析の骨子 　　2.2.3　最適尺度法 　　2.2.4　非計量主成分分析の適用例 2.3　交互最小二乗法にできることとその評価法 　　2.3.1　最小二乗基準の凸性と大域・局所解 　　2.3.2　多重スタート法とシミュレーション 2.4　統計解析法への応用 　　2.4.1　k 平均クラスタリング 　　2.4.2　同時プロクラステス分析 　　2.4.3　行列因子分析とスパース制約 第3章　関連する研究と計算環境 3.1　交互最小二乗法における計算の加速化 　　3.1.1　非計量主成分分析の非計量ALS法 　　3.1.2　非計量ALS法の加速の考え方 　　3.1.3　vector εアルゴリズム 　　3.1.4　vector εアルゴリズムによる非計量ALS法の加速 　　3.1.5　加速性能の評価 3.2　非計量主成分分析の計算：Rパッケージhomals 　　3.2.1　Rパッケージhomalsの主要な関数 　　3.2.2　homalsによる実行結果 参考文献 索　　引