第4回：SASとJMPで一生の研究を完成
－学位取得まで－

16.人生をかけた研究

1996年に大学に移って良かったことの一つに、研究業績として評価が低いので嫌う研究者が多いですが、年2回経済学部論集が出され自分の論文を投稿できることがあります。大学に赴任した1996年以降ウイーン滞在の1回を除いて全ての号に寄稿しています。学会誌と異なり、査読者とのやり取りの時間が限りなく少ないので、タイムリーに成果を発表し、自分にとっても研究履歴が分かります。最適線形判別関数の研究は、空理空論でなく、多くの実証研究に裏付けられているので、タイムリーに記録を紀要に残せたことはありがたいことです。

16.1博士号の研究テーマの決定

日本医科大学の三宅章彦先生とは、Fisherの仮説を認めたうえで母集団と標本の誤分類確率に関する研究[41]を行いました。また誤分類数最小化(Minimum Number of Misclassifications, MNM)基準による最適線形判別関数を、ヒューリスティックなアプローチで行いました［53］。IBMの汎用機でアンダーテーブル研究として行ったため体系的な研究ができず、CPDデータを用いた6変数の分析結果だけです。また、SASで正規乱数を作って評価データとして分析しましたがそれほど良い結果ではありませんでした。そこで研究はそれ以上継続せず、終わりになりました。

1995年の秋に両国の住商情報システム（株）で私が大会長になり、日本計算機統計学会のシンポジュームを開きました。1996年には成蹊大学の教員になってからすぐに、岡山大学の垂水先生から「うちで学位をとりませんか」といわれていたが回答していませんでした。1997年9月に東北大学で行動計量学会がありました。夕食を食べに街に出ると、垂水先生にあって再度すすめられました。「大学に移って間もないので、岡山まで通うことはできないのですが?」というと「論文博士で考えています」ということで、数日考えて学位申請することにしました。研究テーマを夜考えていて、「数理計画法は関数の最大/最小値を求める学問である」から、誤分類数最小化基準による最適線形判別関数が定式化できないはずがないと思い考え始めると、すぐに定式化を思いつきました。すでにLinus教授のテキスト（実践数理計画法(朝倉、1992)）の翻訳で回帰分析の数理計画法による定式化は知っていたので、それほどハードルは高くありませんでした。もし私が普通の研究者のように、既存の論文を探していたら1980年代から線形計画法を使ったL1ノルム基準による判別関数の論文が数多く出ていたので、整数計画法を用いた最適線形判別関数などの研究は行わなかったでしょう。実はその事実を知ったのは、2005年ごろLinus 教授から届いた先行研究の論文リストからです。

自分の人生の勉強のテーマの統計と数理計画法はソフトウエアを使って独学でマスターしていましたが、それらが連携していませんでした。日本では統計と数理計画法は数理工学科などで教えられていますが、同級生であっても専攻が違うと研究では永遠の平行線になります。それがこれでようやく自分の中でもつながることになりました。

16.2博士号取得まで（1998年～2000年3月）[54－60]

（1）FisherのアイリスデータとCPDデータによる実証研究

Fisherのアイリスデータは、FisherがLDFの検証に用いたため、こう呼ばれていますが、実際はEdgarが集めたデータです。 Fisherの仮説も誰が考えたのかわかりません。折につけ、「ご存知の方は教えてください」と言っていますがいまだに分かりません。そしてLDFをFisherの仮説を満たさないデータに適用してはいけないという方もいます。「判別したい2群が多次元正規分布か否かを示す良い統計量はないので、どう判定するのでしょうか。」このように本人の同意を得ないでFisherの名前を付けるのは、Fisherも望んでいないと思うがいかがでしょうか？本データは、相関係数を散布図で事前にチェックしないと間違った判断をするという統計入門の良い教材になります。IP-OLDFとLDFとQDFで、15個(=2⁴-1)の判別モデルを分析し15個の誤分類数を評価しました。2群の分散共分散行列が等しくないときLDFに代わってQDFを用いることを判別理論で勧めていますが、その場合でもQDFの誤分類数が多いものが出てくるのでこのガイドラインは間違っていることが分かりました。

CPDデータは17個の計測値と、2組の2変数の差で作られた2変数の計19変数あります。作成された2変数が判別に重要であることを示すことを目的としていますが、VIFで多重共線性があることが分かります。19変数と多重共線性を解消した16変数で変数増加法と変数減少法を行い40個の判別モデルに限定して考えます。この成果はSCSのIBM上ですでにSASのRSQUAREを使って分析していたものを再利用し、QDFとIP-OLDFとLP-OLDFの誤分類数を付け加えました。図2の上は、19変数のフルモデルに対して左は変数増加法、右は変数減少法の誤分類数をプロットしました。実線はQDFを表します。変数増加法では10変数まで誤分類数は減少し、それ以降増えるのは多重共線性に関係する変数がモデルに入ってくるからです。点線はLDFで、誤分類数が13以下に減らないことが分かります。証明したわけではありませんが変数選択法で選ばれた説明力のある有力な変数で作られた分散共分散である程度の構造が決まってしまうのではないかと考えています。これに対してIP-OLDFとLP-OLDFは8変数でLP-OLDFが悪くなっていますが、単調に減少しています。これからMNMの単調減少性という重要な事実が分かります。右の変数減少法では、QDFは6変数まで誤分類数が増加し、多重共線性に関係する変数が掃き出されると減少しています。それ以外は変数増加法とほぼ同じ傾向を示します。

図の下は、16変数のモデルの誤分類数のプロットで、QDFは多重共線性がなくなったのでどちらもほぼ減少傾向を示します。その他は19変数とほぼ同じ傾向です。以上からQDFは多重共線性に対して問題があることが分かります。このような大きな瑕疵をもつ手法は、利用すべきではないということです。

図3は、QDF (1点鎖線)、LDF (直線)、LP-OLDF（点線）、MNM（下の直線）の誤分類数を目的変数にしてMNMで単回帰したものです。X軸はMNMの値なので大きくなると説明変数が少ないことを表します。これによってQDFは一般的にMNMより12例（誤分類確率で0.05）悪くなります。LDFはフルモデルでは12例ほど悪いですが、説明変数が少なくなると2例まで少なくなります。

（2）2変量正規分布による教師データと評価データの検証

IP-OLDFとLP-OLDFに関する理論と、アヤメとCPDデータの実証研究を途中成果として垂水先生に送ったところ、乱数実験も付け加えるようコメントが来ました。統計研究では、乱数データによって研究内容の正当性を証明するのが常套手段です。しかし、「現実のデータはFisherの仮説を満たすものが少ない」という仮説にたって研究を進める予定であったので、種々の特徴のある実データで検証しようと考えていました。しかし、教師データ(内部標本)で判別関数を作成し、分析に用いていない評価データ（外部標本）で最終的に評価する必要があります。実データを教師データとして良い結果を得ましたが、評価データに関する見通しがありませんでした。そこでSpeakeasyという数学ソフトでXの標準偏差が2で、Yが1の2変量正規乱数を400個作成しました。最初の100件は群1の教師データ、次の100件を群1の評価データとし、次の200件を群2の教師データと評価データとしました。

そして群1の平均を原点に固定し、0度、30度、45度、60度、90度で回転した5組の標本を行列の積で作成しました。次に群2のXの値には0から8までの整数i、Yに0、2、4の整数jを加えて平行移動しました。これらの5*9*3個の組合せの教師と評価データを作成して、検証を行うことにしました。群1で回転を0度、群2でY=0に固定した8組の教師データと評価データのペアだけがFisherの仮説を満たします。それ以外はお互いの長軸が平行でないため、XとYの分散が異なり、Fisherの仮説の「2群の分散共分散が等しい」を満たさない状態を作ることができます。

教師データで各誤分類数をMNMで単回帰分析し「IP-OLDF＜QDF＜LDF＜ LP-OLDF」という傾向にあることが分かります。 評価データでは「QDF＜IP-OLDF＜LDF＜ LP-OLDF」という結果になり、QDFが一番良くなりました。わずか2変数の正規乱数であるため、LDFよりQDFの判別成績が良くなります。乱数を用いることで、頭の中で考えた分散共分散が異なる場合は、LDFに代わってQDFを用いるというガイドラインの正しいことが分かります。しかし、多重共線性にあるCPDデータの実証研究で、QDFには問題であることが分かったので、このガイドラインは利用しない方がよいことになります。

(3)学位取得

1999年秋に、田中豊先生を主査、垂水先生を副査とした論文審査が行われました。英語での1時間の発表を何とか乗り切りました。そして2000年3月に学位授与式に臨みました。1971年の大学卒業式以来でした。実は研究を始めた当初、100頁以上の英語の学位論文と、ドイツ語の筆記試験があると聞かされ、辞退しようかと思いました。数学科にはいったのは、Gaussにあこがれてゲッチンゲン大学に留学したいという漠然とした夢がありました。入学後、フランスのブルバキと呼ばれる数学者集団の書籍の影響か、フランス語を取りました。大学のドイツ語の先輩教員に速習法を聞きましたが、できの悪い学生のような質問に対して要領を得ませんでした。学位をとるために、ドイツ語の勉強に時間を割くつもりもありませんでした。しばらくして、今年から学位論文が英語であれば、第2外国語の筆記試験がなくなっていたと連絡があり、首一つで助かりました。実は学位取得後の研究で一番苦労したのは、現実に合った評価データを得ることでした。実は、2004年にウイーンでJMPの解説書のレビューをしていて乱数生成法が載っていて、もう少し早くJMPユーザーになっておればと思いました[24]。しかし苦しまぎれに、群1を回転させ、群2は平行移動させて135組の異なった2群の判別問題を作るアイデアは、自分としては気に入っています。読者も分析したいデータを用いて条件を変えて評価データを自由に作成すればよいと考えます。

また、2000年にヘルシンキで開催されたISIの後で、エストニアの古都のタルトの会議で発表しました。幸いに論文の投稿を勧められ10頁の論文が掲載されました[58]。幸先は良かったのですが、その後に外国語論文の投稿をしたところ、「信じられない」とか「分からない」というおよそ研究者のコメントとは思えない理由でリジェクトされることが多かったです。何も理論だけでなく、検証可能な実証研究も行っているのに中々理解されないことは、自分にとって残念に思います。すなわち、信じられない結果であれば自分で簡単に追試してみればすぐに分かることです。