open access

https://hdl.handle.net/2115/48459

連続データにも使えるMDL基準の一般化

日本語

2011-06

ERATO湊離散構造処理系プロジェクト

ERATOセミナ2010 : No.26. 2010年11月12日

機械学習の知識や科学の法則を発見するための基準として、MDL原理がよく適用される。実データが与えられたときに、規則を記述し、その規則で説明しきれないデータの箇所(例外もしくは雑音とよばれる)を記述際に、両方の記述長の合計を最小にする規則を、簡潔でデータに対して適合した規則とみなす原理である。MDLに関しては、理論的な側面は、1990年代に(解決できるものは)ほぼ解決されたといわれている。しかしながら、ファイルやテキストのようにひずみのない(完全に復元可能な)圧縮では、データ列の個々の記号が有限集合に含まれていることが前提となる。すなわち、MDL原理は、実データが連続である場合には、適用されない。非常に大きな問題点でありながら、着手されず、放置されてきた問題であるといってよい。本研究では、Radon-Nykodim微分を用いて、記述長ではなく記述長の差を計算して、規則間の優劣を決定する方法を提案する。従来の実データが有限である場合をすべて含む一般化になっている。応用として、Bayesianネットワークの構造学習で、一部の確率変数が連続データを含む場合も全く問題なく対応できる(自然な一般化である)ことを示す。

会議発表資料

Not Applicable (or Unknown)

2186-1846