長距離のモデル

yasuhiro-r中心で確率的言語モデルの勉強会があっている。

ちょっとヘルプを求めらたので、線形補完法を例に出しつつEMを説明したり(去年の自然言語処理特論の最終レポートがちょうどいい題材になった)。3章の後半のほうで長距離のモデルとして

• キャッシュモデル
• トリガーモデル

が出てきていた。去年の10月とかにやったような気もするけど、さっぱり忘れていたのでいい復習になった。これなら履歴のところをlinerに持っておけばいいだけなので、確かに長距離見れますね。最大エントロピー法が長距離のうんぬんのところは今いち分かってないので、MEのところにきたら復習しよう。