HPCA 2025で発表された以下の論文を読んでみることにした。
実験環境
Alectoの性能を評価するための実験環境と評価対象を示す。
- 評価環境: Gem5-Fusionシミュレータをベースに、ハイブリット・プリフェッチャ構成を実装したカスタム・シミュレータを使用した。
- システム構成
- OoOのCPU / 8コア構成
- L1Dキャッシュ: 32KB / 8-way / 1-cycle レイテンシ
- L2キャッシュ: 256KB / 8-way / 8-cycle レイテンシ
- L3キャッシュ: 2MB / 16-way / 18-cycle レイテンシ
- メモリ: DDR4-2400相当、80nm DRAMレイテンシ、帯域幅 25.6GB/s
- 評価対象のプリフェッチャ
- ストリーム型プリフェッチャ
- ストライド型プリフェッチャ
- 空間型プリフェッチャ: 近傍のアドレスブロックのアクセス相関を補足する。
- 時間型プリフェッチャ: Triangelを参考に、再利用パタンを補足する。
- 比較対象のベースライン
- NoPrefetch: プリフェッチなし
- DOL: 代表的な静的選択手法
- ICPC: 代表的な出力ベースの選択手法
- Bandit: 代表的な強化学習ベースの選択手法
- ベンチマーク
- SPEC CPU2006, SPEC CPU2017, PARSEC 3.0, and Ligra の代表的な20個のベンチマーク
- 評価指標
- IPC (Instructions Per Cycle): 処理性能
- プリフェッチ精度（Precision）： プリフェッチが実際に必要なデータであった比率
- カバレッジ（Coverage）： デマンドミスのうちプリフェッチで隠蔽できた割合
- エネルギー消費： DRAM およびキャッシュ階層における消費電力
- ストレージオーバーヘッド： Alecto 実装に必要な追加ストレージ量
結果
- 性能向上効果: Alectoは他のプリフェッチャ選択手法と比較して一貫して性能を上回った。
- シングルコアでは、Banditと比較して2.76%の性能向上
- 8コアでは、平均で7.56%の性能向上
- 特に、メモリ集約系ベンチマークでは、最大で5.25%の性能向上
- プリフェッチ効率の向上
- Alecto はプリフェッチ精度を最大 10% 向上させた。
- 一方で、カバレッジの低下は最小限であり、総合的なプリフェッチ効率（Precision × Coverage）は既存手法を上回った。
- タイミングの最適化効果
- Alecto は、Bandit に比べ、プリフェッチがデマンドアクセスより先に到着する割合を 5% 以上向上させた。
- プリフェッチが不要に遅延することなく、キャッシュミスの隠蔽に成功していることが分かる。
- メタデータ効率の改善
- Alecto は Triangel と比較して、プリフェッチテーブルのアクセス回数を 48% 削減した。
- これにより、テーブル内の貴重なエントリの寿命が延び、より多くの有用なパターンを保持できるようになった。
- エネルギー削減効果
- Alecto はプリフェッチテーブルに起因するエネルギーを 48% 削減した。
- キャッシュ階層と DRAM も含めたメモリ全体のエネルギーを 7% 削減した。
- ストレージ・オーバヘッド
- Alecto の追加ストレージコストは 1KB 未満であり、これは Bandit や Triangel の数分の一である。
結論
本論文では、複数プリフェッチャのハイブリッド構成において発生するリソース競合と効率低下の問題を解決するための新しいプリフェッチャ選択およびデマンドリクエスト割り当て手法 Alecto を提案した。
Alecto は、既存のプリフェッチャ選択手法とは異なり、入力段階で各デマンドリクエストを最適なプリフェッチャに動的に割り当てることにより、プリフェッチ精度・カバレッジ・タイミングを高いレベルで両立させる。また、時間的プリフェッチャのメタデータ汚染を抑制しつつ、他のプリフェッチャと協調して動作できる拡張性も備えている。
評価の結果、Alecto は最新の強化学習型手法 Bandit と比較して、シングルコアでは 2.76%、8 コア構成では 7.56% の性能向上を達成した。特にメモリ集約型ベンチマークにおいては最大 5.25% の性能向上を示した。さらに、プリフェッチテーブルのアクセスエネルギーを最大 48% 削減し、全体のメモリ階層エネルギーを 7% 削減できたことを確認した。
これらの結果から、Alecto は複数プリフェッチャ構成において、無駄なリソース消費を最小化しつつ、実行効率を最大化できる汎用的なアプローチであることが示された。今後のプリフェッチアーキテクチャ設計において、選択と割り当てを統合する設計方針が有効な選択肢となることを本研究は示している。
