教師あり学習
蒸留系列の測定記録です。ManakaZero の主経路はランダム重みからの自己対局ですが、教師あり学習はより限定した問い、この評価器が将棋の有用な構造を学べるか、固定教師の下でどの変更が改善するかを調べるために使います。
教師は Knowledge_distilled_dataset_by_NAGISA_V3。元データは約 300M 局面で、重複除去後のコーパスは少し小さくなっています。
主な結果
初期 gen2 重みは教師コーパスをほぼ 1 周した時点で、およそ次に到達しました。
- 方策 top1: 36%
- 価値符号一致率: 72%
ネットワークは明確な信号を学びましたが、方策だけの対局はまだ弱く、実用棋力の多くは探索を加えることで得られました。
古い「駒得評価に −140 Elo」という結果は初期 v2 重みと当時の方策ヘッドに対する値です。policy_from や後続のアーキテクチャ変更より前なので、現在の評価器の棋力として扱わないでください。
探索が弱い方策を補った
同じ Material Lv1 基準に対し、初期 gen2 はシミュレーション数を増やすと急速に改善しました。
| シミュレーション数 | Elo |
|---|---|
| 1 | −140 |
| 32 | +108 |
| 64 | +234 |
| 128 | +364 |
| 256 | +444 |
ここから、方策・評価器品質と探索の強さは別軸だと分かります。評価器そのものを比べたいアーキテクチャ実験では、探索の影響を除く方策のみ対局を使います。
同じコーパスの2周目は効率が低い
同じ教師データをもう 1 周しても、検証値の改善は 1 周目よりかなり小さくなりました。主な説明候補は次です。
zは 1 対局につき最終結果 1 つしか持たず、局面数ほど独立情報がない。- 序盤・開始局面の多様性に限界がある。
- 実際に指された対局経路上の局面しか含まれない。
そのため z だけでなく教師探索価値 q を混ぜ、後続では単純な エポック 追加よりデータ多様性と構造変更を重視しました。
データ読み込み
全コーパスを RAM に載せずに済むストリーミングモードを追加しました。初期測定ではメモリを数百 GB から数 GB へ下げる代わりに、多少スループットが落ちました。現在の学習速度は ベンチマーク を正本とします。
後続実験で更新された点
アーキテクチャ判断には次の記録を優先します。
古い gen2 Elo と後続構成の Elo は、重み・相手・探索条件が揃わない限り直接比較しません。
現在の用途
教師あり学習は次に使います。
- 新しい構成が自己対局前に学習可能か確認する。
- 固定コーパス・固定検証集合で構成を比較する。
- 1 つのアーキテクチャ要素だけ変える切り分け実験を行う。
ただし同一時間の対局評価の代わりにはなりません。CE、top1、Elo は異なる順位を作ることがあります。