改善計画
2026-08-20 に作成し、2026-08-26 の記録まで反映した gen11 時点の計画です。すべてが現在も未着手という意味ではありません。
gen11 の状態
固定 YaneuraOu 基準への RATED 測定:
| 世代 | Elo | 備考 |
|---|---|---|
| gen4 | −522 | 自動ループ最初の完走 |
| gen7 | −481.8 | 以前の最大値 |
| gen9 | −638.0 | 弱い子モデルを昇格し続けて悪化 |
| gen11 | −450.0 | リプレイ窓 12 + 昇格判定 −20。記録上の最大値 |
観測された問題へ直接効いたため、次の 2 点は維持しました。
- リプレイ窓を 5 → 12 世代へ拡大。
- 親に対し −20 Elo 未満の子モデルを落とす昇格判定を追加。
内部直接対局だけでは棋力向上と判定せず、外部基準 Elo と検証指標も確認します。
探索は第一のボトルネックではなくなった
| sims | 推定 Elo | 前段からの向上 |
|---|---|---|
| 32 | −1398 | — |
| 64 | −1132 | +266 |
| 128 | −926 | +206 |
| 256 | −738 | +188 |
| 512 | −612 | +126 |
| 1024 | — | +16、棄却 |
初期には同じ重みで 32 → 256シミュレーションにするだけで +557 Elo 得られました。元の自己対局ループは、浅すぎる探索を教師にしていたことが分かります。
一方 gen11 時点では 512 → 1024 の追加効果はほぼ消えており、シミュレーション数を増やすだけの方針は主軸ではありません。
残っている弱点
検証で記録されている値:
- 方策 top1 約 49.9%、top5 約 88.8%。探索最終手が方策 top5 外にある割合は 14.2%。
- 価値符号一致率 約 0.75。
以降は探索深さそのものより、評価器と教師品質を中心に改善します。
優先項目
1. ネットワーク規模
15b256 に明確な容量不足は見えていません。大きくすると探索も遅くなるため、教師・価値信号の改善が頭打ちになってから比較実験として試します。
2. 価値の教師信号
value_weight=2.0 は不採用です。次の安価な仮説は value_q_ratio で、世代ループとは別の比較実験として測ります。
詳細: 価値ヘッドの劣化。
3. 教師探索
深い探索は蒸留教師を改善しましたが、探索量の曲線から有効な上限は 512 シミュレーション前後です。次は 512-sim 教師を比較します。
仮想損失で教師生成を高速化できても、教師品質が落ちないことを先に確認します。
4. データ多様性
候補:
- 高評価だったのに負けた局面を抽出する。
- 自己対局の一部へ固定外部エンジンを混ぜる。
- 明確な悪化が出るまでは リプレイ窓と昇格判定を維持する。
同じ種類のデータを単純に増やすだけでは効果が小さいことは確認済みです。
5. 探索の高速化
目的は「良い教師を安く作る」ことです。対局時 シミュレーション数を無制限に増やすためではありません。バッチ幅は シミュレーション数と同時に調整します。
6. 方策品質
探索が見つける手の一部を方策はまだ外しています。方策変更は検証だけでなく同一時間対局でも判断します。1 ノードが遅くなるなら、事前分布が良くても総合棋力で負けることがあります。
Manaka との分離
以前の計画にあった CPU・差分更新型のゼロ知識評価器は、既に独立した Manaka プロジェクトになりました。今後は DLManaka 内の案ではなく、別エンジンとして比較します。
次の比較実験
value_q_ratio。- 512シミュレーション教師と 仮想損失の品質。
- 低探索量・通常探索量の両方を見る世代ごとの外部測定。
- その後にネットワーク規模や方策構造を比較。
各実験では主要変数を 1 つだけ変えます。改善と呼ぶのは、外部対局と 検証指標が同じ主張を支持した場合だけです。