Skip to content

構造分析

このページには診断だけを残し、提案と実験結果は ネットワークの変遷 に分離します。2026-08-24 の初期分析では、探索なしの Manaka 方策が弱い理由を整理し、5 つの修正案を出しました。後にすべて実装・測定されています。

観測された問題

初期 v2 / v3 は教師分布を学べていましたが、方策だけの対局は弱いままでした。

  • 教師あり記録で 方策 top1 は 30% 台半ば。
  • 探索を加えると大きく改善。
  • 同じコーパスをもう 1 周しても改善は小さい。

当時はこれを「表現の限界」と診断しました。仮説としては有用ですが、現在は後続のアーキテクチャ実験をより強い証拠として扱います。

初期構造の制約

1. ペア表の容量を早く圧縮する

基準ペア表は数百万行ありモデルの大半を占めますが、局面では有効行を pair_dim チャネルへ足し合わせてからヘッドへ渡します。大きな表を持つことと、1 局面で多くの情報を渡せることは同じではありません。

実測ではペア表を消すと弱くなったため、ペア表自体は有効でした。その後は単純に広げるだけでなく lse / ks のような集約方法も試しています。

2. 対称多項式の相互作用が限定的

元のべき和は要素ごとです。高次項も同じチャネル内で組み合わせるため、任意のチャネル間積は作れません。これを直接試すため二次モーメントを追加しました。

実測では moment16 は基準を上回らず、少なくともその構成では最初のボトルネックではありませんでした。

3. 加算で盤面配置が消える

固有トークンは駒のマスを知っていますが、全体集約後はマスごとの表現が残りません。初期方策にも移動先マスの文脈がありませんでした。

これは最も支持された診断です。A–E の中で盤面フィールドだけが 2026-08-25 の方策のみ総当たりで明確に改善し、field_dim 2 → 4 でもさらに伸びました。

4. 初期ヘッドが浅い

集約後は隠れ層 1 層だけでした。深さが不足しているか試すため第2隠れ層を追加しました。

hidden2=256 は基準より弱く、推論コストも増えました。単純に深くする方法は主解ではありませんでした。

5. 初期方策ヘッドが移動駒を失う

v2 の方策は着手ラベルと全体隠れベクトルだけを見ていたため、異なる移動駒を同じラベルで混同できました。v3 で policy_from を追加し、移動駒と移動元を直接入力しています。

これは現在のアーキテクチャでは修正済みで、現行制約として挙げません。

A–E の実測

2026-08-25、1エポック重みの方策のみ総当たり:

構成おおよその Elo読み方
field4+50盤面フィールドが最大の改善
field2+31同方向
基準+12基準
order2~0この試験では 3 次項の寄与は小さい
pairtie~−1明確な改善なし
moment16−8改善なし
pair0−35ペア表は有効
hidden2=256−49深さ追加は悪化

この Elo はその重み・その総当たりだけに適用します。後日の検証は別重みなので、順位が違っても自動的に矛盾とは扱いません。

現在の解釈

最も強く支持されているのは次です。

基準構造はマス単位の情報を早く捨てすぎており、一部を盤面アドレス付きで残すと方策品質が改善する。

一方、「ヘッドを深くするのが主解」「ペア表は不要」という主張はデータに支持されません。

現在構造は アーキテクチャ、後続案は ネットワークの変遷 を参照してください。