パーシャルアニーリングのレプリカ解析－ 2体ソーラス符号の場合－三好誠司上江洌達也神戸高専奈良女子大岡田真人東大，理研 1 背景 • 多数の「スピン」とそれらの「相互作用」という二種類の変数を有する系の解析においては，相互作用の方は固定されておりスピンだけが変化するモデルを考える場合が多い．（例：連想記憶モデル） • 「スピン」よりもゆっくりと「相互作用」も変化するモデル（パーシャルアニーリング）の性質は興味深い． 2 先行研究 Penny, Coolen and Sherrington, J. Phys. A (1993), Coupled dynamics of fast spins and slow interactions in neural networks and spin systems Coolen, Penny and Sherrington, Phys. Rev. B (1993), Coupled dynamics of fast spins and slow interactions: An alternative perspective on replicas Penny and Sherrington, J. Phys. A (1994), Slow interaction dynamics in spin-glass models Dotsenko, Franz and Mezard, J. Phys. A (1994), Partial annealing and overfrustration in disordered systems Uezu and Coolen, J.Phys.A (2002), Hierarchical self-programming in recurrent neural networks 3 目的 • パーシャルアニーリング（ＰＡ）の情報工学分野における可能性を探る • 誤り訂正符号の復号を行う相互作用系にパーシャルアニーリングを適用した場合の特性についてレプリカ法を用いて解析 4 ソーラス符号（N=4, K=2の例） N.Sourlas, Spin-glass models as error-correcting codes, Nature, 339, 693-695, (1989). 送りたいメッセージビットξの代わりにパリティ（積）を送る ξ2ξ4 ξ4 σ3 J12 通信路 J13 σ2 J34 ξ2 σ1 ξ3 ξ 3ξ 4 ξ1ξ2 ξ1 ξ1ξ3 J24 • 西森温度で有限温度復号（MPM復号）を行えばビット誤り率が最小 • N→∞，K→∞でシャノン限界達成 σ4 5 通信路のモデル AWGN（加法的白色ガウス雑音）通信路信号の強さ（２体のソーラス符号）受信信号雑音の分散 6 復号の方法 (1/2) 逆温度βで有限温度復号スピンσの変化は相互作用Jの変化よりも十分に速い 7 復号の方法 (2/2) 相互作用Jのダイナミクスヘブ則の強さ受信信号ランジュバンノイズスピンσの変化はβで特徴づけられている相互作用Jの変化はで特徴づけられている 8 理論 (1/3) 実効ハミルトニアン相互作用Jのダイナミクス系全体の分配関数ひとつめのレプリカ数（正の有限値） 9 理論 (2/3) 自由エネルギー（受信信号Bに乗っている雑音＝クエンチされたランダムネスに関する平均）オーダーパラメータ n2 ふたつめのレプリカ数（→０）レプリカ対称性の仮定 10 理論 (3/3) 鞍点方程式送信情報と復号結果の重なり 11 計算機実験の方法 (1/2) Jのダイナミクス σ2 σ3 J34 J12 σ1 J13 J24 σ4 時刻 t で • スピンをまずR1=1000回更新 • 続くR2=1000回の更新で＜σiσj＞を測定 • Jij を差分で更新（Δt =0.02τ）これをまずR3=500回実行続くR4=500回でq1,q2,mを測定スピン更新のトータル回数＝N (R1+R2) (R3+R4) 12 計算機実験の方法 (2/2) q1,q2の測定方法 Jをコピー q1 （時間経過） q2 （時間経過） 13 結果 (1/4) 西森温度（β=2）で最大値0.944 PAを用いない場合（J2=1） PA（J2=0, 等価 =1, ε=0）ヘブ則無し 14 結果 (2/4) ヘブ則を入れるとm,q1,q2,Mが増大 PA（J2=0, =1, ε=0） PA（J2=0, =1, ε=1） 15 結果 (3/4) PA（J2=1, =1, ε=0） PA（J2=1, =1, ε=1） 16 結果 (4/4) PA（J2=1, =1） PA（J2=1, =10） 17 まとめ • 2体ソーラス符号の復号にパーシャルアニーリングを適用した場合のRS解を求めた • ヘブ則εを強くするとMが増大するとともに，β の広い範囲でMがフラットになる． • とεを大きくした場合は計算機実験と合わない． • RS解の安定性解析やK体ソーラス符号への拡張は今後の課題 18