#将棋AI #先手有利問題 先手の初手を ・飛車 ・金(78金を除く) ・王 を動かす手に限定すると、かなり互角になるのではないか。

#将棋AI 今朝、異様に蒸し暑かったので、PCを止めてエアコンを入れた... 夏の間は、新規の学習はやめて 先後 nnue系 での棋譜生成に移行すべきか。 （ これまでは学習したmodelのベンチを兼ねて nnue系 vs. dl系 で棋譜生成している）

#将棋AI d=loss-avAcc が0.84まで下がったmodelの学習データの25%を、GCTの物からたややんさんの物に差し替えたらdが1.02まで跳ね上がる。学習を続ければ0.84程度まで再度下るので別の極小値を目指す様。 結局dl系は学習データの質が重要。

#将棋AI 新しいmodelを作るのにも飽きてきたし、modelの精度は、パラメータ数に強く依存し形状を変えても劇的に精度が上がる訳ではなさそうなので、しばらく棋譜生成と既存モデルの追加学習に軸足を移すのが良いと思えてきた。

#将棋AI 完全に読み抜ける局面を見つけた。 指されれば、その手を評価するのでpolicyでの評価が低すぎるのだろう。 手持のmodelでは、対応できない。 対策は...学習データの質をあげるしかないのだろうか。

#将棋AI GPT解説2 アテンションの仕組み (Attention, Transformer) の説明動画を見たけれど、自分には難しすぎる事を理解した。 あと、将棋に適用した場合に計算量に見合う性能がでるのかという疑問も浮かんだ。 youtube.com/watch?v=j3_VgC…

#将棋AI 有力手の差が小さい場合に探索の初期に乱数で選ばれる手が後々読む方向与える影響が大きい状況を確認 1)探索の進捗に合わせて temperature を変えるべきなのか 2)ボーナス項の重みを大きくすれば良いのか、 3)探索パラメータのチューニングで目的は果たせるのか まずは簡単な (2)から試すか。

#将棋AI GCTの公開している棋譜 ＞川島馨氏（以下、川島）：GCTの公開している棋譜は、10ブロックで1,000プレイアウトとかしたもので、さっき聞いた「水匠で100万ノード」に比べたらぜんぜん読みが浅いですね。 logmi.jp/tech/articles/…

さて、wcsc34から 2ヶ月も経たないうちに 定跡ファイルが意味をなさない #将棋AI の #電竜戦 の 指定局面戦 #TSEC5 が 始まっちゃいますね😳 受け付け開始だそうで 申し込むの忘れないように カレンダーにメモ✍️

#将棋AI 学習用の局面、局面数が少ない場合は いろいろな局面を「均質に」網羅する方が良い気がするけれど、局面数が一定量を超えると、「濃淡」があった方が良いのではないかと思えてきた。 多分その方が、過学習しにくいのではないかと。 真偽は不明。

#将棋AI V266の学習、ほぼサチった様。学習自体はもう少し続けるが、k*b一定のmodelの中では、最もLoss-AvAccが悪そう。b=12は無理があるのかも知れない。 極端に悪い訳では無いが。 k=512がバランスが良さそう。 次は学習データを変えて追加学習し次の一手の得手不得手が変わるか実験する。

#将棋AI Hybrid探索上手く行けばR150位向上するが、組み合わせるmodelの選択難しい。 しらみつぶしにベンチを取るのは組み合わせが多すぎて無理。 次の一手の正解の分布から決めているが、もっと良い方法が必要。 GPUが２枚以上のケースに対応する必要もある。

#将棋AI 3年前の動画ですが、面白かった。 谷合先生が BERT を使って将棋AIを３日で作った直後のAIが登場します。 youtube.com/watch?v=2Vl6Ao… pic.twitter.com/uq7uZue81B

#将棋AI いま学習中の V266(k=768,12b)、V255(k=512,18b)に比べ収束が遅い。 まだ 下がりつつあるのでもうしばらく様子見だけれど、12b というのは無理がある可能性がある。 収束が遅くてもLossがより小さな値まで下がれば問題は無いのだけれど。 （経験的に収束が遅いとLossは期待ほど下がらない）

#将棋AI #floodgate 188手目12香、明らかに１手パス...に見える。 対局終了後に確認したが26金を示す。（再現せず） +2000以上での指し手、不安定に思える。 （明らかに負けになる様な手は選ばない様だけれど） wdoor.c.u-tokyo.ac.jp/shogi/LATEST/2… 後手玉の動き、アクロバティックで面白かった。 pic.twitter.com/jltUbokGj2

起動したら、#将棋AI のベンチ/棋譜生成 が動作せず。 nvidia-smi で確認すると、video driver が 535.98 から 471.41 にロールバックされていた。 driver を 535.98 に戻して問題なくなった。 MS, なぜ勝手に driver をロールバックするんだ！！！ OS を過去のある時点に戻す必要があったのか？

#floodgate #将棋AI dl系は 終盤の読み抜けが課題なのだけれど、銀子さんとのねじり合いに辛勝。 175手目付近の評価値急降下は、読みの量が足りなさそう。致命にならなかったのは幸い。 終盤の弱点をカバーできていると嬉しい。 wdoor.c.u-tokyo.ac.jp/shogi/view/202…

#floodgate #将棋AI 80手付近から千日手模様になって、279手目で千日手成立した。 200手近く同一局面４回を回避していた。 サーバーも正確にチェックしていたのか... wdoor.c.u-tokyo.ac.jp/shogi/view/202…

#将棋AI やねうら王、色々なCPU向けに最適化したバイナリが用意されているのだけれど、いくら説明を充実しても、どれを使えば良いか分からない人が一定数出る気がする。 自分の環境で動く物を探して、動く物の中からnpsが最大になる物を選んでください が説明が簡単（10分もあれば決めれそう。）

#将棋AI 青のグラフを用意して、それをY軸方向に1.25倍、X軸方向に1.5倍した物が橙色のグラフ。 縦軸を強さ横軸を思考時間考える。 network 重くして、1.25倍強くなったが 思考速度が1.5倍遅くなったと考える。 思考時間が短い時は軽量モデルが有利な領域がある。思考時間が十分長く成れば逆転する。 pic.twitter.com/j8zEXIqutD

#将棋AI いま流しているAI、スコアが+2000～+3000点での指し方下手。まあ手数上限512手であれば手数が伸びてもなんとか勝てそう。 学習棋譜を3000点で切っている影響なのか。5000点にした棋譜で学習して比較してみたいが、優先度は低そう。 逆にこの精度を捨てた方が中終盤の精度が良いのか？

#将棋AI CPUに 大規模な NPU が搭載されれば、現在の nnue系とdl系の中間規模のnettoworkが最適な構造という未来もありそう。

#将棋AI suisho10Mn_psv のデータを混ぜて（同じ量だけGCTのデータを減らした）学習したmodel（複数用意） のベンチを取り始めたのだけれど、混ぜない物にくらべ、勝率少し低くそう...。 山下さんの実験と合わせて、どう解釈すべきか。 他の 混ぜた model もテストしてみる。

#将棋AI rtx4090 を 14枚借りるとか、どういうハード構成になっているのだろう。 １台のM/Bに、GPUを14枚は挿せないので、複数サーバーに分散しているのをまとめているのだろうとは思うのだけれど、利用する側からは GPU0～GPU13 の様に見えるのだろうか。 OS/ハードの構成が気になる。

#将棋AI たややん さん公開の 10Mnodeデータ と GCT のデータの一部を差し替えて学習を始めたのだけれど、収束する場所がかなり異なる様。 学習を続けて、強くなるか、逆なのか確認したい。

#将棋AI そろそろ学習データが 56号機のメモリ（64GB）に載らなくなってきた。 ・メモリ 128GBにすべきか。 ・これから出るRyzen9950まで待つべきか。 全データを読み込んでから シャッフル・重複データ削除を行うので、メモリに載り切らないと、かなり遅くなる気がする。

#将棋AI 短思考時間向けに、限られた計算資源で軽量modelで如何に性能を出すかという実験中。 その過程でdl系の探索の読み抜けに対する知見が得られつつある。 探索部の実験もしたいが、実装力が足りない。 読みの深さに応じて 探索条件を変えるアプローチを試したい。

#将棋AI V260~V267 の実験を行い、V266 を残した。 V266(k=768,12b) の学習を始めた。3週間位で学習は終わる予定。 V255(k=512,18b) はベンチを取りながら「追加工」を試すフェーズ。「追加工」でそこまで伸びるかに期待。

TMOQ（特大もっきゅ）の思考部分をChatGPT3.5に置き換えての記念すべき第一局。 ChatGPTと将棋を指しているヒトは多いけど、将棋AIに組み込んだのは初めてではないでしょうか？ wdoor.c.u-tokyo.ac.jp/shogi/view/202… #ChatGPT #将棋AI pic.twitter.com/em8AIcAJqI

将棋AIは学習させればさせるほど強くなると思ってました。現実はそうは甘くない #将棋AI x.com/DenryuSen/stat…

#将棋AI #深層学習 昔は隠れ層が２層・合計４層でも deep learning と言われていたと思うのだけれど、今でもその基準は変わらないのだろうか。 今の基準だと、合計８層とか１２層ないと shallow learning と呼ばれそうな気もするのだけれど。

自戦記が日経BizGateってこの界隈、すごくないですか？ というより谷合先生の才能がおかしい。 #コンピュータ将棋 #将棋AI

おお！！😳 たぬきさん以外にも nnue-pytorchで学習できることを 確認されている方がちらほら👏 手法を公開されてたことに感謝！ （ @select766 ） 来月、挑戦しようかなぁ☺️ nnue-pytorchの環境構築（ #将棋AI #評価関数 学習器） - select766’s diary select766.hatenablog.com/entry/2024/05/…

#将棋AI V255 の学習が終わったので、V260として k=768,12b(相当)の味見を始めた。 人間の脳は ６層らしい。 人間の１層がResNETで何層に相当するかは不明だけれど、ResNET 12b もあれば十分な可能性がある。 (256,36b)<(384,24b)<=(512,18b) だったので、768,12b でどの位の性能がでるか楽しみ。

#将棋AI 学習に使っているPCの、CPUの簡易水冷やはり異音がする。 冷媒が減っている印象。 メーカー製PCなので汎用パーツが使えない。 修理するかnew Ryzen にするか微妙なタイミング。 長く使うつもりなら簡易水冷は避けるべき。 寿命は2.5年〜3年。

#将棋AI V255の学習終了。 マクロバッチは以前は48倍まで行っていたが16倍位の方が良さそう。 これから棋譜生成を兼ねたベンチでmodelを選んで追加工。 後10日位で終わりそう。 性能が良ければk=768,12b を試す。 今一なら k=512,22b 辺を試そう。 大分知見が増えてきた。