#将棋AI model間の優劣の比較難しい。直接対決は問題がでる。 npsに比例したpo数でNUEE系と比較するのが複数マシンで評価できるので良いのだけれどnpsの測定が難しい。 本番PCを使って持ち時間制でNUEE系と比較するのが最も良いのだけれど、マシンが限定されるのと 15sF1.5sでも時間がかかる。

はてなブログに投稿しました GPU性能と将棋AIの強さの関係 - シンギュラリティ実験ノート singula2045.hatenablog.com/entry/2024/09/… #はてなブログ #将棋AI #dlshogi #google colab

#将棋AI rtx5090が(価格的に・供給的に)入手できるとしても4月の頭。 入手してからmodelを作るのは時間的に間に合わない。 5090にnetwork構造を最適化したいが、CUDA数の確定情報が欲しい。 24576(128x192) なのか 20480(128x160) なのか。 歩留まりを考えると後者か。 前者は 5090ti に成るのかな。

#将棋AI model比較ベンチ、パラメータに問題が有った。 やり直し。 注意力散漫... まあ、棋譜生成をしていたと思う事にしよう。

#将棋AI 6月以降作成したmodelのベンチを取っておこう。 持ち時間制でベンチを取ると正確とは思うが時間が掛かるのと１台のPCでしかデータが取れない。 npsに比例するpo数を決め複数台のPCでデータを取るのが良さそう。 n=600,重要な物はn=1200 wcsc34とwcsc35用modelはn=1800でいいか。

#将棋AI V271, 評価中で「追加工」まだだけれど、高速化のアイデアが出、味見実験の結果は良さげ。 とすると V271 は最終的には使わない事になるので休止。 このアイデアを盛り込んだ V273 と V275 の評価を行い良い方を今後のベースにする。 TensorRT の気持ちが少し分かる様になったかも。(謎

#将棋AI 同じ位のnpsに成るように設計したnetworkのnpsが30%位予想と違っている理由に思い至った。 仮説が正しければ過去のmodelの計算量当たりの速度を1.5倍位に出来るかも知れない。 TensorRTの気持ちを間違って理解してたかも知れない。(TensorRTのアセンブラ？出力を見たい)

#将棋AI GCTのデータに自家生成棋譜の 1)80手～200手 を加えた物と 2)28手～150手 を加えた物で学習した model の比較 後者の方がベンチ結果良さそう。 (統計的に有意に優位とは言えないが) 3)50手～130手 を加えた物で学習した物も試したい。

#将棋AI MultiPV 1と3 で結果が変わるケースを見つけた。 再現する。 MultiPV を大きくすると広く読む様になるのか、枝刈りのされ方が変わるのか｡｡｡

#将棋AI V271の学習終了。「追加工」を行うためのベースに使うmodelを選択中。(棋譜生成を兼ねて) 今回 GCTデータ+生成棋譜80手～200手の局面 での学習modelと GCTデータ+生成棋譜28手～150手の局面 での追加学習のmodelの比較を開始 生成棋譜xx手～yy手の局面の好適な xx,yy をある程度絞り込みたい。

#将棋AI 学習用棋譜に、floodgate R4300~R4400 以上の棋譜も利用してきたのだけれど、今後利用するかどうか思案中。 あと、逆転した棋譜を含めない方が良いのかどうか(悪手を含んでいる可能性大)も悩む。

#将棋AI 勝率が高いmodel と d値=Loss-AvAcc が小さいmodel が一致しない件 [仮説]:学習データの序盤・中盤・終盤のバランスが悪い事に起因する 逆に両者が一致する様な学習データを用意出来れば、より強いmodelを作る事ができるのではないか？ ただ、どうやってその比率を決めるかが問題だ。

#将棋AI V271の学習、最終盤。 modelの評価に軸足をうつす。 学習終了後、学習データを変えて追加学習を行い、強さがどうなるかの実験をする。 今は80〜200手の比重を上げているので、30〜160手の比重を上げて比較する。 次に学習してみたいmodelを思いついた。どうしようか。

#将棋AI V268、"追加工"での伸びが止まった気がする。時間を掛ければまだ伸びるだろうが、最終的にこのmodelを使うかどうかは不明なので一旦休止。 V271、40ターン目の学習が終了した時点でV268よりも 3~4%勝率低そう。まだ伸びると思うので期待。WCSC35 にはこのモデルをベースとした物で出る予定。

【特別企画】将棋AIはまだまだ強くなる！ その誕生、そして未来の見通しとは【CEDEC2024】 ワンアイデアで最強の将棋AIが生まれる可能性も game.watch.impress.co.jp/docs/kikaku/16… #将棋AI pic.x.com/rv4evm88jr

はてなブログに投稿しました 将棋AIの性能向上の歴史 - シンギュラリティ実験ノート singula2045.hatenablog.com/entry/2024/08/… #はてなブログ #将棋AI #生成AI #LLM

#将棋AI ブラウザのハードウェアアクセラレーションをoffにすると、結構GPUメモリが空く様。 bs=1920 を bs=2176 にする事が出来た。

#将棋AI V271の学習がだいぶ進んで、一度ベンチを取りたいのだけれど、V268の追加工＆評価が終わらない。 電気代を考えてPC２台体制なのだけれど、３台体制にするか。 冬だとPCは暖房器具なので躊躇しないのだけれど。

いまさらだけど将棋AIが示す評価値80％とか50％って？？最善手を双方指しすすめればこちらの勝ちなら評価値は100％になりそうだけど　#将棋AI　#評価値

#将棋AI 探索パラメーターの見直しを行っている。 今のパラメーターはV129の時に決めたのでかなり古い。 V168で調整しているが、今のところ現行が良いと言う結果。 これはmodelがあまり変わり映えしないと言う...事では無いよね。

#将棋AI 同じnetworkを同じ学習データで２回学習して、作成したmodelのpolicy出力がどの位変わるか実験してみたいけれど、計算資源が足りない。 今は無理だけれど、将棋AI作成から引退したら一度はやっておきたい。 多分あまり変わらないのだろとは思うのだけれど。

#将棋AI 学習終了したV268の評価中。V259を少し超えられそう。 学習中のV271はLoss-AvAccの下がり方が少し遅く成ったか。 npsほぼ一定でパラメーター数と保持データ量のバランスを変えたのだが、逆方向だったかも。policyの分布が変わるのでどうなるか興味が有り最後まで学習は続ける。

#将棋AI 棋譜生成を兼ねたベンチ、止まっていた。 V268(dl系)の手番。 まれに起こるのだけれど、原因が分からない。 局面によるのか、確率でデータを取りこぼすのか。何らかのメモリを使いつくすのか。 PCを再起動しなくても、プログラム再実行で動き出す...

#将棋AI 先手と後手で使うmodelを変えるべきか。 計算資源的に、一つのモデルで 先手・後手両方を賄うのはパラメータが足りない。 いかえれば、R4500 ぐらいの将棋AIは、将棋の神様からは程遠い。

#将棋AI V268の学習終了。V259final よりも少しnpsが落ちるが、現時点で同程度のベンチ結果が出ている。 これから「追加工」開始。R+60 程度上乗せしたい。 V271、学習中（13/~60）。V259とV268の中間くらいのnps。wcsc33で捨てたアイデアを復活。 過去のmodelで解けなかった問題が解けている。

Policy と Value を別々に Loss を計算した方が、使用メモリが減るという事か。 #将棋AI の場合は、分岐までの大部分が共通なので、分けて計算してもメリットは小さそう。 x.com/gabriberton/st…