【オセロ,将棋】ボードゲーム Part2【囲碁,War】

■ このスレッドは過去ログ倉庫に格納されています
1名前は開発中のものです。
垢版 |
2017/10/15(日) 17:34:58.03ID:RaMh0le2
比較的地味なボードゲーム専用のスレが欲しくて立ててみました。

前スレ
【オセロ,将棋】ボードゲーム【囲碁,War】
http://mevius.2ch.net/test/read.cgi/gamedev/1057763418/
551535
垢版 |
2018/12/18(火) 23:29:10.84ID:N5ttC8SJ
昔自前でハッシュ作ったことありますが素朴な実装だとさほど性能出なかった記憶がありますね。
自分の場合STLでいいじゃんみたいな結果でした。
テーブルのサイズをでかくすると意外と巡回が遅くなるみたいな。
552535
垢版 |
2018/12/19(水) 21:16:40.83ID:REA/9P4B
スマホでconnect4のパーフェクトソルバーをちょくちょく遊んでるのですが
パターンをかなり覚えて7割くらい勝てるようになりました
囲碁とかも真の棋理が明らかになった方が
逆に人間がコンピュータに勝てるようになるかもしれませんね
553310
垢版 |
2018/12/19(水) 22:48:18.33ID:T2sH1fj1
ハッシュの構想し始めましたが、確かに自分が作って早くなる保証はないですね。
インターフェースを既存のstlに合わせようとか思って調べ始めたら面倒になりました。

で、色々見ていたら、そのまんま効率化できそうな使い方を見つけた。
有れば読み込んで更新、無ければ追加の方法です。

あとバケットサイズとか個数とか、その辺を調べていった方が早くなるかも。

並列処理だとtry_emplaceが使えないのね。これが使えたらきっと早くなるのに。
554535
垢版 |
2018/12/20(木) 23:32:19.98ID:zB5frbtZ
また再起動してる。。。
まあいいけど、もう諦めぎみ。

なんか仕事が急に忙しくなってますますコーディングから遠ざかってますが、
棋譜だけは地味に溜まってます。今82889局分溜まってます。

並列化ハッシュってどんななんですかね。そういえば知らない。
555310
垢版 |
2018/12/21(金) 00:04:37.10ID:kvniGc89
いや。まぁ。バケットか中のレコードか、どちらかの単位で排他かけるだけです。
Hash関数がきちんとばらけさせてくれたら、基本的にあんまり排他で捕まる事は
無いので、それほど気にしなくてもパフォーマンスに影響ないかなぁと。実際に
concurrent_unordered_mapの配列用意して、適当にハッシュでばらけさせて格納
してみたら(つまり、同じmapじゃなければ排他はおきない)、排他で遅くなっている
訳ではない事が確認できています。

と言いながら、iteratorとか考えだすと、何を並列セーフにして、何をアンセーフに
するかみたいな事で悩んじゃいます。

先日の続きでmax_load_factorとかbacketサイズとかいじってみましたが、
パフォーマンスにほとんど影響がないです。というか、どうせ後で逐次的に拡張する
くらいならと、backetサイズを増やしても性能は上がらないし、max_load_factorを
増やしても、性能が落ちるだけだったり…。

棋譜作成だけなら並列化レベルをもう1段上げて、4記譜同時作成とかすれば、
個々の読み切りはシングルスレッドに下げられて、ただのunordered_mapが使えるし
その方が棋譜作成的には速度アップしそうな気がしてきた(汗

FFO的には別処理になるけど。
556535
垢版 |
2018/12/22(土) 00:08:33.74ID:w0ekMTPt
採りためた棋譜をもとに序盤DBを更新してみましたが、
確かにうち筋は変わってる気がしますが強くなってるかはよくわからないというorz
まあ序盤DBは誤魔化しみたいなものだから期待しすぎもよくないか。
557535
垢版 |
2018/12/22(土) 00:42:25.73ID:w0ekMTPt
序盤DB更新で強くなってるか統計とってみたいけどモンテカルロが遅すぎてそれもままならないというorz
やはりモンテカルロに代わる何かを実装しなければ…
558535
垢版 |
2018/12/26(水) 00:12:59.86ID:2Tvqp++w
棋譜USBメモリにコピーしたらめっちゃ時間かかるorz
130MBくらいなのにUSBメモリってやっぱ遅いんだな。
559310
垢版 |
2018/12/26(水) 00:20:29.39ID:Rkthqh0l
4記譜並列作成実装してみました。ただいま本番状態でテスト中。
並列処理の基本は、なるべく上位の層で並列化すべしでした。

現状、並列探索の速度は、シングル探索の2倍程度です。
1つ1つの探索には時間が2倍かかるけど、4つ並列なので、トータルでは
半分の時間で処理できるので、実質2倍みたいな。

探索中のオーバーヘッドはほぼ無いはずで、待ち合わせロスくらいなので、
大量に一気に処理する分には、ほぼ無視できるかなと。

これやると、スレッドの数がモロに効いてくるんで…48並列くらいできたら…
560535
垢版 |
2018/12/26(水) 00:30:44.15ID:2Tvqp++w
310さんはintel派なんでしたっけ?
AMDでもzen2はかなりコスパいいものが来ると思いますが…
561535
垢版 |
2018/12/26(水) 00:40:17.50ID:2Tvqp++w
試しにSSDに棋譜コピーしてみたらかなり速いw
やっぱそうなのか。
562310
垢版 |
2018/12/26(水) 03:07:45.74ID:Rkthqh0l
あれれ。思ったほど速度が出ない…というか、単体の速度が半分どころか、
1/4くらいになっているイメージ…。深さが深いものほど遅いという事は、
置換表周りかなぁ。

棋譜作成する対象によって速度が結構変わるので、評価しづらい。

メモリー配置等の問題も考えないといかんような気がしてきた。

いかん。夜も更けていく…。

>>561
なんか、フラッシュメモリー自体は書き込みが遅くて、SSDだとその辺を並列
化とかキャッシュとかで回避しているらしいです。USBメモリーは、その辺真面目
にやっているもの(高価)と、そうじゃないもの(安価)で差があるけど、それでも
SSDには敵わないとか。
563535
垢版 |
2018/12/26(水) 21:06:48.31ID:2Tvqp++w
明日か明後日あたりで棋譜10万局分溜まりそう
深層学習のプログラム、組みたいなぁ
でも難しいんだよなぁ
564310
垢版 |
2018/12/27(木) 00:00:43.02ID:APLuuq5f
悩ましい。

シングルmin-Maxの並列動作と、パラレルmin-Maxのシングル動作。
どうも速度的には大差ない感じ。
2倍くらい速度出ると思ったのに…。

スレッド数が増えたら差が出てくるのかなぁ。
565535
垢版 |
2018/12/27(木) 20:54:08.52ID:gYB4tQZF
10万局いきました。
566535
垢版 |
2018/12/27(木) 21:18:27.23ID:gYB4tQZF
多分俺が世界で一番囲連星LV3の計算を回した人だろうなw
567310
垢版 |
2018/12/27(木) 22:00:15.50ID:APLuuq5f
色々あがいた挙句、そこそこ時間がかかる26手空きを、それぞれで解いてみた。

並列探索で6分。シングル単独動作で12分。シングル4並列動作で18分。
やはり、シングルも4並列する事でなにがしかのオーバーヘッドがあるようです。

単純計算だと並列探索6分を4個で24分に対して、シングル18分で4つ解ける
事から33%の速度アップが見込める事になるけど、体感そこまでの効果が感じ
られないというか、時間がかかる問題では更に差が大きくなっていて、そいつらに
足を引っ張られている印象。

そのうえで、裏でゴソゴソやりながら計算させる時に色々弊害があるので、
CPUの増強を決断するまで放置しようかと思います。

色々あがいた結果か、並列探索ですこーし速度アップした感じ。
10%行くかいかないか。
568535
垢版 |
2018/12/27(木) 22:05:17.88ID:gYB4tQZF
よくわからんがハイパースレッディングって単純に性能2倍になるわけではないということではなくて?
569310
垢版 |
2018/12/27(木) 23:06:53.59ID:APLuuq5f
もちろんそうなんだけど、排他待ちを要するデータも、待ち合わせロスも
無いので、もうちょっと性能出るんじゃないかと思っていたのです。


あと、うまく説明できないけど、ノード数が多い探索は、ノード数比以上に
時間がかかっている気がしています。まだ感覚の話ですが。
570535
垢版 |
2018/12/28(金) 20:37:08.10ID:HWMCAOZD
LV3は強いんだけど詰み状態から詰みを逃してる棋譜が散見される。
直せるもんなら直したほうがいいんだろうけどかなり大変だろうな
571310
垢版 |
2018/12/29(土) 09:40:46.33ID:hnomLa8j
んー。シングル並列動作で6時間かかっても解けずに諦めた盤面とを見つけて、
パラレルで解いたら1時間40分だった。空きマス26だと通常1分程度なんだけど、
時々こういう時間がかかる盤面がある。今までテストが面倒なので、10分以内に
終わりそうな奴でテストしていたけど、もしかしたら探索ノードが多い奴ほど、
シングル並列動作での速度低下が大きいのかも知れない。

時間がかかる奴ほど、シングル・パラレル比が悪化するなら、今考えている大体
3倍程度ってのは成り立たなくなって、もっと悪い事になる。それなら感覚的に
合致する。普通に流れている時には、シングル並列で高速化できそうな手ごたえ
があるんだけど、時間がかかる盤面が来ると急速に逼塞していって、なかなか
回復しないという感じ。

パフォーマンスモニタにらみながら、unordered_mapのメモリアロケーションの方法
を想像してみた。初期確保件数指定(倍々で自動追加される)してみたけど、溢れて
もいないのにダラダラとメモリー使用量が増えていく。もしかしたらOSにメモリーを
貰いに行く動作が排他待ちになっているのかも知れない。どうやって検証しよう。
やっぱ自前置換表作るしかないのかなぁ。
572310
垢版 |
2019/01/01(火) 10:13:37.88ID:y24geaJt
あけおめです。

ヒープをダラダラと確保するのが気になったので、色々いじりました。

ordering用のvectorを、配列にしてスタックに。ついでにクラス化してメンテ性アップ。
少しだけ速度アップした気がする。

自前ハッシュテーブル型の置換表を作ってみた。
最初に大きく領域確保して、溢れた時以外領域確保しないようにした。
基本、余計な機能は実装していないので、処理は軽いはずなんだけど…
極ほんの少しだけ速度ダウンした感じ…

記譜作成はunordered_map版で実行しながら、改良をしてみたいと思います。
とはいえ、ソース的にはあんまり改良の余地がないんだよなぁ。

速度がそん色ないところまで行けたら、シングル版の並列での速度低下が
メモリー確保が原因か検証できるかなぁ。
573310
垢版 |
2019/01/05(土) 09:07:42.68ID:KwyVlHZX
チェーン型でハッシュを組んでましたが、テーブルがあふれると結局ダラダラと
メモリー獲得し始めるので、オープンアドレス型に変更して、まとめて領域を追加
するようにしました。

この辺、もう趣味の世界ですね。
何をしても、速度は上がりも下がりもしない(汗

やっぱり探索ノードを減らす工夫が重要ですね。
574535
垢版 |
2019/01/05(土) 21:26:02.72ID:TXR2vHHf
自己対戦のみで強くなるアルファゼロは理想ですが実装が難しそうなので
せっかく棋譜も集めてるので教師あり学習をやってみようかと思案中。
575535
垢版 |
2019/01/06(日) 00:55:45.70ID:6f3tqt5A
とりあえず、棋譜データからmin-max探索して黒有利の局面か白有利の局面かの2択を学習させようかな。とか思ってます。
そろそろ寝るか。。。
576535
垢版 |
2019/01/06(日) 02:33:16.90ID:6f3tqt5A
寝るタイミングを逸してしまったw
プログラミングってこれがあるから怖いよねw
577535
垢版 |
2019/01/06(日) 02:46:46.55ID:6f3tqt5A
なんか100兆局くらい棋譜を集めると序盤DBだけでもかなり押せるんじゃないかなぁ。
そんな感じ。

いかん、寝なければww
2019/01/06(日) 03:01:38.94ID:aGENq217
質の悪い棋譜ばかり100兆局集めてもあんまり強くならない気がするのですがどうなんでしょう
質のいい棋譜がそれだけ集まればいいですがそれはほぼ不可能ですし…
579535
垢版 |
2019/01/06(日) 03:14:04.86ID:6f3tqt5A
そうはいってもLV3の棋力はかなり高い。
囲碁将棋でいえばアマチュア3段くらいには相当するはず。
580535
垢版 |
2019/01/06(日) 03:18:59.57ID:6f3tqt5A
波があるからアマチュア3段は言い過ぎだったかなw
でもまあ強い時はかなり強い。
581310
垢版 |
2019/01/06(日) 14:23:08.43ID:a93oWf/5
置換表一時調子が良かったのですが、修正加えたら崩壊。
なんとなく読み取りが変な感じなんだけど、どこがおかしいのか全くわからず。

>>578
棋譜たくさん集めて序盤DB作ったら、その序盤DBのMax手順以外の手について
は、分岐した以後の盤面だけで学習させると序盤の穴が埋まるというか、間違った
盤面でぼやっとした学習するの避けられるかも。

今、序盤についてはそのやり方で学習させてます。
582535
垢版 |
2019/01/06(日) 20:12:44.73ID:6f3tqt5A
とりあえず、昔作ったTINY-DNNのプログラムを引っ張り出してきて学習プログラムを仮組したが絶望的に遅いorz
グラボ使えればちっとは違うんだろか?うーむ。
583310
垢版 |
2019/01/06(日) 20:34:20.52ID:a93oWf/5
オープンアドレスうまく動くようになりました。
ここに愚痴ると、直後に原因がわかる罠w

この数日の葛藤は何だったんだ。
584310
垢版 |
2019/01/06(日) 20:36:40.74ID:a93oWf/5
>>582
Tiny-DNNはGPU対応していないんじゃないかなぁ。
結局、DCNNはGPUで処理しないと無理っつー気がする。
585535
垢版 |
2019/01/06(日) 20:44:29.63ID:6f3tqt5A
>>584
あ〜やっぱそうなんですかねぇ。
GPUも結構いいの買ったのでぜひ活用したいところではあります。
586535
垢版 |
2019/01/06(日) 22:23:00.36ID:6f3tqt5A
明日は仕事なのでハマらないうちに切り上げようww
社会人として自制しなければwww
587535
垢版 |
2019/01/07(月) 20:55:27.41ID:4rY/alBf
学習回しても損失が全く減らない。。。
そういやそんなのあったな。orz
588535
垢版 |
2019/01/07(月) 23:12:38.14ID:4rY/alBf
なんかネットワーク初期化忘れてたみたいw
初期化したら損失減ったw

ちょっと希望が出てきた。
589535
垢版 |
2019/01/08(火) 23:12:12.87ID:1omQC7Mg
損失減ることは減るんだけどホントにちょっとづつしか減っていかない。
ネットワークの形状が悪いんだろうか?学習率だろうか?
うーん、深みにはまりそうorz
590310
垢版 |
2019/01/09(水) 20:33:25.82ID:9GUGdavc
学習の速度はオプティマイザに依存します。

普通のSGDだと、あちこちぐるぐる回ったり、平野トラップで立ち往生したり、
局所最適解から抜け出せなくなったり。また、SGDは学習率(α)を大きくすると、
簡単に発散しちゃったりしますので、学習率を低めにして1000回とか学習する
事になります。それでも上記の問題で、なかなか収束しなかったり、うまく学習
できなかったりします。

そういうものなのです。昔は、初期値(乱数設定しているはず)を変えてみたりして
トライ&エラーしてましたが、今なら別のオプティマイザ(RMSpropやADAM)を試す
べきかと思います。それでも数百回は学習を繰り返さないといけないと思います。


久々に検索したら結構種類が増えてた。
https://qiita.com/ZoneTsuyoshi/items/8ef6fa1e154d176e25b8
自分は線形回帰モデルですが、SMORMS3を使って効率化を図っています。
それでも、数百回学習しないと損失は落ち着いてきません。
591310
垢版 |
2019/01/09(水) 22:31:13.85ID:9GUGdavc
置換表ですが、結局のところ、ハッシュのビット数を増やしてチェーン接続があまり
生じないようにし、メモリーをある程度のサイズでまとめて確保する、チェーン型
ハッシュに落ち着いています。

普段速度計測に使っているFFO#40-49ではconcurrent_unordered_map版より若干
遅いのです。が、どうも残り28手(現在はそのあたりをチェック中)では、自作チェーン
ハッシュの方が早いというか、ノード数が増えた時に速度低下が少ないように感じて
おり、現在は自作置換表を使っています。

とはいえ、29手や30手まで行った暁にはチェーン接続が多発し始めて速度低下が
始まると思われるので、対策を考えて行きたいと思います。28手が終わるまでまだ
一カ月くらいかかるので、幸か不幸か時間はたっぷりあります(--;

今のところチェーンの代わりに2分木を置いて、ハッシュが衝突したときの速度低下を
O(n)からO(log(2)n)にしてみようかと考えています。
592535
垢版 |
2019/01/09(水) 23:20:11.40ID:ED/1LPLd
ふーむ。要素が少ない時はリストやツリーは遅く、配列が圧倒的に早いという認識でしたが。
593535
垢版 |
2019/01/12(土) 00:34:20.08ID:I11IVt9R
あれ、序盤DBに棋譜を追加したら全然おかしな手を打つようになっちゃった。
棋譜がまずいのかな?
594535
垢版 |
2019/01/12(土) 01:02:50.64ID:I11IVt9R
くそ〜強いAI(自我があるとかではないよ)作りてぇなぁ
595535
垢版 |
2019/01/12(土) 01:39:38.14ID:I11IVt9R
三連休とはいえそろそろ寝なければな。
生活のリズム崩すのはいくない。
596535
垢版 |
2019/01/12(土) 21:33:08.59ID:I11IVt9R
質にばらつきのある棋譜から良いデータを抽出する方法はあるのだろうか?
597535
垢版 |
2019/01/12(土) 22:30:56.75ID:I11IVt9R
うーんせっかく3連休なのに捗らないな。
これだというアイディアが湧くまでこねくり回すしかないか。
598535
垢版 |
2019/01/13(日) 22:01:49.93ID:vPz6niN1
結局アルファゼロという正解がある限りその呪縛から逃れるのはかなり難しいorz
うーん。
599535
垢版 |
2019/01/14(月) 21:36:22.16ID:yfXkG3lc
やっぱグラボも活用したいなぁ。
でも難しいんだよなぁ。
とくにウィンドウズだと。
600535
垢版 |
2019/01/16(水) 00:51:29.20ID:ecOlQUBV
昨日一日学習回して損失が初期値の2/3位になった。
この辺が限界かなぁ
それともぞうきんを絞るようにまだまだ損失減るんだろうか?
601310
垢版 |
2019/01/18(金) 00:47:06.53ID:YI61Q9H1
NN系は学習してるんだかわからない時があるよね。
とことんまで回すと今度は過学習も怖くなってくるし。


こちらは、自作concurrent_mapクラスができました。
ハッシュキーは二分木で、ハッシュ値は64bit。
配列ハッシュキー版と同様に、削除もiteratorも無し。
すこーし速度があがったかなぁ程度。
衝突時の処理はチェーン式。流石に64bitだとキーの衝突が無い。

棋譜訂正は時間がかかるので、暇つぶしが必要な状態。
二分木を赤黒木に変えてみようかと思い始めています(汗。

本当はヒューリスティックスの改良の方が効果あるんだろうなぁ。
602535
垢版 |
2019/01/18(金) 22:51:46.73ID:glnAkAuX
今週は残業がひどかったorz
でも土日は休める。
603310
垢版 |
2019/01/19(土) 09:03:58.77ID:/dbSBJQm
赤黒木を検討してますが、これ並列処理だと木全体をロックしないと
いかんのではないかと…。置換表のように追加の頻度が高いケース
では、排他待ちでパフォーマンス出ないかも。

まあ、やってみるしかないけれど。
604535
垢版 |
2019/01/19(土) 11:25:42.95ID:R+TIxYAB
赤黒木とかめっちゃむずかしいやつですやん。
さすがですな。
605535
垢版 |
2019/01/19(土) 19:50:28.36ID:R+TIxYAB
ん、なんか学習したネットワークがすべてのデータに対して同じ結果を返してるっぽい?
606535
垢版 |
2019/01/19(土) 19:58:01.80ID:R+TIxYAB
学習開始時のネットワークの重みの初期化をミスってるんだろうか
うーん。
607535
垢版 |
2019/01/19(土) 20:54:13.90ID:R+TIxYAB
tiny-dnn以外のGPU使えるライブラリで重みだけ学習してアプリケーションからはtiny-dnnを使うというのもあるのだろうか
608535
垢版 |
2019/01/20(日) 02:28:47.86ID:O7gh4nMQ
全く同じ結果ではなく微妙に違う結果を返してるのは確認できたけど。
単に学習量がたりてないのかなぁ。
609535
垢版 |
2019/01/20(日) 15:00:24.16ID:O7gh4nMQ
やっぱり全く同じ結果返してる??
混乱してきたorz
610535
垢版 |
2019/01/20(日) 15:40:18.18ID:O7gh4nMQ
層が多すぎたのが悪かったみたい?
層減らしたら違う値になった。
611535
垢版 |
2019/01/20(日) 17:41:45.52ID:O7gh4nMQ
お、LV1に勝った!
まあDNNの学習の効果の勝利というよりも序盤DBと詰みルーチンの補助による勝ちなんだけどね。
でもとりあえず、それっぽく動くところまで来ました。
612535
垢版 |
2019/01/20(日) 17:54:10.26ID:O7gh4nMQ
序盤DBが良すぎてDNNの真価がわからないから序盤DB外してみるか…
613535
垢版 |
2019/01/20(日) 17:59:21.27ID:O7gh4nMQ
酷すぎwwww
でもランダムよりはマシに見える。
614535
垢版 |
2019/01/20(日) 18:24:44.15ID:O7gh4nMQ
やっぱ序盤DBに頼るか…
こんなにプログラムが楽しいの久しぶりやな
615535
垢版 |
2019/01/20(日) 20:01:09.83ID:O7gh4nMQ
たぶんだけどまだまだ棋譜増やしたほうがいい。
ていうかあればあるほどいいい。まだまだ良くなる。
可能なら100万局を目指したい。
616310
垢版 |
2019/01/22(火) 00:34:53.58ID:9pySCUmT
赤黒木大体できたけど…ただの二分木よりほんの少し遅い…。

元々ハッシュでランダマイズしているから、二分木の末端ノードまでの深さは
綺麗な正規分布になっていて、赤黒木にしても木の最頻高さで3割程度しか
小さくならないという事で、ツリーを修正するオーバーヘッドが効いているのか、
それとも木全体でしか排他できないのが原因なのか。

もうちょっと調べてから諦めます。
617535
垢版 |
2019/01/22(火) 22:52:21.02ID:jAP2hLDv
要素が100個未満ならぶっちゃけvectorでいいと思いますが。。。
618535
垢版 |
2019/01/22(火) 23:02:42.33ID:jAP2hLDv
前も同じこと言ったような気がするけど、学習させるなら局面の勝率より次の一手のほうがいいのだろうか?
619名前は開発中のものです。
垢版 |
2019/01/22(火) 23:17:25.29ID:LaaXTOn4
いまきたんですがここはどんなゲームを開発してるんですか
じぶんで開発したとして対戦相手=プログラムありますか
620535
垢版 |
2019/01/22(火) 23:34:54.50ID:jAP2hLDv
>>619
とりあえず、落ち着いて。
過去ログから読んでください。
621310
垢版 |
2019/01/23(水) 01:56:46.43ID:QHWWUXAJ
置換表に使ってるので要素数は現在残り28手で100万超える事もあります(汗
まあ、βカットの具合でだいぶ変わるので、学習進むと減るんですが。
最低でも残り30手まで行くつもりなので、1000万くらいは想定したいです。

次の一手ソート用の配列は、Array型にしています。32個確保すれば足ります。
こちらも比較したところ、明確に速度差がありました。この辺から、領域をチマチマ
確保されるオーバーヘッドが気になりだした次第です。

で、赤黒木ですが、実装が悪いのだと思いますが、現時点で2分木と比較して
およそ3倍時間がかかります。シングル動作でも同じくらいの差になるので、
排他待ちではなく、木のつなぎ替え処理の重さが原因かなと。置換表は追加が
の比率が大きいので、ポインタたどるロスは優位ではない感じ。

というわけで、赤黒木はちょっと放置。

というか、二分木もシングル動作は10倍くらい速い感じなので、今一度シングル
探索の並列化を試そうと思っています。
622310
垢版 |
2019/01/23(水) 02:07:28.76ID:QHWWUXAJ
>>618
min-Max前提だと、探索値を求める際には勝率(点数)が必須で、
次の1手評価関数はオーダリングや前方枝刈向きではないですか?
探索深さ1なら次の1手で行けますが。

初代アルファ碁も、両方組み合わせていますが、次の1手評価関数で
手の優先順位をつける事で読み深さを実現した変則mctsで、最終的には
評価値で判断していますよね。
623535
垢版 |
2019/01/23(水) 20:43:46.28ID:B65SvCza
ふーむ、勝率のほうが応用が利くってことですかね?
もうしばらく勝率で学習させてみます。
624535
垢版 |
2019/01/23(水) 21:07:20.14ID:B65SvCza
ついネットワークを大きくしたくなっちゃうけど。
本当は小さいネットワークでエポック数を稼いだほうがいいのかもしれない。
625535
垢版 |
2019/01/23(水) 21:28:27.72ID:B65SvCza
そういえば、対称局面も学習データとして使ったほうがいいんでしたっけ?
626310
垢版 |
2019/01/24(木) 01:32:42.88ID:cGqmeFv+
囲連星は初期配置ないんでしょ?
だったら対象局面ありの方が良いと思う。

オセロは悩み中。
初手をF5固定にした時に、本当に対称局面が出てくるのかわからない。
対称局面が同じ重要性で生じないのであれば、評価値を希釈しちゃうだけ。
学習の時間も単純に倍々で増えるので、今はやっていない。

強いて言うなら、F5F6E6の次がF4とD6で斜め対称になるので、ここだけは
記譜作成時にはF4固定にして、D6の対称局面を作っている。
627310
垢版 |
2019/01/24(木) 01:49:46.37ID:cGqmeFv+
置換表自作の件、目的を見失っている(汗
一旦リセットして、最初からやり直して、当初の目的に戻ろうと思うorz
628578
垢版 |
2019/01/24(木) 01:53:14.72ID:mzMMzuaC
私は教師データの数が8倍になるのは大きいと思って対称局面も入れて学習させてます
とくにDeep Learningさせてると(ネットワークの規模にもよりますが)だいぶ過学習しなくなります
もっとも、Deep Learningするんだったら対称性を考慮したネットワークにしたほうがいいのかもしれないですが・・・
629310
垢版 |
2019/01/24(木) 02:08:25.51ID:cGqmeFv+
着手できる場所の自由度が高いゲームは回転させるべきだと思う。
オセロは着手可能場所が限られるので、現れない局面が結構ありそう。

ちなみに、オセロは8倍じゃなくて4倍。初期配置が4対称だから。
囲連星は初手天元固定なのかな?
630578
垢版 |
2019/01/24(木) 07:09:21.18ID:mzMMzuaC
>オセロは8倍じゃなくて4倍
たしかに棋譜で考えると4対称しか無いですね
今のところ、学習させるときには現局面しか渡してないので、
90度回転で一致する局面が存在するかもしれないから8倍で良いはず…
631535
垢版 |
2019/01/24(木) 22:03:23.55ID:gSjgdU9w
うーん。今のやり方だとLV0やLV1とはいい勝負になるけどLV3には一生勝てないかも?
出来れば自己対戦による強化学習とか取り入れたいな〜

対称局面もやってみますね。
632535
垢版 |
2019/01/24(木) 22:45:59.18ID:gSjgdU9w
なんか長時間計算回してると画面が真っ暗になってマウスやキーボード押しても復帰しないことがあるんだが?
スリープは解除してるはずなんだけどなんなんだろう?
633535
垢版 |
2019/01/25(金) 23:18:39.41ID:gNQn5rdl
LV0ってやっぱ棋力低いな。
そんなLV0といい勝負の俺のAIもあれだけど。
やればやるほどLV3の完成度の高さが際立つ。
634310
垢版 |
2019/01/26(土) 17:00:37.38ID:VyVaK4H+
自作置換表ですが、大体のところがまとまりました。
結局のところ、unordered_mapを作っていた形になります(汗

当初は領域の追加について、データ部分をまとめて追加する方向で改造し、
ハッシュ配列については22ビット固定で、高速化をしました。で、ハッシュ配列が
22ビット固定は芸がないと、二分木・赤黒木などを試しましたが、速度大幅低下。
要するに、unordered_mapにmapを組み合わせて、ハッシュのメリットを相殺して
しまっていたという事で。

最終的に、ハッシュ配列の追加方法をようやく思いつき、組んでみたところ、それが
そのままunordered_mapのrehashだと気が付きました(汗。その後、max_load_factor
などを追加して、unordered_mapと条件を揃えて速度比較となりました。

iteratorと削除が無い分だと思いますが、unordered_map、concurrent_unordered_map
に対して、それぞれシングル版、concurrent版とも若干高速になりました。

新たな課題は…stlも自作版も、どちらも並列に動かしたconcurrent版の方が遅いと
言う事です。もともとそういうものなのか…テスト方法が並列向けじゃないのか。
635535
垢版 |
2019/01/26(土) 17:38:15.71ID:VGsbBdjp
8対称はメモリがやばいので4対称にします。
4対称で16GB位食ってる。
636535
垢版 |
2019/01/26(土) 17:54:22.18ID:VGsbBdjp
思い切っていいPC買ったけどまだ足りないとかorzorzorz
ケチらず64GB積むべきだったか?
637535
垢版 |
2019/01/26(土) 18:59:37.97ID:VGsbBdjp
1エポック4539秒
これは厳しいorzorzorz
GPUが使えれば…
638535
垢版 |
2019/01/26(土) 19:45:15.05ID:VGsbBdjp
ん、1エポック目だけど損失がかなり少ない。。
対称局面を入力とすることで特徴量がよりはっきりしたということだろうか?
639535
垢版 |
2019/01/26(土) 19:46:56.43ID:VGsbBdjp
ん、動きが断然よくなってる?
まだわからんが。
640535
垢版 |
2019/01/26(土) 19:53:15.64ID:VGsbBdjp
対称局面学習以前はどちらかというとランダムに近かったが
対称局面学習以後はどちらかというと知性があるっぽく見える。
まだわからんが。
641535
垢版 |
2019/01/26(土) 20:02:51.02ID:VGsbBdjp
これでエポックが進めばとんでもなく強くなる?
まだわからんが。
642535
垢版 |
2019/01/26(土) 20:15:10.01ID:VGsbBdjp
マシンパワーが欲しい!
Googleに匹敵するマシンパワーが!
643535
垢版 |
2019/01/26(土) 20:40:08.93ID:VGsbBdjp
まだLV3には遠く及ばないな。
でも希望が出てきた。
644535
垢版 |
2019/01/26(土) 21:34:58.78ID:VGsbBdjp
学習用、棋譜採取用、対戦統計用、開発用で4台マシンほしいw
645535
垢版 |
2019/01/26(土) 22:03:09.49ID:VGsbBdjp
やっぱ思考時間短いのはいいな。
モンテカルロは強いけど思考時間長すぎたからな。
646535
垢版 |
2019/01/26(土) 23:04:44.42ID:VGsbBdjp
棋力が低すぎてすさまじい泥仕合になるの切ないorz
647535
垢版 |
2019/01/26(土) 23:32:04.39ID:VGsbBdjp
メモリがもっとあれば異なるネットワークを並列に学習とかもできたかもなぁ
まさか32GBで足りないとは…
648535
垢版 |
2019/01/27(日) 14:58:44.29ID:RY/5cpPz
DNNの評価値とMM法の評価値の和で最終評価値を算出するようにしてみました。
多分DNNのみより強くなってます。
649535
垢版 |
2019/01/27(日) 15:49:50.57ID:RY/5cpPz
黒番で軽く動かしてみました。

10局目
黒(airandom.dll)の勝利回数: 8
白(ai-lv1.dll)の勝利回数: 2

まずまずの結果かな。
ちなみに白番はうまく動いてなくて1の1とか打っちゃうので途中で中断しました。
650535
垢版 |
2019/01/27(日) 16:41:37.92ID:RY/5cpPz
うお、猛烈に追い上げられてるorz
悪くない手ごたえがあったと思いましたが…

25局目
黒(airandom.dll)の勝利回数: 15
白(ai-lv1.dll)の勝利回数: 10
651535
垢版 |
2019/01/27(日) 19:54:22.32ID:RY/5cpPz
ちょっとヒューリスティックを入れました。
詰めろがあるときは詰めろを優先的に打つ。
当たりの点数を恣意的に上げる。
■ このスレッドは過去ログ倉庫に格納されています
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。

ニューススポーツなんでも実況