【オセロ,将棋】ボードゲーム Part2【囲碁,War】

1名前は開発中のものです。2017/10/15(日) 17:34:58.03ID:RaMh0le2
比較的地味なボードゲーム専用のスレが欲しくて立ててみました。

前スレ
【オセロ,将棋】ボードゲーム【囲碁,War】
http://mevius.2ch.net/test/read.cgi/gamedev/1057763418/

3245352018/04/16(月) 23:37:28.33ID:6KBtspgu
loss も entropyも減ってきてる!
これでベストポリシー更新が来れば!!

3255352018/04/17(火) 22:16:19.94ID:E16XJnGD
キタ━━━━━━(゚∀゚)━━━━━━ !!!!!
ベストポリシー更新きました!
次の切りのいいところで止めてプレーしてみよう

3265352018/04/17(火) 22:34:03.78ID:E16XJnGD
それはそうとzen+の発売日が迫ってますね。
金がないから買えないけど情報だけは追っかけてみます。
爆速だといいな。

3275352018/04/18(水) 23:48:24.10ID:7NtNWbU1
あとちょっとだけ待とう
終局までの手数も順調に減ってきてるから意味のある手を打ってるんだろう多分
ワクワク

3285352018/04/19(木) 20:50:17.33ID:lyvIQrMy
打ってみました。
序盤、中盤は棋理の芽生えみたいなものが感じられました。
伸ばせそうなところを伸ばすとか伸ばされそうなところを止めに来るとか
でもわざと負けようとしても5連までは積極的に作りに来るのにそこからパタッと伸ばすのをやめて7連を作ってくれませんw
なぜw?

でもまあ、希望は感じられました。
もうすこし学習してみます。

3295352018/04/19(木) 23:51:35.82ID:lyvIQrMy
zen+なかなかよさげですね。
前世代と比べて一割前後性能アップ?

3303102018/04/20(金) 09:40:06.18ID:HgLFJ5UM
うーん。AMDはSIMD命令で遅い命令があって、速度低下するかもって
どこかで読んじゃったからなぁ。


こちらは地道に記譜作成しながら学習させてます。
深さ優先で記譜作成すると、分岐が少ない手筋ばかり増えていくので、
幅優先で、同じ深さである程度記譜溜まってから、次の深さとするように
したのですが、空きマス27からの記譜展開で、時間がかかるようになって
なかなか空き28マスに行けない。オーダリングの精度が出ていないから
だと思いますが、同時に選択肢も増えてきて、余計時間がかかる感じ。

空き30マス突破したら、かかる時間の増加率は下がるはずなんだけど。

3315352018/04/20(金) 22:59:48.32ID:1YRRGto3
もしかして終盤はあえてランダム性を残すことによって学習が進みやすくなるなどの深い理由があるのだろうか?
わからんが。

3325352018/04/20(金) 23:02:21.21ID:1YRRGto3
それとも序盤は同一局面のデータがたくさん現れるから学習できるけれど
終盤に行くとデータが散らばっちゃって学習できなくなるということだろうか

333名前は開発中のものです。2018/04/20(金) 23:03:29.26ID:1YRRGto3
あるいは一線や二線は打たないほうがいいと学習してしまっているがため、7連を作れないのだろうか?

3343102018/04/21(土) 20:32:42.81ID:AdkW58BW
オセロは記譜生成させてるだけで暇なので、将棋の事を考えてました。

KKPとかよくわからないし、同じ事をやってもつまらないので、利きを点数化
しようかと考えてみまして、実際の計算方法を考えていたら、自玉周辺と
相手玉に対する利きがKKPなのではないかと思い至ってしまいました。

持ち駒の点数は駒種毎に固定で振られていて、駒同士のぶつかりによる優劣
特に駒交換はmin-Maxにて補間しているのかなと。評価関数自体は意外と単純
な事しか学習していない感じで、探索で補っている部分が大きいように感じます。

こうやって見ると、上手く単純化しているなぁと。
自分で勝手に想像した内容に感心してしまいました。

ただ、これならこれで、自玉KPと相手玉KPの合算で、2駒関係に次元を落とせ
そうではないかと思ってしまいました。まあ、無理なんでしょうけど。

自分がやる上での一番のネックは、オセロの評価関数が点数だったために、
なんちゃって強化学習しかやった事がな点ですね。あと、みなさんライブラリ化
されていて、それに則れば色々な人の考えた高速化・高効率化のネタが利用
できる点で、一から車輪の再発明していては追い付けないよなぁと。

3355352018/04/21(土) 20:39:59.86ID:8g8p+RpI
ほう、将棋に進出ですか。
将棋AI界はオープンソースが進んでる感じなんですかね。

3365352018/04/21(土) 20:50:54.10ID:8g8p+RpI
alpha zero のパクりプログラムgithubから丸パクしてきたわけだけど
そろそろちゃんとソース読み解いてみようかな。難しいだろうけど

丁寧な解説がどこかにあればいいんだけどね

3375352018/04/22(日) 17:35:27.70ID:QOhFsFyf
お、AIが7作った。
いままではわざと負けようとしても勝ってくれなかったけど今回は勝ってくれた。
まだまだ弱いけどもっと学習させてみよう

3385352018/04/22(日) 19:13:47.98ID:QOhFsFyf
俺も学習見守るだけで暇になっちゃったからなんか始めたいけど
計算リソースが学習にもってかれちゃってるからそこどうするか。

やっぱPC新調か?

グラボも効果あるみたいだし今度はGeforce 1080 Tiとか試してみたいな。

金がないけど。

3393102018/04/22(日) 19:48:13.41ID:wf3ukgDl
だよね。自分も脳内妄想で我慢です。
PC新調しちゃうか思いっきり悩み中。

3405352018/04/25(水) 20:09:35.29ID:QZIUF0Ri
もっとネットワーク大きくしてみたいな。
でもさらに学習時間がかかると思うと躊躇する。

3415352018/04/27(金) 21:32:10.80ID:b1G/gV5U
お、損失が3点台だったのが2点台になった。
いい感じなんじゃないでしょうか?

3425352018/04/28(土) 17:38:12.12ID:MUOfiFNK
ジムケラーがインテルに来たとか。
いいCPU作ってくれるならどこでもいいけどね。

3435352018/04/29(日) 20:30:57.65ID:mX318X6T
序盤は素晴らしい棋理の芽生えを感じるが、いかんせん終盤がなぁ
ほかのアルファゼロクローンも似たような感じなのだろうか?

3445352018/04/29(日) 20:50:13.18ID:mX318X6T
公式AIともやってみたけど序盤センスは互角以上と感じられる。
実際、必至をかける一歩手前まで行った。
終盤力さえ磨かれればおそらく公式AI越えはある。

3455352018/04/30(月) 22:51:47.16ID:qAJqtYoj
学習が1000エピソード突破。
1500が規定値だから最後まで回したいな。

3465352018/05/01(火) 21:34:25.66ID:bYHVWZMu
もっとパワー、速度が欲しいな。
こんなことなら最初から1080 Ti いっときゃ良かったかな?

3475352018/05/03(木) 10:58:16.57ID:gNd8xJ5s
ちょっと思うところがあって、思い切ってネットワーク大きくしてみました。
学習最初からやり直しです。

さて吉と出るか凶とでるか。

3485352018/05/03(木) 13:28:58.30ID:gNd8xJ5s
ん、ネットワーク構成変えたら学習率もいじらないと上手くいかないのか?
ネットワークでかくしたら学習率は大きくすればいいのか小さくすればいいのか…

3495352018/05/03(木) 13:42:41.42ID:gNd8xJ5s
ネットワークでかくしたら学習率は小さくするのがいいみたい?

3503102018/05/03(木) 20:31:46.75ID:EAR7zekO
なんか順調でうらやましい。
俺もやっぱGPU付きのPC買うべかな。

一般的にLRでは、学習率は発散しない限界まで大きくするのが良いらしく、
昔は、最初大きく、試行回数増えるごとにだんだん小さくみたいな事をしてました。
NNではRMSPropとかADAMとかで自動調整する流れだと当時理解していました。
ただ、Googleの論文読むと、普通に学習率固定っぽく読めてしまうんですよね。
強化学習だと学習率固定が良いのかも知れません。

表現力大きいからあんまり問題ない気がするのですが、学習率は小さくすると
学習に時間がかかる代わりに、収束しやすくなります。局所解には陥りやすく
なるのではないかと愚考しますが、強化学習における局所解と、教師付学習に
おける局所解は現象が違うから、よくわかりません。

3513102018/05/03(木) 20:37:19.91ID:EAR7zekO
こちら、例によってひたすら分岐付き記譜を作成しています。
空きマス27の所(完全読みとしては26)のところから、計算時間が案の定すごく
かかるようになってしまって、遅々として進まなくなりました。

最後の手段でとっておいた、UCT探索で仮PV作成し、それでmtd(f)にて評価値を
迅速に確定して、その評価値で正しいPVを求めるという流れにしたところ、恐らく
数倍程度に高速化され、それによって記譜が集まり正確になる事で、評価関数の
精度が上がって、仮PVが正確になりという好循環に、ようやく入る事ができました。

ただ、それでもまだ時間はかかるというか、今空きマス28まで持っていったら、
また時間がかかる地獄に入りそう。最低でも空きマス30までは持っていきたい。

つか、待っている時間が長い…セカンドPCが欲しい。

3523102018/05/03(木) 20:41:41.51ID:EAR7zekO
>>351
>数倍程度に高速化され

あくまで仮PVが数手分合っている時の話で、仮PVが間違っていると、
むしろ遅くなる可能性があります。


あと、一つの局面に対し、最善手が複数あるケースでは、例えば最善手
が2つあると2倍程度時間がかかるという問題があるのは認識していて、
対策は可能なのですが、そうするとバグった時にβカットのエラーを吐か
ないという恐ろしい状態になってしまうので躊躇しています。

3533102018/05/04(金) 19:57:24.12ID:5CQB8Di3
世界コンピュータ将棋選手権の2次予選までで強さをみせつけている
T.N.K(通称たぬき)ですが、DL勢にして高速評価関数という事なので
アピール文書を見てみました。

これ、CNNではなく、全結合のDeep Networkの模様。追加で論文も
出ているので、見たところ5層のMLPです。

入力層に玉との2駒関係を使っていて、そこは計算量が多いので、
ここだけ差分計算で高速化しているとの事。自分は行列をEigenに
任せちゃってるので差分計算していませんが、オセロでも結構使え
るはず。

もう一度オセロをMLPに拡張したくなってきた(汗

3545352018/05/07(月) 20:19:04.83ID:m+uVPKyG
ネットワーク大きくすると学習が収束する確率下がるんですかね?
なんか学習がうまく進んでないようです。

3555352018/05/08(火) 00:21:37.96ID:VKk6NsC2
もしかして学習率だけでなく、ほかのパラメータにも手を加えなければならないってことですかね?

3563102018/05/08(火) 01:01:09.30ID:6noaUyVY
バックプロパゲーションで計算している以上、深さが深くなると、
その分初段まで誤差を遡らせるのに時間がかかるから、収束が
遅くなって当然かと思います。

あと、初期値のランダム値の幅も、適切に設定しないとなかなか
収束しなくなりますし、それでも初期値の運が悪いとまったく収束
しないなんて事もあり、ちょこっと不安定なところがあります。

XavierとかHeとか初期値の設定項目はありませんか?
本で読んだ知識なので、現実にどれくらい影響するのか良くわかりませんが(^^;

3575352018/05/08(火) 19:21:19.88ID:3yhYJr6O
おお、ありがとうございます。
しらべてみます。

3585352018/05/09(水) 21:58:37.29ID:53SriW94
パソコン壊れたかと思ったが放電したらなおった
あー怖かったTT

3595352018/05/10(木) 20:05:15.86ID:X+P+UxO/
学習率の変動率?を下げたら結構うまく動いてるっぽいです。

3605352018/05/11(金) 20:15:31.62ID:TPpBGuAT
loss とか entropyはいい感じに減ってるのに自己対局の結果がついてこないですね。
うーん、なんだろう?

3615352018/05/12(土) 17:16:50.40ID:UY4N1vvW
いや、自己対局もちょっとづつ改善してるみたいです。
もっと時間が必要かな。

3625352018/05/13(日) 18:33:11.99ID:jNzVm6ts
windowsがたまに夜中に勝手に再起動してしまうんだが?
マジむかつく(怒

3633102018/05/13(日) 19:53:17.92ID:i+O998yE
Windows Updateかな?
俺は通知もらうだけにして、タイミング見て自分で再起動かけてる。
まあ、24時間経つとカウントダウンが始まるので、早目に再起動する事になるけど。

3645352018/05/16(水) 19:41:44.02ID:zhHRqcbt
いままで50エピソード毎に自己対戦してたけど、自己対戦がかなり重いから200エピソード毎に自己対戦にしたらなかなかいい感じ。

3655352018/05/16(水) 20:52:45.23ID:zhHRqcbt
ネットワーク大きくしても詰めが甘いのはかわらないですねorz.
公式AIに勝つチャンスあったのに勝ちを逃してしまいました。

3663102018/05/17(木) 20:16:35.67ID:3wU0adoY
Surfaceの電源ケーブル、そろそろ断線しそうだなぁと思っていたら、
PCをひょいと動かした瞬間に、まさかの電源落ち。

ウェイトデータ書き込み中に停まらないように色々工夫していても、
この手の落ちには対処できるわけもなく、また大変に運が悪い事に
またしても後半10ステージ程度のウェイトデータが飛んでしまい
ました。バックアップとっていたのですが、気づかずにいたので、既に
上書き済みという罠。

後ろ10ステージ分のみゼロクリアして、そこだけ今のデータで再度
学習する羽目になりました。

orz

3675352018/05/17(木) 20:37:00.03ID:anbc4vLN
乙w

3685352018/05/17(木) 23:06:00.81ID:anbc4vLN
これはNew マシンを買えとの神のお告げww

3695352018/05/18(金) 20:48:52.38ID:UxmUzKYy
まただよw(再起動)

370名前は開発中のものです。2018/05/18(金) 21:21:28.72ID:UxmUzKYy
藤井聡太さんが7段昇格とか。
凄すぎ

3715352018/05/19(土) 20:01:16.80ID:PB1pw3rI
むう、AlphaZeroのポテンシャルはこんなものではないはずだが。
でも100万局くら学習させないと真価は発揮できないかもなぁ。

3725352018/05/20(日) 23:46:47.79ID:A2GqvvmZ
19路囲碁だと20層くらい層がないと駄目だとか。
うーん20層は厳しい。。。

3733102018/05/21(月) 20:17:29.25ID:aDShJzMX
畳み込み窓が3×3で、隣との関係を1マス分づつ認識しているとすると、19路で
19層必要で、出力の全結合層つけて20層って事なのかなぁ。

あとフィルタ数も大事だと思う。フィルタで認識する特徴の種類が決まっていると思う。

なんとなくだけど、こう仮定している。検証はしていない(汗

3745352018/05/21(月) 21:00:41.57ID:9qAF6usq
いまのところ192 * 6 でやってます。
9路だから192 * 10 にすればよかったかなぁ

新着レスの表示
レスを投稿する