【オセロ,将棋】ボードゲーム Part2【囲碁,War】

**名前は開発中のものです。** · 2017/10/15(日) 17:34:58.03

比較的地味なボードゲーム専用のスレが欲しくて立ててみました。

前スレ
【オセロ,将棋】ボードゲーム【囲碁,War】
http://mevius.2ch.net/test/read.cgi/gamedev/1057763418/

**535** · 2019/09/28(土) 22:43:07.40

またgithub漁ってます。
https://github.com/yangrc1234/Gomoku-Zero

**535** · 2019/10/01(火) 22:13:53.83

3日くらい計算回したけど全く強くなる気配がないなorz
もしかしたら微妙に強くなってるのかもしれないけどあまりに成長速度が遅すぎる
やっぱアルファゼロは計算時間が半端ないのかも？

**535** · 2019/10/01(火) 23:21:06.21

やっぱアルファゼロはいったん諦めて、囲連星でやったようにモンテカルロAIの棋譜取り&勝率DB作り&教師ありDNNでライフゲーム囲碁やるべきか？
うーむ

**310** · 2019/10/02(水) 01:57:09.42

DCNN強化学習はマシンパワーが恐ろしいほど必要だからね。
満足できる教師データがそろってから評価関数に使ってみる程度にしないと…。
自由度が高すぎるので、まともな評価関数に収束するまでに、相当な試行回数が
必要なんじゃないかと思う。

自分は棋譜作成をずーっとやっていますが、現在は棋譜作りの目的がBook充実
になりつつあります。なんというか、現在の形はいつの間にかQ学習＋ε-Greedy
っぽくなってきています。

アルファ様のお陰で、目標を見失いましたので、手段のためなら目的を選ばない感じ
で、プログラム作る楽しみという方向になっています(^^;

**535** · 2019/10/02(水) 22:58:01.64

ライフゲーム囲碁、モンテカルロAIの棋譜取り始めました。
ヒューリスティックなしのモンテカルロで1手10000プレイアウトで1局に約1分かかります。
それを16並列で1分当たり約16局採取できる予定。
棋譜の質があまりよくないのが難点ですがとりあえず、これでやってみます。

**535** · 2019/10/03(木) 21:37:56.85

18257局分棋譜が取れたようです。大体13.2局/分くらい取れるっぽい。
全コア動かすとシングルよりやっぱ少し遅くなるみたいですね。

**535** · 2019/10/06(日) 00:55:35.61

DB作成まで来ました。
ライフゲーム囲碁は囲連星と比べてもっと沢山の棋譜が必要になるかもしれません。
オープニングのバリエーション的に。

**310** · 2019/10/11(金) 20:52:12.13

評価関数を変えたくなってきた。
偶数手番と奇数手番の癖が顕著になってきたので、スムージングをしたく
なったのだけど、キーを手番優先にしているので、１手進むと盤面がひっくり
返ってしまい、連続性が無くなってしまう。

キーを黒番優先にして、評価値も黒番サイド（白番の場合は－１を掛ける）に
統一するとスムージングしやすくなる。

ただし、評価関数からBookから、あちこち影響が出る。

そろそろソースの整理がしたくなってきていたので、バッサリやっちゃおうかな。
台風で暇だし。

**310** · 2019/10/12(土) 09:18:22.01

一晩考えてやっぱ辞めました(^^;
単純じゃない。

**535** · 2019/10/12(土) 19:26:22.43

あ～なんか情熱が湧いてこないな。
プログラム書くのがすごい億劫。

**535** · 2019/10/13(日) 05:54:00.56

とりあえず、囲連星のコード流用してDNN学習回せるところまで来ました。
あとはAIプレイヤーのコードを移植すればひと段落かな。

**535** · 2019/10/13(日) 07:51:43.32

モンテカルロAIとDNNAIで対戦できるところまで来ました。
DNNAIの動きはまあ第一弾にしては悪くない感じ。

**535** · 2019/10/13(日) 08:07:20.35

パッと見DNNAIには知性の芽生えのようなものを感じる。
勝率に結びつくかは微妙だけど。

**535** · 2019/10/13(日) 08:47:17.90

勝率に結びついてませんね…。
残念過ぎる…。

寝るか。。。

**535** · 2019/10/13(日) 10:43:15.62

うーん、ハッキリと弱くなってますね。
ライフゲーム囲碁って昔勝率DB使った時も勝率落ちたし何でだろう？

**535** · 2019/10/13(日) 10:48:13.56

モンテカルロAIにトリプルスコアで負けてますね～
かなｃ

**535** · 2019/10/14(月) 19:34:30.99

ここからどうしていけばいいのかわからんなぁ。
負けるDNNAIで棋譜取りして勝てるようになるのかといえばかなり期待薄。
でもやれることもないし一応やってみるか。

**535** · 2019/10/15(火) 23:46:30.99

DNNの評価値を得点差から勝率と得点差/81の平均にしたところ
トリプルスコアで負けてたのがダブルスコアになったようです。
まだ負けてるけど。

囲碁では得点差で評価値を付けるのはほぼタブーで勝率を評価値にするのがセオリーなのですが、試してみたかった。

**535** · 2019/10/17(木) 22:06:11.66

やっぱ、負けてるなぁ。

**535** · 2019/10/22(火) 14:18:39.16

うーむ相手から攻撃されたときに反撃しない癖があるようだ。
反撃さえすれば楽に勝てるはずなんだが…。

**535** · 2019/10/22(火) 16:38:49.29

DNNの入力にに盤面の情報だけじゃなくて、石がぶつかってるところの情報も与えてみるか。
かなり肝になる情報のはずだから。

**535** · 2019/10/22(火) 17:02:51.95

うお、メモリがパンクしたorz
もー新スレッドリッパーにメモリ1TB載せたいorz

**535** · 2019/10/22(火) 17:31:13.35

データベースがでかすぎるのかなぁ。
500万局面を4対称で2000万局面分くらいあるんだが、初期アルファ碁でも3000万局面くらいだったっていうし減らそういかなぁ。
うーん。

**535** · 2019/10/23(水) 20:19:32.52

前も言ったかもしれないけどいたずらにネットワークを巨大化するよりコンパクトにしてエポック数を稼いだほうがいいかもしれないな。

**535** · 2019/10/26(土) 19:36:09.88

学習するほどに弱くなる理由がさっぱりわからんorz
ちょっと休憩

**535** · 2019/10/27(日) 18:41:08.53

またgithubでアルファゼロ探ししようかなぁ（懲りてない)

**535** · 2019/11/05(火) 18:52:29.53

新スレッドリッパー今日発表見たいですね
ワクワク

**535** · 2019/11/05(火) 22:09:32.07

あれ、今日じゃないのか…

**535** · 2019/11/07(木) 23:17:24.41

スレッドリッパー 32コアベース3.7GHz　ターボ4.5GHz 1999$
素晴らしい
金がないけど

**535** · 2019/11/09(土) 22:53:36.89

https://github.com/suragnair/alpha-zero-general
これwindowsでも動くっぽい

**535** · 2019/11/10(日) 20:01:17.40

せっかく良さそうなの見つけたのに、イマイチモチベーション上がんないな～
なんでだろ。ホントよさそうなのに。

**535** · 2019/11/17(日) 21:06:42.27

コツコツpythonやってます。
リストの使い方がわかってくると書く速度あがりそう。

**535** · 2019/11/17(日) 21:48:33.74

>>972にライフゲーム碁のロジックを実装しました。
ランダムプレーヤーと対戦できるところまで確認しました。
意外と拡張しやすい作りになってるっぽい。

**535** · 2019/11/17(日) 22:00:36.51

インターフェースの作りがうまいプログラムは心が躍りますね。
見習いたい。

**535** · 2019/11/17(日) 22:24:52.29

うおおお、遅えええええええ
6x6オセロだと結構速いけど9x9ライフゲーム囲碁だとめちゃ遅いorz
なにか高速化策を考えねば…

**535** · 2019/11/17(日) 22:33:57.28

並列化されてないっぽいな。うーむ
並列化狙うか…

**535** · 2019/11/18(月) 20:52:01.98

今日一日、強化学習回してたんですが途中でOS固まってたorz
でも一応、3回ベストポリシー更新されたみたい。
ランダムボットと対戦させてみます。

**535** · 2019/11/18(月) 21:16:14.14

ランダムボットと黒白25戦づつやってディープラーニングAIの39勝11敗
でだしとしてはまあまあかな。

純モンテカルロAIともやってみよう。

**535** · 2019/11/18(月) 21:19:24.26

あれ、純モンテカルロAIないのか？
うーん。

**535** · 2019/11/19(火) 19:48:59.11

うーむOS固まるなぁ。
今日も固まった。
グラボの熱が悪いのだろうか？

**535** · 2019/11/19(火) 20:34:57.86

パソコンの調子が悪いのならいっそAWSとか検討するという手も…
でも金が…

**名前は開発中のものです。** · 2019/11/20(水) 21:49:18.08

今日も固まったorz
ほんまどーなってるの?

**535** · 2019/11/20(水) 21:49:44.28

名前忘れた

**535** · 2019/11/20(水) 22:46:44.07

固まったけど少し更新されてたようです
ランダムボットと対戦したら48勝2敗
結構ハッキリ強くなってるな。

**535** · 2019/11/21(木) 19:44:58.21

今日も当たり前のように固まってるorz
どうすりゃいいんだ？

**535** · 2019/11/21(木) 21:11:44.62

そろそろ次スレの季節ですね。
順番的に私の番か。
995くらいで立てたらいいですかね。

**535** · 2019/11/22(金) 19:54:12.78

今日も固まった
いまのところ100%

**310** · 2019/11/22(金) 20:03:28.74

どもです。そろそろ次スレですね。

相変わらず、色々小改造しながら相変わらず棋譜作り続けています。

Book確認のデバッグ用プログラム作って、棋譜の間違い特定が飛躍的に早くなり、
その分、訂正用の棋譜が膨れて遡り探索がおろそかになっています。

評価関数の学習は進めていますが、どちらかというと評価関数が怪しくて間違えて
いそうなところで、わざと分岐させてBookで正解手順（に近い）の分岐を登録していく
事で、棋譜の精度を上げようとしています。BookをQ値と考えると、選択的なε-Greedy
でQ学習しているような感じになりつつあります。

もちろん、最終的には評価関数に反映しますが、今はBook構築が先みたいな。

VC++のバージョンアップ通知が来たので更新したら、あちこちワーニングや
エラーが出て来まして、ソースの整理をしながら、ワーニングにならないソース
に書き換え中です。急いでも仕方がないので、裏で棋譜作り動かしながら、
ちんたらやってます。

久々にMCTS部分を見たら、バグだらけだったので、直したところ、マシンパワーが
上がったことからか、残り３０手程度ならすぐに終局まで枝が伸びて比較的正確に
最善手順が生成できそうかなと思っています。全てのプログラムの書き換えが
終わったところで、テストしてみたいと思っています。

**535** · 2019/11/23(土) 14:12:48.21

昨日の晩からいままで連続で動いてます。
なかなかベストポリシーが更新されなくて焦れる

**535** · 2019/11/23(土) 17:50:36.12

ランダムボットに白黒25戦づつやって50勝0敗来ました！
このゲームはほかのゲームと比べてランダムボットが比較的強いから素晴らしいですね。

**535** · 2019/11/23(土) 18:12:06.28

うーん、人間に勝てるほどは強くないな

**535** · 2019/11/23(土) 19:11:14.10

次スレ
【オセロ,将棋】ボードゲーム Part3【囲碁,War】
https://mevius.5ch.net/test/read.cgi/gamedev/1574503798/l50

**535** · 2019/11/23(土) 20:58:35.29

こっち埋めちゃいますね。

**535** · 2019/11/23(土) 20:59:10.47

梅

**535** · 2019/11/23(土) 21:00:52.15

AWSでいいマシンを使うというのも憧れるが、
買うのとどっちが安いかは微妙かな。

**535** · 2019/11/23(土) 21:02:40.43

スレッドリッパー11月30日発売。
コア数はいわずもがなベースクロックもかなり高い。

**535** · 2019/11/23(土) 21:05:07.92

pythonの文法は結局何がいいのかよくわからんな。
ライブラリが充実してるってのはそうなんだろうけど。

**535** · 2019/11/23(土) 21:05:51.11

1000 !
お疲れさまでした。
次スレでまたお会いしましょう。

**1001** · Over 1000

このスレッドは１０００を超えました。
新しいスレッドを立ててください。
life time: 769日 3時間 30分 53秒