【統計分析】機械学習・データマイニング18
レス数が950を超えています。1000を超えると書き込みができなくなります。
機械学習とデータマイニングについて何でもいいので語れ
人工知能考察は未来技術板の技術的特異点スレで語れ
※ワッチョイ
■関連サイト
機械学習の「朱鷺の杜Wiki」
http://ibisforest.org/
DeepLearning研究 2016年のまとめ
http://qiita.com/eve_yk/items/f4b274da7042cba1ba76
■前スレ
【統計分析】機械学習・データマイニング17
http://mevius.5ch.net/test/read.cgi/tech/1502032926/
VIPQ2_EXTDAT: default:vvvvv:1000:512:----: EXT was configured >>868
代入記号が特殊キーボード使って←で
A←A+1
だったのはそろそろ見習って欲しい 駿「他人の業績を自分がやったように語る、極めてなにかDM社に対する侮辱を感じます」 >>871
次はAI繋がりでおそらくpythonだろうな。 PL/MでなくPL/1を組み込みに使うなんてリッチな
環境ですね 良し悪し分類と種類の分類でどうニューラルネットワークの設計変わるんや
例えば料理だったら 美味そうか点数付けるのと料理の種類判別するのの違い >>879
> PL/MでなくPL/1を組み込みに使うなんてリッチな
MITのProject MACの内容、特にOSのMulticsについて調べてごらん
このOSは当時の最新最強の言語であったPL/Iで書かれたんだよ
そしてBell Labs.もこのプロジェクトに関わっていたが後に撤退し
その失敗の反省を踏まえてBell Labs.の連中が作ったOSがUNIX
つまり何でもできるようにしようとして規模がどんどん膨れ上がったMULTIcsに対するアンチテーゼとして
狙いを絞って軽量小型で反応も速いUNIxが生み出されたわけだ
ただしUNIXの記述言語のCについてはPL/Iから特に影響は受けた点はないと思う
C言語がどういった言語たちから影響を受けてどんな流れで誕生したのかも面白い話題だが
それはまたいつか気が向いたら書くかも知れない お客さん >>882 はどうも、Multicsを組み込みに使っている
みたいなんですけど。頭おかしいですよね。
そもそもライセンス違反ですよね >>884
> お客さん >>882 はどうも、Multicsを組み込みに使っている
882が>>879へのレスでその879が「組み込みに使うなんて」と書いてるからと言って延髄反射で上のように揶揄レスをするのは
君自身の頭の悪さ、読解力の欠如をわざわざ自分から曝け出しているだけの行為だよ
879がなぜ突然にPL/Iと言い出したかを考えれば、879が狂人でもない限り、その原因は>>874の
> 『PL/I』・『ケン・トンプソン』・『デニス・リッチー』
> と
> 『C言語、』『UNIX』
> の意外な関係。
>
> なんてのがあったね。
> PL/Iが無かったらUNIXは生まれなかったろうという。
以外には見当たらない。だから私の882は、その874で触れられていて879が反応したと推測されるPL/IとUNIXとの因縁を述べたのですよ。
879が「PL/Iを組み込みに使うなんて」と組み込みという言葉を急に持ち出したのは874で組み込みで広く使用されているC言語が出ているからだと推察できる。
なお、一言断っておくと、言語の名前として879のように“PL/1”と書く人も少なくないがこれは間違い、正しくは１のローマ数字を用いた“PL/I”だ。
884はもう少し議論の文脈をきちんと押さえてから反応することだね。でないと己の読解力の不足を示すだけのレスになってしまうよ。 >>882
MITは今Juliaだ。そのうちpythonにとって変わる。 Juliaはこの10年近くAV界を席巻したな
将来性と言っても・・・・ Iとか1とかlがごっちゃになってるのは
昔のタイプライター式キーボードの名残で云々 >>888
どっちの用途でも、性能アップにはシリコンデバイスの増設が必要だねw qiitaは真面目な記事とゴミ記事の落差がありすぎる 変数が・・・・・まぁ気にしない人は気にならないのだろうけど。 yjcaptionsを形態素解析でパースしたら語彙数が10000以上になってしまった
seq2seqするなら1hotと分散表現と1文字ごとと語彙減らすのどれがいいかな おまいら、学習ってどれくらい時間使ってる？
ワイ、遺伝的アルゴリズムで8時間くらいPCフルで動かしてる Juliaって使いにくいんだよな
matlabのコマンドウインドウをそのままpython対応にしてほしいわ tensorflowからkerasに移行したけどもっと早くに変えとくべきだったわ
kerasの楽さになれたら戻れんな chainerはtrainerに投げるまでのパッケージが何段階もあって面倒
kerasはモデル作ってコンパイルしてフィットするだけだから分かりやすい >>915
TFは別格にしても、pytorchもかなり流行ってきてるな >>914
そんなことはみんな知ってるけど、信者が荒れるから避けてきてるんだよ
>>915 >>916
FB が頑張ってるからな kerasは抽象化進んでるからこまい部分いじろうとしたらtf モデルだけkerasで作って、訓練はtfに投げるっていう手もある >>917
ﾜｯﾁｮｲにしてから問題ないよ〜
>>918 >>919
そういう使い方いいな あるモデルの予測性能に低下が見られた場合
トレーニングに使ったデータが既に手元にない時は
何をもとにチューニングをすれば良いのでしょうか >>921
トレーニングに使ったデータを用いた予測と
直近のデータに差が生じた。
＝＞トレーニングに使ったデータでは差が出る
＝＞直近のデータでチューニングする
じゃないの？ 学習モデル無いのにどこをどうチューニングするんだろう オンライン学習でいいんじゃないの
トレーニング用のデータはない、新しいデータもない場合は無理な話だけどバリデーション用のデータがあるから性能評価できてるんだろうし サポートベクター回帰について質問があるんだけど、
ここでいいの？ >>927
新しいデータがないとすると
チューニングが必要かどうかも
分からないと思うんだけど オンライン学習を使わない場合は
モデルを継続的にメンテナンスするのに
モデル作成時とそれ以降のトレーニングデータを
延々と保持し続ける必要があるということ？
実務ではどうやっているのだろう 時系列的に変化してゆくものなら
初期モデルを保持する必要はないでしょう
初期状況がスタートになるデータと、
そうでないデータがあるなら
両者保持してそれぞれに適用する。
後者は動的に変化させてもいいし初期を引きずる
必要もない。
ま、置かれた状況に寄りということになるでしょうね。 ロバスト性の維持を必要とするかしないか
今のAIはその辺りの思考は適当かもしれない 例えば手書き文字認識で最初に1万件のトレーニングデータで判別モデルを構築
その後新たに2万件のデータが入手できてそれをモデルに学習させるという場合
合わせて3万件のデータで適切なパラメータを探してテストしてモデルを構築することになるのかな
これはモデルを新しく構築するのと変わらないように思えるけど
つまり「学習≒モデルの新規作成」ということなのかな
これを続けるといずれはリソース不足になるけど
それを防ぐために最新の3万件を使ってモデルを構築するしくみにすると
切り捨てた古いデータから得られた知見はモデルに反映されないということになるのかな サポートベクター回帰のことで質問。
目的関数や判別関数のなかにΣ(a-a*)っていう項がある。
a*は何を指していて、どうやって計算すればいいのだろうか。
ひょっとして、回帰曲線より上にあるデータに関してはaを計算し、
下にあるのはa*を計算するっていう風にするのかな？
もしそうだとすると、学習中は回帰曲線が変化していくのに合わせて、
aかa*かを変えていくってことなのかな？
実際の数式は、例えば↓のP.11
ttp://datachemeng.com/wp-content/uploads/supportvectorregression.pdf >>935
オンライン学習だね
ディープ系だとあとから追加された教師データの影響が限定的な気がする
あとから追加された教師データで別のモデル作って、旧モデルとのアンサンブルを蒸留したほうが実用的には良い気がする >>935
単純に最新の２万件だけとかにすると
同じデータばっかり連続して入ってくると
馬鹿になってしまう いつのまにかkerasがCNTKに対応してたんだけど、やっぱりwindowsだとCNTKのほうが相性よかったりするんだろうか >>940
CNTK の Keras 対応はまだベータのままだと思うよ >>936
どや顔で答えるけど複素共役
重み係数に実数じゃなくて複素数使用することで重みの大きさだけじゃなくて、通信遅れみたいな取得波形のズレ具合みたいなものも相関取れる しもた
どや顔してまちがえてしまた
ただの同じ種類の変数やん。 >>944
重みというか、重みに関係するラグランジュ乗数だよ。
各学習データに乗数が２つあると考えるのかな？
あと、ついでに、この乗数を計算する更新式を知らないかな？
SVMの学習に使う更新式は見つかるんだけど、SVRの更新式が見つからない。 これらは筆者独特の説明のためにαとα*に分けただけ
本来はα-α*＝A、α+α*＝A'とでもおけばよい
ついでに言うとどうでもいいことだがこれらは本来のラグランジュの未定乗数法の定数ではない
筆者は何か定義を間違えてるのでは？ リンク先の資料ではなく
他の参考書なりネットで落ちてる他のものを見たほうがいいと思うけど。
基本的には重みを変化させて評価関数が小さくなるように重みを更新したらいいだけ。その方法は勾配法なり何でもよい というか後半は二次形式になるから評価関数を偏微分して＝0とし、重みに関する行列つくって逆行列求めて終わり >>946
他の資料をいくつも見てるけど、数式は同じだよ。
だから、筆者独自の考えではないと思う。
>>947
評価関数を最小にするよう重みを求めるのは分かるんだけど、
そのための常套手段というか効率のいい手法があれば教えて欲しい。
ないのかな。
>>948
俺の頭が追いつかなくて、全然理解できない。
逆行列を計算することで、最適解が解析的に得られるってこと？
色んな資料を見てると、そうではないようなんだよ。
あるいは、数学的には可能なんだけど、計算量が膨大なのかもしれない。 >>949
いやだからリンク先の資料は説明のための式変形だってば。意味を見いだすためだけの式展開。
方法は単純に中点法なりランダム法とかでよい。ただの凸関数だし。
適当に重みを2パターン用�ﾓして2点の評価関数を計算。さらに重みをそれぞれの中点求めてその値での評価関数も計算。一番評価関数が小さいものを更新。それでいける。
そもそも評価関数が重み定数の二次形式になってるから、最適解は一つしかなく、評価関数を重みベクトルの行列で表すとry >>950
そこまでわかってるやつなら機械学習しなくても
直接方程式解いて最適解求めるプログラム書いた方が早くね >>952
逆行列を求めるっていうのは、↓の式（７）を求めることに相当する？
ttp://cl-www.msi.co.jp/reports/svm.pdf >>955
じゃあ、>>954の方針でやってみるよ。
いろいろありがとう。 逆行列を計算する方法知ってるかいな？次元は知らんけど ちげえよ。
ニューラルネットの性能のほうが圧倒的になった今、もはや過去の産物が必要とされないから そもそもカーネル法は単体の技術じゃない。
他の手法と併用出来る応用性の高い技術。応用先はサポートベクトルマシンに限らない。 ディープラーニングにもカーネル法は当然応用できるが、単純にただ併用するだけでは意味がない。
恐らくもうすでに誰かがやってると思われるが、その結果だけでカーネル法ダメダメと決めつけるのは勿体ない。
もう一工夫取り入れると‥‥ ってところまで誰かやってくんないかな〜。
業種が違うから表に出せる機会がない 理論的、究極的にはにはそういう前処理すら必要ないのがニューラルネットだけどね
その操作が本当に判別に有効ならそういう処理を行う層が学習されるだけだし ニューラルネットは前処理いるじゃねえの？今は違うのか？ >>968
昔も今も変わらない。
>>967の方が、なにか大きな勘違いをされているだけ 空間を一度別空間に写像してから‥
なんてイメージが付いちゃってるから>>967みたいな発想になるんだろうね。
ほんと勿体ない ニューラルネットだけ別スレにしたほうがいいんだけどな
>>962
ド素人 www
>>963
同意。 レス数が950を超えています。1000を超えると書き込みができなくなります。
