人工知能ディープラーニング機械学習の数学 ★3
「同じ様にネットワークで繋げば」 ここが微妙 実際にはデータをどんどんプログラムに入力していくイメージ 例をたくさん入力するとルールみたいなものを自動で獲得する 古くは example based な学習と呼ばれた 人間のニューロンの数が10の10乗といわれているから 1TBぐらいか? 実際にはニューロン間の連結が必要なのでさらにもう二桁ぐらい上 実際に計算するにはメモリ上に展開するだけでは遅くてしょうがないので 10の10乗ぐらいの数の素子が必要となる あくまで人間そっくりに作った場合だけど ディープラーニングは人間の思考の仕方からは相当離れたものになってしまったけど 実際には外部とのデータのやり取りも必要になるよね 聴覚、視覚、嗅覚、味覚、触覚みたいなもの 「繋ぎ方」が問題よな。それこそが学習というか。 AIには本能がないから人間足り得ないんだけど、特定の条件で学習関係なく反応するって典型的なプログラムそのものだから、本能って実は簡単に実装できそうなのよね。 人間がやっていることって 外部から入力がなくでも 自主的に考えることができるよね これが人間らしさの本質のような気がする これだけだったら入力がなくても 内部状態を入力として 学習を進めればできるような気はする >>95 外部からの入力なしに出力できないのはAIも人も共通じゃないかな? もし仮に獣に育てられて成長したら人間みたいな思考回路は形成されないような気がする 昔獣に育てられた人間がいたけど人間社会には結局馴染めなかったような 例えばWikipediaやネットの論文だけを頭に詰め込んで、ランダムなSeedで色々自動で考えたとして 果たしてどこまで新しい理論なら話が生まれるのかは気になるな ただ、一定数までは組み合わせでできても、そこから先は外部からの新しい刺激がないと成長しない気もする それとも、外部からの入力無しでもアイデアがアイデアを呼び無制限に想像ができるのか・・・ 人間には思いもよらない組み合わせ あるいは人間には複雑すぎて考えつかない意味ある組み合わせを 自動的に発見できる可能性がある それってむしろAIの方が得意な気が しかも寝ることもなしに出来るし トヨタが採用にE資格を歓迎する条件に入れるようになったな 多少は役に立つ資格になったな よく考えてみると場当たり的に総当たりすると サルがシェークスピアを書けるのかと同じ話のような気がする E資格って難しいんだろ 実務経験でaiやってる人とかが受けてる 【AI】Stable Diffusion 3発表、Soraで話題の拡散トランスフォーマーを採用 [すらいむ★] http://egg.5ch.net/test/read.cgi/scienceplus/1708865670/l50 ボイス・トォ・スカるしている者も攻撃を受けるようになりました >中身を1と0と-1で表現してる >なので4値の2bitではないけど3値必要なので正確には1.58bit >こうすることでかけ算があったはずの行列の計算を強制的に足し算引き算無の3種類に落とし込める >加えて演算を進めていくにつれて浮動小数だとノイズが混じっていくが、こっちは精度が落ちようがない ニュース記事 『1.58ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も』 https://wirelesswire.jp/2024/02/86094/ かねてから「1ビット量子化」の研究を続けて来たMicrosoftのがとてつもないLLMをリリースした。それが「BitNet 1.58Bits」だ。 https://i.imgur.com/VMD8HyS.png 最近主流になっている70B(700億)パラメータモデルでの比較である。Llamaの70BとBitNetの70Bモデルを比較すると、BitNetは8.9倍のスループットを誇るという。 「速いだけで回答が微妙なのでは」と心配するのが普通だろう。 そこでLlamaモデルとの比較が載っている。 https://i.imgur.com/zmgoo1X.png BitNetはLlamaよりも3倍高速でしかも高精度ということになる。 Llamaよりも性能劣化してないどころか性能は上がっている。 この圧倒的なスピードの秘密は、BitNetが文字通り「1ビットで処理している」からだ。 https://i.imgur.com/1tcsItA.png mixtralから継続学習したなら日本語性能高くなるの当たり前でしょ なんなん?お手軽な研究してんのな gpt-3.5−turboにギリギリ勝てるか勝てないかってところなのに 日本語に得意とかいい出すの、どうなんだろうね😅 猫も杓子も生成AI 認識、異常検知、予測への転用は難しかろうし x2 = x1 * POWER(SQRT(r),x1) ─@ の逆関数∧厳密でない解∧ランベルト関数は使用ない ま、それは、数値解析的な方法なら プロマネ🤡でも出来るぢゃないか 完成1版の中規模なPG改造だ 完成2版として緊急開発し、 現状の総合テストは中止という 方法もあろう。ま、その判断は、 プロマネの仕事だ。どうなるかは未知数 ∴ワシの霊的確率は、それは50%ジャスト by 👤 sakana aiのllmが出たぞ 日本勢の研究はどれも負けてる 日本語NLPですら外国人に勝てないのに、なんで同じ土俵に上がろうとするかね そこまでは言わんけど なんでもっと真面目にやらないのかなと思う いい加減な仕事してんなあって nttのtuzumiだっけ? パラメータの少なさは理解力、論理的思考力の低さと同義 専用線でセキュアに使えるのはいいとしても性能が低かったらアンケートの要約くらいにしか使えないじゃん そんなもんセキュアに実行する必要なくない?秘密のアンケートなん?😅 tensorflowのニューラルネットをchatGPTに作らせるというシュールな作業 オープンAIが東京にオフィス構えたら NTTだのベンチャーのなんちゃってLLMの出番ないじゃん 疑似的ボイス・トォ・スカル 組織はある程度大きくなるけれど構築方法 @Bluetooth v5.4 マルチ説ぞ可能なので同時に100に接続可能 飛距離は最大400メートル Aピンマイク.完全ワイヤレスイヤフォン【マイク付き】 ★これで司令塔を中心としたエリアが構築官僚 Bピンマイクのみの者は超指向性スピーカーにて指示を受けている 少し上のシステム C家の防犯カメラを道路が映るように設置 Dすまふぉのai機能拡張により仲間の未認識させる E口パクによる読み取りやジェスチャーやアイコンタクトによりさらに指示できる内容を増やしている @司令塔となる者にスマフォと全てのBluetoothをペアーリング AaIアシストにより各仲間に隠語で話すウ B警察にばれてモスク罪にAIによるアシストで行動パターンの変化をさせる 空き巣後の闘争中に路地に引き込んでの警察車両の足止め 仲間は通貨そのあとに車の故障で立ち往生これを繰り返す 万引きもチームプレイをすれば店員.万引きジーメンなどもかいくぐれる ネットを返していない特設通信なのでサイバー警察からも逃げれる リコーのllmがllm−jp-evalで67.0らしいけどコレあってんの? 1.2.0で計測してんだよな? ゴミみたいな用途なら10Bでいいけど mistralやcohereが100B超え出してきてて普通に負けてんだよ 生成AIに関しては学習データ枯渇問題がやってくるらしい >>134 雇用を生むならいいんじゃない? 知らんけど >>132 分かる ニッチなエロ画像集めてるけど数が揃うまで数年かかりそうw read.cgi ver 07.5.0 2024/04/24 Walang Kapalit ★ | Donguri System Team 5ちゃんねる