プログラマの雑談部屋 ★309

■ このスレッドは過去ログ倉庫に格納されています
1仕様書無しさん
垢版 |
2023/12/10(日) 15:10:15.83
雑談スレ

前スレ
プログラマの雑談部屋 ★308
https://medaka.5ch.net/test/read.cgi/prog/1701118338
2023/12/13(水) 21:59:49.02
ChatGPTが怠慢になってきてるって人間的で面白い
2023/12/13(水) 22:00:24.33
性能絞りよって
2023/12/13(水) 22:01:20.05
やはり限られた人間だけに教育をさせるのがよいのか
2023/12/13(水) 22:02:26.69
Googleとかの検索エンジンも
きっと世界の一番いいところでは
常人が触ることもできないようなのを使ってるんだ
公開当時のみたいな
2023/12/14(木) 05:07:17.35
>>175
今が第四時AIブームだっけ？
もともとクイズ番組で勝ったりチェスで勝ったりして盛り上がってもしばらくしたら沈下となったりしてたやん？

まあ今回は盛り上がり方が一味違うけど
ただ、GAFAMクラスと言えど、おそらく超えがたいカベハあると思う
2023/12/14(木) 05:15:52.11
第三次か

今までと違うのは、スマホの普及によって、ネットに莫大な学習させるための情報と、大量のユーザーからのフィードバックが手軽にできる点かな

個人的には2030年過ぎたあたりでシンギュラリティからの一悶着後に、人類の常識は覆ると思う
不老不死とか死者蘇生とか、その程度の常識的な話ではなく、おそらくもっと非現実的と思われてるようなことすら可能になる
2023/12/14(木) 06:26:35.94
AIと言っても膨大なデータを元にした統計データによる結果を出してるに過ぎないからな
思考しているのとは違う
183仕様書無しさん
垢版 |
2023/12/14(木) 06:32:58.33
>>182
違うぞw
ここまで分かってないのはイマドキ珍しい
2023/12/14(木) 06:39:03.99
ワトソン君は、クイズ番組の出題形式がwikiとかを参照するだけで簡単に答えられたのよな、たしか
2023/12/14(木) 07:21:16.17
>>182
Q*でそこクリアしたって
2023/12/14(木) 07:38:26.51
二十数年プログラムやって
自分の作ったものが結果どうなったのか
１度も目にしていない
2023/12/14(木) 07:39:43.50
小手先を増やしてはいるけどクリアには至ってないでしょ
2023/12/14(木) 07:45:44.73
一度も
2023/12/14(木) 08:30:47.11
人は仕事をするために生まれてきたんだよ
それこそ生き甲斐って奴だ
2023/12/14(木) 11:06:05.36
でもお金もらえない
191仕様書無しさん
垢版 |
2023/12/14(木) 11:16:59.18
>>183
統計に乱数を加えてんだよねw
2023/12/14(木) 11:28:16.35
AIは人間が答えを教えてやらないと何も出来ない馬鹿だから
2023/12/14(木) 11:31:38.37
AIが統計だったら数学いらんで
原理を知った方がいい
2023/12/14(木) 11:33:33.51
>>190
大谷はドジャースとの交渉の席で、お金より居心地の良さを優先したらしいけどな
お金の話は意味が無いと
2023/12/14(木) 11:36:22.56
AIって結局膨大な統計データを元にした多数決だろ
より偏った方を正解として出してるだけ
数学はその偏り方を求めるための道具に過ぎない
2023/12/14(木) 11:38:04.46
大谷は勝ち組なのに彼女も作らないし結婚もしないから親しみが湧く
2023/12/14(木) 11:41:26.69
>>196
大谷はお前に親しみはわかないだろうけどな
2023/12/14(木) 11:42:26.12
大谷からの親しみなど求めてない
2023/12/14(木) 11:45:15.12
橋の下で暮らそうかな
200仕様書無しさん
垢版 |
2023/12/14(木) 11:49:49.99
>>199
それって何のメリットあるの？
2023/12/14(木) 12:06:27.29
ヤンキーの兄ちゃん達と仲良くなれる
2023/12/14(木) 12:21:02.10
>>195
少ない元データからのAI生成もかなりあるで
一から勉強しなよ
2023/12/14(木) 12:27:02.26
AIに関わる連中が天才ばかりだろうから、常識がどこまで通じるかは不明
これだけ盛り上がり金が動くなら億単位の報酬すら安いとかもありうるし
そのレベルなら天才たちも飛びつくかもしれん
2023/12/14(木) 12:29:59.77
>>202
いやないぞ
蒸留してるなら別だけど
それも元々学習したモデルがあるからだし
2023/12/14(木) 12:32:38.21
>>203
OpenAIの社員の年収は90万ドルらしいよ
平社員とかでも
2023/12/14(木) 12:32:48.49
AIは普通の開発と違って結果が出るかどうかやってみないとわからないんだよ
できそうもないことはなんとなく事前にわかるけど
2023/12/14(木) 12:33:56.24
>>205
まじか、すげー
ちょっとなってくる
2023/12/14(木) 12:34:43.55
投資家に夢を見させて金引っ張れる力が大事
孫さんなんてゾッコンだろ
2023/12/14(木) 12:38:45.86
>>204
BardはChatGPTを蒸留してるらしいねえ
ずるいねえ
2023/12/14(木) 12:40:27.15
>>207
世界とはここまで差がついてるんだなと愕然としたよ
2023/12/14(木) 13:05:27.92
>>204
いかに少ないデータからモデル生成するのが最近の傾向なのを知らないんだね
2023/12/14(木) 13:36:45.99
スモールデータ
213仕様書無しさん
垢版 |
2023/12/14(木) 13:40:18.02
そもそも機械学習で過学習ってのもある訳で…

テレビの視聴率を調査するのに調査機器が何件設置されてると思ってるのか
実は結構少ないけどコレで大体合ってるのが統計学な訳で…

無能多過ぎw
2023/12/14(木) 13:42:45.48
>>211
そりゃ少ないデータから良い精度のモデルができたら苦労はしねえよ
2023/12/14(木) 13:43:38.43
これをやられるとどんどんばかになる
2023/12/14(木) 13:44:13.65
徹底して失敗に誘導された
2023/12/14(木) 13:45:06.27
だめだ
2023/12/14(木) 13:47:43.29
>>211
だからそれが蒸留でしょ
精度の高いモデルを利用できる場合はそれがベスト
ChatGPTもGPT-4を蒸留して生まれたことはマイクロソフトがバラした
蒸留の意味わかってる？
2023/12/14(木) 13:50:48.53
わかりません
2023/12/14(木) 13:54:09.88
そのうちアイドルの写真を見せるだけで、そのアイドル主演のAV動画が自動生成されるようになるかもな
2023/12/14(木) 13:55:33.12
俺たちは生まれてくるのが早過ぎたんだ
2023/12/14(木) 13:57:46.20
マジでプログラマの仕事が無くなるのが既定路線になったな
他の仕事探そ
2023/12/14(木) 13:59:18.25
×プログラマ
○人間
2023/12/14(木) 14:10:30.87
AIもテストコードを書くようになるんかな
2023/12/14(木) 14:16:09.15
AI学生の頃やってたのに
やってたのに
2023/12/14(木) 14:34:50.52
意味のあることとか成功につながることとか
そういうのはいつも自分の手をするっとすり抜けていく
2023/12/14(木) 14:36:31.92
>>218
訳のわからない話をするなよ
ここは底辺が集うスレ
まともな話ができるとは思わないように
2023/12/14(木) 14:38:15.99
脳回線が何度でもつなぎなおせるならいいんだが
もう生き残ってる細胞が少ない気がする
2023/12/14(木) 14:38:57.81
大脳新皮質の上に脳細胞が詰まったフィルター乗っけて
頭がよくなったりせんかな？
2023/12/14(木) 14:44:02.91
うだうだ愚痴ってないでトラックに轢かれてリセットしろ
2023/12/14(木) 14:44:52.25
親より早く死にそう
2023/12/14(木) 14:47:14.09
>>218
ムスレへカエレ
2023/12/14(木) 14:47:42.79
>>232
この屁理屈っぽい言い方は確実にムスレだな
2023/12/14(木) 14:48:52.12
>>218
つまりなにか
Microsoftは４を最初から持ってたって言ってる？
2023/12/14(木) 14:52:35.34
>>234
いや持ってるも何も出資してるんだからいくらでも使える状態だろう
一度GPT-4みたいに精度の良いモデルを作ってしまえば
(この部分は初期投資として金はかかる)
後はそのモデルを使って蒸留すればパラメータ数もデータも少なくても同等の精度が出せるんだよ
これは論文が出てるからある程度間違いがない事実
そうすればクラウドのコストも下がるし
勝ち組がどんどん勝つ世界になってきてる
まさに資本主義だよ
2023/12/14(木) 14:54:37.68
３．５が４からできたって聞こえる
2023/12/14(木) 14:55:51.54
アルトマンの振る舞いとか
他がChatGPTほど性能でないのってつまり
最初から
2023/12/14(木) 14:56:18.83
蒸留ではないよ
アルゴリズムだけで最小データからモデル生成するんだよ
リアルタイムに近づけるにはそれしかない

もう帰れ
2023/12/14(木) 14:58:10.52
>>236
それはわからんけど論文読む限りモデルは同じでパラメータ数だけが違うみたいだから
ゼロからやってるんじゃないの
2023/12/14(木) 14:58:43.74
>>238
プw
2023/12/14(木) 15:00:54.00
GPT-4は推論だけでも複数ノードかつマルチGPUが必要とされてるし
コストはバカにならんからね
2023/12/14(木) 15:05:35.77
あるときからMSがOSの管理ほっぽらかして
コルタナとか怪しげなデータ収集とか
そういうことばっかりするようになった
GPT４作ってたんちゃうか
2023/12/14(木) 15:05:44.13
俺らはもう強制収容所で1日8時間働かされてその後は家に強制的に送還される未来しか残されていないんだよ
2023/12/14(木) 15:07:38.92
うわべが現実と違いすぎてゲロ吐きそう
2023/12/14(木) 15:11:58.16
実態は巨大なAIの学習情報提供してもらったってことなんだろな
2023/12/14(木) 15:12:58.13
うわべや現実なんて気にせんほうがええで
適当が一番
2023/12/14(木) 15:29:42.24
Windows10以降を使っているということは「ディスク上のコンテンツ」を
マイクロソフトが収集することに同意しているということだからなあ
Win10が出た当時かなり話題になってたが
2023/12/14(木) 15:43:07.67
windowsに顧客情報を入力すると顧客情報の社外持ち出しに
なり懲戒処分になる
2023/12/14(木) 15:50:52.66
まずい時代になった
2023/12/14(木) 16:10:37.38
あたまいたいのがなおらない
2023/12/14(木) 16:21:04.98
コロンビア大のロボットの動作Diffusion研究チームが中国人だらけな事に日本の衰退を見る

Diffusion Models for Robotics Control
https://diffusion-policy.cs.columbia.edu
2023/12/14(木) 16:23:48.40
日本は本当になにもできないな
2023/12/14(木) 16:24:36.22
ドイツフランスのように
抑圧されてどんどんばかになっていく
いじめられるのが仕事
2023/12/14(木) 16:28:54.15
>>250
バファリンかロキソニン飲め
2023/12/14(木) 16:29:37.49
何もできない
政治は腐敗
マジで賢い奴は日本にいないよ
本当飯だけの国
2023/12/14(木) 16:30:50.71
>>253
ドイツにはGNPでも負けそうだぞ
2023/12/14(木) 16:33:08.18
Next.jsからCMSにする国
2023/12/14(木) 16:45:49.08
蒸留についてはこの説明がすげーシンプルでわかりやすいので覚えておけ
もちろんバリエーションは無限だしその分野だけで研究が成立するから本当の基本の基本だが
https://zero2one.jp/ai-word/distillation/
259仕様書無しさん
垢版 |
2023/12/14(木) 16:50:01.90
>>255
Hentaiを忘れるな
260仕様書無しさん
垢版 |
2023/12/14(木) 16:52:18.59
>>257
国として開発言語とかフレームワークを指定して無いからじゃね
あくまでも欲しい機能を挙げただけで入札業者の質やろ
2023/12/14(木) 17:05:43.02
砂になりたい
2023/12/14(木) 17:09:19.79
かしこくなりたかった
どんなに学習しても
根本的に脳のスペックが足りてない
2023/12/14(木) 17:21:22.70
うちの会社は未だにPCのネット接続禁止(イントラのみ可)だからAIに侵食されることはなさそうだな
会社ごと無くなるかもしれん
2023/12/14(木) 17:31:24.21
ドル円が141円で草
2023/12/14(木) 17:42:36.60
>>213
ただ、人間のノウモカテゴリーに分けたり、判断ベースの推測は遺伝子に刻まれた学習結果や記憶からの統計的な推測とかとも言えるのよね

脳科学や心理学なんかは、統計的な考え方で人の心や脳を捉えようとしたりもするらしいし
2023/12/14(木) 17:43:22.83
なんかプログラマーらしいスレになったな
参考にする
2023/12/14(木) 17:52:25.80
>>266
プログラマーではないキチガイが混ざってるから気をつけなされ
2023/12/14(木) 18:27:16.04
ちな蒸留はかなり昔からあるテクニックだけどtransformers以降精度が劇的に上がったので
蒸留の技術も必然的に有用になったというわけ
後もう一つ最近流行ってるモデル最適化は量子化
量子化は分野によって結構意味が違うが深層学習においては
パラメータの32ビットの浮動小数点数を8ビットの整数に置き換える技術
こうすることでモデルのサイズを劇的に減らすことができる
さらに個人のマシンでも実行可能なようにできる
2023/12/14(木) 18:30:47.68
>>260
デジタル庁のスタッフがHTMLわからんし
ReactのタグもわからんからCMSにしろとか言う声が上がったのは容易に想像できる
お前らデジタル庁だろう勉強しろよって思うが
2023/12/14(木) 18:31:55.48
>>268
サイズを単純計算で1/4にできるのか
ほえー
精度とか下がらんのけ？
2023/12/14(木) 18:32:45.47
>>263
いまだにそういう会社あるんだな
何をビビってるのか知らんが
2023/12/14(木) 18:34:20.78
>>255
飯もそれぞれの国のミシュラン三つ星の数を考えると
トップどころは全部海外だしねえ
273仕様書無しさん
垢版 |
2023/12/14(木) 18:35:24.58
>>271
核とか扱ってるんじゃね
2023/12/14(木) 18:37:06.56
ということはマイクロソフトはGPT-4のモデルを使うためにOpenAIに出資をしたと？
そして今蒸留や濾過が完了したから搾りかすはもうイラネということ？
2023/12/14(木) 18:37:22.06
半精度のさらに半精度つてこと？
それってどうなの？
■ このスレッドは過去ログ倉庫に格納されています
5ちゃんねるの広告が気に入らない場合は、こちらをクリックしてください。
ニューススポーツなんでも実況