Conversation

Notices

1. なかはらいちろう (lithium03@mastodon.lithium03.info)'s status on Wednesday, 22-May-2024 21:50:23 JST なかはらいちろう

   LLM作った
   結構資源いるよね

   • なうぞめ (nz@misskey.pm)'s status on Wednesday, 22-May-2024 21:50:22 JST なうぞめ

     in reply to

     @lithium03@mastodon.lithium03.info
     ですよね。
     しかもそれを制御できるのすごいそう。。。

   • なかはらいちろう (lithium03@mastodon.lithium03.info)'s status on Wednesday, 22-May-2024 21:51:58 JST なかはらいちろう

     in reply to

     • なうぞめ

     @nz ものができたことも資産ですけど、作る為の試行錯誤がけっこう明文化されてない知識なので、貴重

   • なうぞめ (nz@misskey.pm)'s status on Wednesday, 22-May-2024 21:51:58 JST なうぞめ

     in reply to

     @lithium03@mastodon.lithium03.info
     ですよね。
     調べたけどあまり情報がなかった。

   • なかはらいちろう (lithium03@mastodon.lithium03.info)'s status on Wednesday, 22-May-2024 21:59:18 JST なかはらいちろう

     in reply to

     • なうぞめ

     @nz まじ、みんな秘匿しすぎ。というか、自社システムにべったりすぎて、公開できない雰囲気がするので。
     複数GPUで高速学習させようとしたら、それなりのノード間通信とか必要で…
     質のいい学習用データを取ってくる所も、薪のくべ方(ちょっとずつ難しくしていく)も効いてくるとか言われてますし

   • なうぞめ (nz@misskey.pm)'s status on Wednesday, 22-May-2024 21:59:18 JST なうぞめ

     in reply to

     @lithium03@mastodon.lithium03.info
     確かに仕様はわかっても中身わかないケースありますもんね。
     A100(GPU)がとか出てきてびっくりしちゃった。

   • なかはらいちろう (lithium03@mastodon.lithium03.info)'s status on Wednesday, 22-May-2024 22:14:26 JST なかはらいちろう

     in reply to

     • なうぞめ

     @nz いっぱいA100とかが生えてるマシン欲しい
     なお電源

     ABCIとかで時間借りできるのですけど、生成モデルが流行りだしてから、あの閑古鳥は何だったんだってくらい混んでるのです。みんな流行り物が好き

   • なうぞめ (nz@misskey.pm)'s status on Wednesday, 22-May-2024 22:14:26 JST なうぞめ

     in reply to

     @lithium03@mastodon.lithium03.info
     自宅だったら余裕でブレーカー落ちそう😇
     多分そうゆうのは借りるもんなんでしょうねぇ。

   • なかはらいちろう (lithium03@mastodon.lithium03.info)'s status on Wednesday, 22-May-2024 22:17:39 JST なかはらいちろう

     in reply to

     • なうぞめ

     @nz まず電力会社と受電契約をして、高圧受電設備がーとかのレベルになってくるらしいです。
     自分の敷地にコンテナを使ってMyデータセンターを作ってる人のブログがあったですが、電力会社と契約するところから始まってました。

   • なうぞめ (nz@misskey.pm)'s status on Wednesday, 22-May-2024 22:17:39 JST なうぞめ

     in reply to

     @lithium03@mastodon.lithium03.info
     ちょっとマンションの1室で行うのは無理そうだなぁです。
     時間単位で借りれるサービスかなぁです。
     夢がある世界だなぁと思ったりしています。

   • なうぞめ (nz@misskey.pm)'s status on Wednesday, 22-May-2024 22:22:15 JST なうぞめ

     in reply to

     @lithium03@mastodon.lithium03.info
     AIのお絵か描きサービスのお手伝いしていた時にサイトでお絵描きできるサービスに対応させようとしていたんですが借りれるGPUは殆ど品切れでしたね。
     結局個人向けのGPUを自宅に設置していた。
     まあそれにも限界があるわけなんですが。

   • なかはらいちろう (lithium03@mastodon.lithium03.info)'s status on Wednesday, 22-May-2024 22:22:16 JST なかはらいちろう

     in reply to

     • なうぞめ

     @nz 最近は、みんな借りすぎて、安めのGPU時間借りは全滅レベルで刈られてます。
     1ヶ月とか契約しなきゃのとこか、ちょっと高めの時間借りしか残ってない…

   • なかはらいちろう (lithium03@mastodon.lithium03.info)'s status on Wednesday, 22-May-2024 22:27:32 JST なかはらいちろう

     in reply to

     • なうぞめ

     @nz どんだけ生成AI流行ってんねん、とか思います。ここ3年で全然雰囲気が変わった…

   • なうぞめ (nz@misskey.pm)'s status on Wednesday, 22-May-2024 22:27:32 JST なうぞめ

     in reply to

     @lithium03@mastodon.lithium03.info ですよね。まさに3年な気がする。