Conversation

Notices

1. ぽな (C.Ponapalt) (ponapalt@ukadon.shillest.net)'s status on Sunday, 05-May-2024 19:52:26 JST ぽな (C.Ponapalt)

   「AITuberを試作したけど、何度か話しかけたら飽きられる」って言ってる人を見かけた。

   ところで、伺かゴーストの定石として、それなりに語り継がれてるやつとして、

   「話しかけるのって割と力を使うので、ユーザーさんからの話しかけをアテにせず、多少無茶しても能動的に話すほうが良い」
   「能動的に喋っているのを眺めているだけで満足する人がけっこう居る」
   「ピン芸人状態でもネタが続けば問題ないけど、なかなか大変だし2人以上の掛け合い漫才にするほうが楽」

   っていうがあるけれど、今更ながらAIキャラも含めていろんなところに展開できる話なんだなあとかぼけーっと思ってる。

   • ぽな (C.Ponapalt) (ponapalt@ukadon.shillest.net)'s status on Sunday, 05-May-2024 20:02:48 JST ぽな (C.Ponapalt)

     in reply to

     LLMが能動的に話す仕組みを組んだら、API代がそれなりにかかってしまうという問題もあるので、あくまでも一般論であって、用途と予算によるということも注意したい。

     もっとも、喋る頻度にもよるので、ゴーストみたいに5分ごとに喋ってくれ！とか無茶振りしなければ、小規模Mastodonサーバを維持するのと同額ぐらいの予算感でいけるので、割と検討しても悪くない話だと思う。

     …ローカルLLM？いえ知らない子ですね…

   • ぽな (C.Ponapalt) (ponapalt@ukadon.shillest.net)'s status on Sunday, 05-May-2024 20:04:07 JST ぽな (C.Ponapalt)

     in reply to

     こういうのはちゃんとブログに書けというセルフツッコミ！180のダメージ！

   • ぽな (C.Ponapalt) (ponapalt@ukadon.shillest.net)'s status on Sunday, 05-May-2024 20:13:43 JST ぽな (C.Ponapalt)

     in reply to

     あと、Xには怖くて書けません！
     ぼかぁ精神的な余裕が欲しくてここに引きこもったんだい…（チキン）

   • ぽな (C.Ponapalt) (ponapalt@ukadon.shillest.net)'s status on Sunday, 05-May-2024 20:15:42 JST ぽな (C.Ponapalt)

     in reply to

     • 殊海夕音

     @yune_kotomi 最低でもRTX 40xxが要るとかいうノリの雰囲気なので、こわ…近寄らんとこ…って感じですな（ばっさり）

     やっぱ安定のGPT-4っすよ奥さん。

   • 殊海夕音 (yune_kotomi@tl1.yumenosora.net)'s status on Sunday, 05-May-2024 20:15:49 JST 殊海夕音

     in reply to
     @ponapalt 掛け合い漫才にするとリアルタイム性なくてもいける作りにしやすいし、むしろローカルでの推論がフィットしそうな。時間かけてバッチ処理していいなら一般の御家庭(not逸般の誤家庭)のPCでもLlama3 70BだのCommand R(35B)だのが選択肢に入ってくる。
   • ぽな (C.Ponapalt) (ponapalt@ukadon.shillest.net)'s status on Sunday, 05-May-2024 20:22:37 JST ぽな (C.Ponapalt)

     in reply to

     • 殊海夕音

     @yune_kotomi RTX 2060 12GBしかもってねぇ！（ちくわしか持ってねぇの絵をここに貼る）

   • 殊海夕音 (yune_kotomi@tl1.yumenosora.net)'s status on Sunday, 05-May-2024 20:22:39 JST 殊海夕音

     in reply to
     @ponapalt 3060でも割とそれなりに動いてるですわよ。
   • ぽな (C.Ponapalt) (ponapalt@ukadon.shillest.net)'s status on Sunday, 05-May-2024 20:24:08 JST ぽな (C.Ponapalt)

     in reply to

     • 殊海夕音

     @yune_kotomi あとやかましいのを常時起動しておきたくはないので、やるとしてもどこかにホスティング→あれ？OpenAI API叩くほうが安くね？（いまここ）

   • ぽな (C.Ponapalt) (ponapalt@ukadon.shillest.net)'s status on Sunday, 05-May-2024 20:31:53 JST ぽな (C.Ponapalt)

     in reply to

     • 殊海夕音

     @yune_kotomi ま、そのうちやってみるべ…
     技術的にできるやろっていうのは一応頭には入れてる。
     あんまりモチベ―ジョンが湧いてないだけですわー。

   • 殊海夕音 (yune_kotomi@tl1.yumenosora.net)'s status on Sunday, 05-May-2024 20:31:55 JST 殊海夕音

     in reply to
     @ponapalt 12GBならウチとたいして条件変わらんやん。