サクサク読めて、アプリ限定の機能も多数!
timetrain のブックマーク 2025/08/17 14:08
GPUメモリ4GBあればGPT-oss 20Bが14tok/secで動く - きしだのHatena[GPU][機械学習][GPT][あとで読む]2025/08/17 14:08
このブックマークにはスターがありません。 最初のスターをつけてみよう!
nowokay.hatenablog.com2025/08/14
llama.cppにMoEに適したCPU/GPUの振り分けのオプションが入って、LM Studioでもそのオプションに対応したことによって、MoEモデルであるGPT-ossが少ないGPUメモリでもそれなりに動くようになりました。拡大すると...
91 人がブックマーク・8 件のコメント
\ コメントが サクサク読める アプリです /
このブックマークにはスターがありません。
最初のスターをつけてみよう!