自分のPCで「とりあえず動く」ではなく「一番賢く使える」ローカルLLMを教えてくれる「whichllm」、実測ベンチでランク付け（生成AIクローズアップ） | テクノエッジ TechnoEdge

単にそのPCのVRAM容量に収まる最大モデルを示すのではなく動く中で相性良い実用な最適モデルをランキング10で教えてくれる。最新情報の複数ベンチマークを基に速度,世代,量子化,サイズ等を加味して決定

VRAMに入る中で一番賢いモデルを選んでくれるの有能。いちいち試す手間が省けるな

エンジンなりCLIなり、用途で選ぶモデルって変わる。CodexCLIとOpenCLIも同じモデル・同じ指示でも挙動は変わる。 Qwen27B/50TPSとGemma31B/150TPSなら、ベンチ性能で多少劣っても、調査・壁打ち・Diff確認的高速往復目的なら後者だろ

この界隈の得体の知れないコマンド実行するのこわE

1週間で順位変わってるんやろな

こんなサービス、あった（できた）のか？！極めて有用

こいつ(まともに)動くのか？

gigazineが取り上げてたllm-checkerってのもあるしなぁ。比べてみるか

WebでVRAMとか入力すれば表示できるのに危険すぎると前から思っている。

“whichllm”

githubここか。 https://github.com/Andyyyy64/whichllm/blob/main/docs/README.ja.md

この手のツールや指南表はいくらでもあるが、実質的に用途やスペックに合わせて調整出来る要素が無くグラボありならQwen3.6 35B-A3B、内蔵GPUならGemma 4などその時々の一強が決まっていてほぼ意味が無い

結果だけサイトで教えて欲しい

「自動的に検出」という売りになる部分が実はマイナスであるという面白い例。

ベンチマーク結果で確認すれば良くない？色々なサイトで公開されてるのだし。

ローカルLLM選定CLI「whichllm」v0.5.10。PCのGPU/CPU/RAMを自動検出し、実測ベンチや量子化、速度、鮮度を総合評価して最適モデルをランキング。