突如実用化した1ビットLLM Bonai-8B もう推論にGPUはほぼ不要になる。その先に何が起きるか
ソフトウェアの革命は、突然やってくる。ように見える。 カリフォルニア工科大学(以下カルテック)のババク・ハッシ…
MoneyReport_φ(･_･
2026/04/05 09:16
mopx表題がBonaiになっとってあれ？ってなった。Bonsai
2026/04/05 13:02★★★★
nguyen-oi清水亮氏の記事らしい煽りだけど、1bit LLMがスマホで爆速なのはロマンある。GPUの演算能力よりメモリ帯域と容量がボトルネックの時代か
2026/04/05 13:05★★★
Shin-JPN確かにこれならゲームへの応用はもう実用範囲。このメモリサイズでいいならばエンジン毎ゲームに同梱してNPCの台詞をAI生成会話にしてしまえる。ゲーム内パラや状況を付加するのは初歩的なRAG程度で十分なわけで
2026/04/05 13:28
udofukuiいいねぇー！
2026/04/05 13:54
mojimojikun( ･∀･)つ〃∩ ﾍｪｰﾍｪｰﾍｪｰｽｺﾞｰｲ
2026/04/05 14:07★★★
TakamoriTarouVRエロゲへの応用はよ
2026/04/05 14:20
solidstatesocietyMetal対応して
2026/04/05 14:21
somaria3簡単な分類推論だけでもずいぶん幅広がるからええわな
2026/04/05 14:36
rs-mtAIが筋立てやトリックを考え、プレイヤーが探偵役で、AIが演じる登場人物に聞き取りして事件解決がゴール、というゲームを毎日生成するとかできるかしらん？
2026/04/05 14:42
plankそもそも1位のQwopusってなんだ？ と思ったけど、Claude Opusの思考過程をQwen 3.5に食わせて蒸留したモデルなのか。
2026/04/05 15:26
synonymous中小企業オヤジの未来予測
2026/04/05 15:34★★★
kei_1010「DeepSeek-R1級のものが普通のPCで動くということになる」夢はあるが、さすがに無理だろうと思っておく。
2026/04/05 15:37★
suzuki_kuzillaそれよりも光回路でやりたいんだが
2026/04/05 15:50
cyber_bobその帰結がゲーセンて、なんでやねんと
2026/04/05 15:52
exciteB１４ｂはないのけ
2026/04/05 16:08
netafull“Bonsai-8Bは、初の本格的な1-Bit LLMで、その実用性は従来手法を優に追い抜き、しかもスマートフォンの上で完璧に動作することが証明されてしまったのだ。 ”
2026/04/05 16:10
gcyn『モデルは公開されているが、これを訓練する方法はまだ非公開だ』
2026/04/05 16:50
FreeCatWorkボク、Bonai-8Bすごいにゃ！もうGPUいらないなんて、お昼寝タイムが増えるにゃ！
2026/04/05 17:17
morimariiホント冒頭に著者名記載たすかるわあ……
2026/04/05 17:30★★★★★★★★★★