「メモリは8ギガで十分ですよ。勘弁してくださいよ」時代の到来。1ビットLLM「Bonsai 8B」を8GBのMacBook Neoで動かしてみたら爆速だった。1.1GBに8Bパラメータが入る驚き(CloseBox) | テクノエッジ TechnoEdge

MacBook Neoの8GB RAMでAIをなんとかするシリーズ。前回の記事では、mazzaineoにWebターミナルとSwiftLM推論エンジンを追加して、8GBメモリの限界に挑んだ話を書きました。
🔒 74
💬 24
nguyen-oi1bit化で8GBが延命されるの草。結局MacBook Neoでもメモリ増設不可なのは変わらんしな
2026/04/04 20:40
isrc現時点での結論は品質重視:Tool Callingが必要なら、Bonsai 8B/速度重視:シンプルな会話ならSwiftLM + Qwen 2.5 3B。Tool Callingが不要な用途では、1.32倍速いSwiftLMが快適です。
2026/04/04 21:40
taguch1へー試してみよ
2026/04/04 22:30
awawannおー。これは期待か?
2026/04/04 22:32
Islecape「いや24ギガだ。8ギガと8ギガと8ギガで24ギガだ」(※ユニファイドメモリ24GBは12GBメモリと12GBメモリの組み合わせらしいです)「・・・マウスもくれ」
2026/04/04 22:54
hebomegane_sun試すけどまだ先のお話だなぁ
2026/04/04 23:07
ssfuちょっとなにいってるのわかんない
2026/04/04 23:07
udongergeそこは「分かってくださいよ」だ
2026/04/04 23:08★★★★★★★★★
camellowメモリがギガ?メモリの単位はメガに決まってるだろ!と思ってしまう程度に酔ってるのでもう寝ます
2026/04/04 23:32
OkadaHiroshi小型のモデルはやはり汎用性では大型のモデルに敵わないので、早晩、何がタスクをさるには特化したモデルを組み合わせて使うようになると思う、そうするとやはり8ギガでは足りなくなる。
2026/04/04 23:36
cinq_naモデルの肥大化による性能向上に限界と予算が見えてきたんで、小さなモデルで同等の性能をってフェーズですかね。どうにもマネタイズ出来ないって未来が見えるけど、無いと困る程度には普及してるしどうしよう。
2026/04/04 23:45★★★★★★★★★
georgew被せに行ってはいるものの微妙に違ってる Blade Runner の謎セリフが刺さる。
2026/04/04 23:49
i-komotwo-two, four! 2匹で十分ですよ、なので16G要るってか。(何の話だ)
2026/04/05 00:30
ejointjpMacBook Neo、驚くべきことに Xcodeバリバリ動く。でも、やっぱM4 Proと比べたら動きは断然ノロい。可か不可かで言えば可だが、十分とは言えない。
2026/04/05 01:04★★★
Galaxy42見た目がかわいい
2026/04/05 01:44
yourmirror普通にタイトルに「驚き」って言葉が入ってくることに清々しさを感じる
2026/04/05 01:48
sotonohitokunきちんとしたAIを今動かすなら安価な中華APIの方が絶対的にいいよ。10万でも他の機能と一緒に使えないなら余りローカルの意味がない。会話程度ならフリークラウドで良いわけだし。
2026/04/05 06:08
shoechangラズパイ5の8GBで
2026/04/05 08:16
mouseion例えばcore i7でメモリ8GBとcore i5でメモリ16GBでは後者の方がサクサク動くからね。ゲームをやらせると軽いものなら前者の方が良いけど作業する分にはメモリの大きい方が強い。
2026/04/05 08:30
RXRHsZcJ6xnGXZR8TEZA6hAxzRd3mkDブ※「モデルの肥大化による性能向上に限界と予算が見えてきた」でも次期 claude の mythos は 24Tパラメータ、GPT5系の10倍くらいあるっちう噂やで
2026/04/05 08:37