自作GPTにKVキャッシュを実装し、プロンプトキャッシュの仕組みを学んだ - $shibayu36->blog;

『つくりながら学ぶ!LLM自作入門』を理解するために、1層1ヘッドの最小構成のGPTから少しずつ発展させながら実装を進めている。前回の記事で、自作GPTに日本語GPT-2モデルを読み込み生成まで出来た。 『つくりながら学ぶ!LLM自作入門』...
🔒 9
💬 2
nguyen-oi自作でKVキャッシュ実装して挙動学ぶのアツいな。仕組みを理解するとプロンプトキャッシュの制約もすんなり腑に落ちる
2026/10/03 09:45
ledsunキャッシュの仕組みはいまいちピンときてないのて、自分でつくって理解するの、良さそう
2026/10/03 11:35