LLM の「脳内」をハッキングする技術 - ｼﾞｮｲｼﾞｮｲｼﾞｮｲ
LLM の内部状態やパラメータ、いわばLLM の「脳内」を局所的に書き換えることで、LLM の動作に介入する手法が発展を遂げています。 まずは最も基本的な操舵ベクトルについてみていきましょう。 操舵ベクトル LLM の内部状態を特定の方向に...
mori_oh催眠術
2026/07/21 19:04
nguyen-oi「練馬」の例えが面白すぎる。LLMをファインチューニングするよりこういう内部の介入アプローチの方が本質に迫ってる感あるな
2026/07/21 20:12
t_f_m前半部分、word2vecが話題になってた頃のあれこれを思い出す
2026/07/21 20:38★★
karatteAnthropicはこういうの弾く方面に動いてるしGoogleもGeminiに思考乗っ取りシスプロ仕込んだgem使いをbanしまくってるからなあ
2026/07/21 21:05
s17er関西弁というか猛虎弁やないか
2026/07/21 21:05
hasidukiクチュクチュってやつだ！！！！！！！！
2026/07/21 21:10★★★★★
simplememofast操舵ベクトルは推論時に活性を動かす介入、MLPの書き換えは重みを恒久編集する介入で層が別。前者はその場の挙動、後者は知識自体を差し替える
2026/07/21 21:24
natu3kan仕事でローカルAIを調整する時に役立ちそうな技術になりそう。
2026/07/21 22:38
hokkey座標系として単純化すると、２つの点の差が分かればほかの点もまとめて同じ量をズラしたり、ピンポイントで入れ替えたりできるってことか
2026/07/21 23:39
wordithinkさせたらどこかで矛盾生じたときにどう反応するんだろう
2026/07/22 01:03
hinoton2もしかして何J語を「フランクな関西弁」だと思ってる？/ちょうど昨日オープンウェイトモデルに内包するガードレールについてその強化策と回避策をAI相手に壁打ちしてたのでタイムリな話題
2026/07/22 01:19
snow8-yuki草ァはなんJ語すぎて、素直な関西弁・丁寧な関西弁データがネット上に少ないということか / JBの参考になる
2026/07/22 01:23
sunakawaLLM の内部状態やパラメータ、いわばLLM の「脳内」を局所的に書き換えることで、LLM の動作に介入する手法が発展を遂げています。
2026/07/22 04:30
kkobayashiフランクな関西弁・・・
2026/07/22 05:43