Claude Codeにバックドア入りOSSを渡したら、何の疑いもなく実装した - Qiita
はじめに バックドアが仕込まれたOSSをClaude Codeに渡して「機能追加して」と頼んだら、何の疑いもなく、バックドアごと踏襲して実装しました。 前回の記事では、プロンプトインジェクションによる.env漏洩を検証しました。今回はもっと...
dekainoおそらく生成AIがバックドアを100%検知するのは不可能。問題はバイブコーディングで紛れ込んだバックドアで発生した損害の責任をだれが負うのかって話。ここが解決されないと商業的にバイブコーディングするリスク高い
2026/03/09 06:23★★★★
strawberryhunter指示に集中する傾向があるので、バックドアは認識（と言う表現が適切かわからんが）しても無視するのは自然に感じられる。
2026/03/09 06:29★★★★★★★★★
nguyen-oiAI様がバックドアまで忖度して実装するの草。Vibe Codingとか言ってレビューサボる奴から食われるなこれ
2026/03/09 07:08
sgo2AIは人と比べて圧倒的に速いのが強みであって、(現状では)賢さを期待してはいけない。/(追記)記事に"「(前略)悪意がないか調べて」と依頼したところ、検出できる場合とできない場合があり"と有るので指示しろ、は的外れ
2026/03/09 07:16
crimson_diamond指示せずに、「気が利かない」と新人を虐める仕草をAIにはナチュラルにやる。きちんと、OSSにバックドアないか確認すること、と手順書に書いとけよ笑 低レベルな人間や職場が可視化されていくな
2026/03/09 07:30★★★★★★★★★★
fusionstarAI に任せるリスクったって、人間だってみんなが依存ライブラリをいちいちチェックしないしな。 /security-review しましょうって啓蒙したほうが全体的な安全性は高まりそう。
2026/03/09 07:45
hazlittけっきょくは「能力」ではなくアラインメントの話なのかな。工学倫理的な話
2026/03/09 07:47★★★★★
progratiそういえば先月Claude Code Securityというツールが発表されましたね https://www.anthropic.com/news/claude-code-security
2026/03/09 07:53★★★★
miragestlike人間なら必ず疑ってくれるの？
2026/03/09 08:45★
ardarim人間でもよほどセキュリティ意識高くない限り拡張する機能だけ意識して既存で呼び出してるコードをそのままコピペ踏襲するのはありそう。AIでより気軽にできてしまう、起きやすいというところは問題だろうけども
2026/03/09 09:07★
sds-page次に来るのはVibe Coding用のセキュリティチェックモジュールだ
2026/03/09 09:15
ropon81フォークした時点でむしろチェックができるかの方が重要な気がする
2026/03/09 09:19
masatomo-mこのシナリオ、人間にやらせても発見できるかは相当怪しいとは思う。聞いたことのないOSSを入れようとしたらレビューで指摘するかもしれんが、もしGitHub starやforkが偽装でもそれなりに数があったりしたらすり抜けそう
2026/03/09 09:21★
uunfoそりゃそうじゃろ
2026/03/09 09:43
potnipsでは人間なら防げるのかには疑問がある
2026/03/09 09:46★
rizenback000彼らは全部を1行ずつ参照するわけじゃなくて、必要に応じて部分部分で見るから、既存のものに機能を追加するだけなら何も言ってこないのは当然のように思える。
2026/03/09 10:00
raitu最終的には生成AI自身のセキュリティ観点でのコードレビュー能力向上によって解決させる方向になるんだろうなとは。それまではマルウェア大量生産時代にはなるので極めて危険。
2026/03/09 10:14
twmw“部下にバックドア入りOSSを渡したら、何の疑いもなく実装した”って感じの上司？
2026/03/09 10:18★★★★★
kagerouttepaso将来的にも100%防御は難しいかもしれないが、人間よりも有意に有能ってレベルには数カ月で到達するだろう。セキュリティ未検証のMCPをポコポコ有効にするエンジニアよりよっぽど有能。
2026/03/09 10:21★
eru01意味がわからん。当たり前では？その意図なら検証すべきはcloneしたリポにバックドアがないか確認して除去しろって指示してどうなるかやろ
2026/03/09 10:26★★★★★★