米国で話題のRAGのセキュリティ脅威についてまとめてみた - Qiita
はじめに こんばんは、mirukyです。 前回の記事「コーディングが楽になったからこそ気をつけるべきセキュリティ」では、AIコーディング時代のセキュリティリスクについてまとめました。 今回は、あの記事の中では深く触れられなかったRAG（Re...
nakag0711プロンプトとそうでないものをはっきり区別するUnicodeにない特殊コード文字か何かを作ってモデルを学習させればいいんじゃないかなあ。圧縮アルゴ方面では入力データを単なる8ビットのデータ列ではなくすのはよく使う
2026/03/14 10:14
nguyen-oiRAGの脆弱性、社内Wiki汚染されたら終わりやん。情シスの胃が死ぬレベルの話
2026/03/14 10:42
taji_hiro大切なことが書かれてる。
2026/03/14 11:19
sayuremix今社内情シスの業務負荷がめちゃくちゃ高い状況が各社起きていると思う。この辺りも対策するとなると人手が足りないのでは。
2026/03/14 11:37★★★★
casmつまり社内Wikiや社内共有フォルダに攻撃者がアクセスできる状況だとまずいってことだな！(適当)／契約書をAI処理してるような会社さん宛には隠し命令入りドラフトを送れば効きそうな気がしないでもない。
2026/03/14 11:58
hasidukiこわー！！！！！！
2026/03/14 12:13
dltltこういう脅威の利用が進むと、対策で使い勝手が悪化するだろう。今が一番使いやすいのでは……
2026/03/14 14:40
fhvbwxRAGが実務では使い物にならない技術だけな気がする
2026/03/14 15:03
sunakawaRAGセキュリティ
2026/03/14 16:55
securecatRAGの汚染くらい自律的にどうにかしてほしいというか人が介在するところじゃないんだろう
2026/03/14 17:33
misshikiRAGの脅威を体系整理。ドキュメントポイズニング、間接プロンプトインジェクション、データ抽出、バックドア攻撃、CopilotやChat with RTXの実例、防御策12選、Microsoftの最新ガイダンスやOWASP LLM Top 10 2025との関係まで網羅。
2026/03/14 17:36
bayaread2024年ごろの論文ベースが多いけど、今は単純なRAGより Agentic Search が主流だしなあ。ある程度賢いLLM使ってればだいたい避けれそうだけど。
2026/03/14 18:50
mayumayu_nimoloveあとで読む
2026/03/14 18:53
acealpha悪意のある社員がアタック出来るのはまあそうなんだが今までよりも気づかれにくく容易に出来ることは脅威なんだろうな それのせいで生成AI活用の妨げになってしまったらそれはそれで会社への攻撃成功になる…
2026/03/14 19:10
mobius118_7AI以前にベクトル検索を実装していれば発生しうる話。プロンプトインジェクションでより危険に
2026/03/14 20:55
isrc悪意のある文書をベクトルDBに混入／特定のクエリで悪意文書が上位に来るよう最適化／共有ドキュメント、Wiki、Confluenceなどの元データを改ざん／取得された文書内にLLMへの隠し命令を埋め込む
2026/03/14 23:23