人間には普通の契約書に見えるのに「嘘のフォント」でAIだけ別の文章を読まされる「Noroboto」攻撃とは？
AIに文書やPDFを読ませると要約して説明してくれるため、長い契約書などを読ませて内容を把握したりリスクチェックをしたりと活用できます。しかし、AIによる文書レビューは「人間が画面上で読んだ文章とAIが内部的に読み取った文章は同じである」と...
diveintounlimitグリフマッピングをずらすなんざ随分前からある手法という認識だけどな。AIって付けたら新しい手法になるんだな。
2026/05/25 19:29
scavenger-folk99怖っ。人間の仕事も残って良かったね。
2026/05/25 20:52
nezuku意図して攻撃せずともPDFを出力する互換ソフトで文字マッピングが適切でなく文字化けするそれはあるし、そういったPDFファイルを食べてめちゃくちゃな結果を返す例は以前からあったような
2026/05/25 20:54★★★★★★
nguyen-oi見た目の文字とUnicodeをずらす攻撃か。人間が普通に読めてもAIには違う内容を読ませられるの、これからの実務でめちゃくちゃ悪用されそう
2026/05/25 21:02
TETSUYA01AIにホントのことを隠すフォント。
2026/05/25 21:19
TakenokoGodシーザー暗号み
2026/05/25 21:42
anigokaクソ長い契約書とか要約させる時、詰むやん
2026/05/25 21:48
uunfoああ、文字コードとフォントのグラフが違うやつか。これで電子契約した場合どっちが有効なんだろうな
2026/05/25 21:55★★★★★★★
mmaka2787埋め込みテキストと画像書き起こしとの突合が必要ってことか。
2026/05/25 22:01
nmcliとなると攻撃の有無の検出は割と簡単に出来そうだが
2026/05/25 22:05
star_123法的にこの悪意しかない契約書は有効と言えるのだろうか？/とはいえ後から差し替えたりされると立証は困難か
2026/05/25 22:08★★★★★★
lycoliaフォントのグリフを文字コードのマッピングとずらすことで文字コードだけを読むLLMを騙す攻撃。当然OCRされると負ける
2026/05/25 22:09
hatahata_chanこれでＡＩの内容と実際の文書の突合をする業務が生まれるなら、最初から人間が読んだ方がいいんやんけってなるのか、、
2026/05/25 22:11
toaruRフォントもちゃんとSRI的なやつで確認しろみたいな
2026/05/25 22:15
EzoWolfこの技術かわからんけど、とある大学で問題文に仕込みをしてAIに丸投げした学生のレポートを判別するという事例があったな。
2026/05/25 22:15
timetosayなん、か、 ええと、いにしえの、「右クリック禁止！！」って言葉が頭に浮かんだ
2026/05/25 22:22★
misoforhatebu契約書キャプチャとってテキストとdiff取ってくれって頼んだら行けんのかな
2026/05/25 22:24
mohno「人間には普通の文章として読める一方でAIには別の文章として読ませる「Noroboto」」←画像化してから読ませればよさそうだけど、この手法が広まったら検出されて「お前んとこは騙すつもりだったのか」ってバレそう。
2026/05/25 22:29★★
yorkfieldこれだと人間がコピペする場合も違う文字になるのかな。
2026/05/25 22:44
hiduru_kなにが「原本」として扱われるべきなのか、って話にも発展してきそうな
2026/05/25 22:45