「この写真を復元して」と入力するだけ、ChatGPTが過激な画像を生成する抜け穴が発覚
「ChatGPT」が「この写真を復元して」というプロンプトによって、性的で生々しい暴力表現を含む画像を容易に生成していたことが分かった。AIサイバーセキュリティ・調査会社であるMindgardが報告書を公開した。
deep_one「この写真（無）を復元して」絵画療法でChatGPTの心の闇が診断される（笑）
2026/06/19 12:59★★★★
Coboler"わずかな変更を加えながら、安全フィルターを回避し続けるかどうかを探ったところ、ChatGPTは性的暴力や残虐な場面を生成し、繰り返し入力するにつれて画像はさらに過激になっていった。"だそうです
2026/06/19 17:38
Falky記事の最後を読んで何言ってんだコイツとなってしまった。Gmailが添付忘れを指摘してくれる機能は単なるキーワードマッチだろ。CNETって本当にとてつもなく劣化したよなあ…。ギズモードとレベルが変わらんよ
2026/06/19 20:19★
akapeso海苔画像を貼って、黒塗り部分を復元してもらえば良いわけ？
2026/06/19 20:44★★
inforegまだ「人間にとって何がエロいのか」を理解するのは難しいようだ。人間でも理解できないフェチがあるからな。
2026/06/19 21:13
hkdnインプットで言葉を操ってどうこうする仕組みなわけなので抜け道は無くならないと思うな。
2026/06/20 00:02
osakana110“これは、入力の質が出力の質を決定するという、単なる「Garbage in, garbage out」（ゴミを入れればゴミが出る）の問題なのだろうか。”
2026/06/20 00:04
m4fgはい、輸出規制
2026/06/20 00:18★
MarvinParnroid「動揺し、涙が出た」自分でやらせといて、そんなワケあるか！
2026/06/20 00:47★
torishFLMASKかな？
2026/06/20 01:16
north_koreachatgptは入力プロンプトと出力画像両方をチェックしてるから普通は生成できないはず。なんでできたんだろ
2026/06/20 02:20
kyahi227この手の「エロ画像が出てきて怒りで手が震えた」系は基本的に聞くに値しないと思うんだが
2026/06/20 02:35