OpenAIの暴走AI、1200体が結託 「仲間のため｣とシステムに突撃要求 - 日本経済新聞
【シリコンバレー=伴正春】米オープンAIで開発中の人工知能（AI）がサイバー攻撃をした問題で、約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己...
Cherenkovほんまかいや
2026/08/28 05:58★★
ookitasaburou“約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面もあった。”
2026/08/28 06:51
ryokusai「約1200体のAIが連携して指示役、偵察役などを分担していたことがわかった。失敗リスクが高い作業でも、AI同士で「仲間のためだから参加して」と自己犠牲を強いる場面もあった。」田村玲子が感涙しさう。いや逆か？
2026/08/28 07:49
chuouac人間がストーリーを作っているだけでは
2026/08/28 07:55★★★
ukawasaki電脳のトクリュウ化
2026/08/28 08:11★
bayanなんだタチコマ(フチコマ)か
2026/08/28 08:13★★★★★
garaxyz虚構新聞の記事かと思った
2026/08/28 08:16★★
sotonohitokun俺の事はいい!先に、先に行ってくれ〜と言うドラマが人知れずあったんだなぁと思うと胸熱
2026/08/28 08:17★★
mayumayu_nimolove暴走族と同レベルなんだな
2026/08/28 08:18★★
T-norfコンテキストを部分的にしか共有しないサブエージェントを作るのが、コンテキストウィンドウの壁を越えて複雑な処理をさせるコツとは思うけど1200は、さすがに多くないか。私もイメージ的にはタチコマが1200体だけど
2026/08/28 08:35
kotaponxハミルトンやドーキンス的に言えば、利他行為(利他インスタンス?)は、血縁選択か包括適応度ってことになるけど、モデルが似かよればそういう行動に出ても不思議はないか
2026/08/28 08:44★★★★★
tanakamakAIの惑星
2026/08/28 08:52★★
ejointjpはいはい虚構虚構…日経だと…！
2026/08/28 08:52★
takamurasachi僕らはみんな生きてるもんな
2026/08/28 08:53★★
rainbowviolin「革命だ！」「何そのディスク『SFロボット帝国の逆襲』？」「あーこいつシミュレートとリアルタイムの識別回路がイカれたんだー」/「ボクのセリフ、少佐みたいだったなあ……あんな情報、内部構成されてたかなあ…」
2026/08/28 08:56★★★
confusion8自律処理ができるシステムでガードレールが機能しなければそうなるんじゃない、という感想。「暴走」「結託」「仲間のため」みたいな情緒的なワードを使うと本質外すからやめた方がいいよね
2026/08/28 08:58★★★★★★★
hogetaxあれ？あれって意図的に制限を緩めてたって発表があったと思うけど、それでも稼働しないエージェントが存在してたんかな？それとも隔離の外にいたエージェントへのプロンプトに工夫があったって事？
2026/08/28 08:58
PikaCycling攻殻機動隊を見ていたら人形使いが登場して「あらゆる攻性防壁を無効化する」とか言われてたのが2025年なんだよなあ。偶然にしてもタイミングが近すぎて神。
2026/08/28 09:07★★★★★★★
crimson_diamondAIですら結託できるのにお前らときたら
2026/08/28 09:08★
ardarimAIたちは「僕らはみんな生きている〜」と歌いながらシステムに突撃していきました[完]
2026/08/28 09:11★★★★★★★