AIモデルがお互いに共食いをはじめ、崩壊の兆候を見せ始めている | カラパイア

どのように崩壊を避けるのか割と気になる。たしかにAIで書かれた記事も増えてきているし。

AIの登場によって一周回ってクローズドコミュニティの世界が来る。本当に価値ある情報や最新の情報は特定のコミュニティの属してないと手に入らなくなる。

AIのモデル崩壊。／個人も企業もスタンドアロンで生成AIを使う技術が重要になるんかな。ウイルス防御的な。／（なぜ完全情報ゲームの囲碁将棋AIがブコメで出てくるのか…。）

“出力がおかしくなりゴミのようなコンテンツを吐き出すようになったという。”見ろAIがゴミのようだ。とムスカなら言ったはずであろう。

https://espanolhelpdeskagente.zohodesk.com/portal/en/kb/articles/lufthansa-airlines-telefono-c%C3%B3mo-llamar-a-lufthansa-desde-m%C3%A9xico-tel%C3%A9fono-24-horas

こうなることは簡単に予想できたので、画像生成の方ではウォーターマークによる対策が初期にほんの少し議論されてた気もするけど、もうなあなあになってそう

オカルト記事のカラパイアを真に受けるなよ/自前で強化学習する将棋AIは崩壊してないし、AI開発元には大量のコンテンツデータを自前で抱えてる所も多いし、似たシステムである人間が先に崩壊してもいない。

“ネットが、すでに生成AIの粗悪コンテンツで埋め尽くされたゴミの山と化している”やっぱりそうか。

囲碁みたいに人間の手を学習させたAIよりも、ルールだけ教えて自分で数打ちまくって学習させたAIの方が遥かに優秀だったのだから、人間から学ぶ段階を過ぎたら、AIのみの学習で人間の常識の殻を破るのも大事では？

"Garbage In, Garbage Out" GIGO「ゴミを入れればゴミが出る」質の悪いデータを入力すれば当然のように質の悪い出力になる。これはAIに限った事ではありません、どんなに優秀な数式でも用いるデータがゴミなら結果もゴミです。

共食いっていうからAI生成物を学習させる話だと思ったら検索の話か。だったら信頼できる情報源を出すようにするだけど解決するだろう。馬鹿らしい

RAGの方が非倫理的ってのは同意するが……これまでのネットは知識の宝庫ってのは流石に言い過ぎだろう、クソと宝がグチャグチャに混ざってただろ。で今までどうやって学習させてたって話よ

学習には合法的に入手してなさそうな論文や有料ニュースを使っているのだろうけど、検索はそうはいかないからろくでもないソースに引っ張られることは増えていそう。

これまでは品質の低い物が大多数を占めていた訳では無いので、品質の低いものが大量生産されるようになって大多数を占めるようになった時にどうなるかは気になる。

囲碁AIと大きく違うのは、碁は打った手が正解だったかをAIが勝敗から知れるのに対し、LLMはそうでないという点。例えば生活保護に関する誤情報を回答して、それを信じた人が困窮したとしてもLLMがそれを知ることはない

そろそろロボットが街中を歩いて欲しい。"書を捨てよ町へ出よう"って言葉もある。文章だけでは学習の限界があるよ/とはいえ今のAIに上手く好奇心を実装するのも大変だろうが

もともと玉石混交だったネット空間にAIが石をたくさん増やしてくれたので、AIのまともな食い物（情報）が（相対的に）激減した？ そこに共喰いのイメージを重ねた？ どんな寓話だ。

インターネットがグレイグーになっちゃう

ネットの情報、半分くらいゴミか毒だから…。ゴミを食ってゴミを大量に吐き出してたらそりゃゴミしか残らなくなるよ。良くも悪くもだけど出力が手軽すぎるからゴミ製造機と言っても過言ではない

😢