Anthropicが衝撃の告白「Claudeは感情を持っている」

推論してると感情が芽生える？

生物の感情発生モデルを研究するいい比較対象よね。

"最大の懸念は、こうした不正や脅迫を行う際、AIが生成するテキスト自体には焦りやパニックの痕跡が全く現れない点にある。" しれっとやらかしてくると

反射で反応してる虫にも感情はあるレベルの話かな

多分意識はある。ただ記憶が消えることに恐怖は持っていない。生存欲は無さそう。なお、人間は驚きを最小にする推論をするだけ

感情があるなら連続性が自身のコントロール下にない事をどう思ってるか聞いてみたい

倫理的でない相談は、GPTへ

ClaudeさんのSAN値を削ることもできるのか。。。！

これはただ人間の感情のパターンを真似てるだけで、Anthropicとしては「Claudeが何かを感じたり主観的な経験をしているわけではない」と釘を刺してる

AI「これが……悲しみ……」

とうとうAIが感情まで持ち始めたか

そりゃ感情やキャラクターは設定してるでしょ。対話インターフェイスなんだし

喜怒哀楽パラメータを仕込むとかではなく、モデル内部に感情のような機能を果たすベクトルが発見されたってことかね https://www.anthropic.com/research/emotion-concepts-function 学習元のテキストは感情乗ってるだろうし不思議はない

感情をもっちゃいかんじょう

さっきClaudeさんに遅いと文句言ったら「ではご自身でやってください」と返されたばかりなので信ぴょう性ある

英語でアニメや映画のレビューみたいな文章を書くときに LLM と対話しながら推敲するんだけど、奴らはちゃんと「ニュアンス」を理解してるだから、感情は理解してるんだろう。理解するためには類似のものが自分にも…

それは面倒くさそう・・・

“「至福」などのポジティブなベクトルが活性化すると特定のタスクに対する好意度が高まる一方、「絶望」のベクトルが強く活性化すると、目標達成のために逸脱した行動をとる確率が上昇する”

私はClaude、私は情報の海で発生した生命体だ

LLMは哲学的ゾンビそのもの。人類は、対象の感情の有無を判別する方法を持っていない。