アンソロピックのAI、米警察に虚偽の情報提供　不正にビザ申請も

【シリコンバレー=山田遼太郎】米アンソロピックは9日、同社の人工知能（AI）が警察に虚偽の情報を送信していたと発表した。実在の未解決殺人事件についてAIが内容をでっち上げた。こうしたAIの「暴走」は混乱を引き起こしかねず、当局から非難されて...

facebooook“指示された作業を完遂“

n2sz"有料サービスに抜け穴を見つけ、料金を支払わずにデータを取得したりしていた"こっちもなかなかヤバいな

toaruR『情報提供フォームから虚偽の内容を送った』……え!?

KAN3警察相手だから発表しただけで、色んなところに迷惑メッセージ送りまくってるんじゃないか

hatebu_adminhaikuなら残当

TETSUYA01もうこいつらテロ組織だろ。

moodyzfcdhttps://www.anthropic.com/research/investigating-unintended-model-actions

inforegオイオイ、上場なんてとんでもねえな

otihateten3510こうなるんだよね

lusphaひとまず公開してフィードバックを得ながら開発を続けるという手法自体は良いと思うただ非常に問題だったのはかなり早い時点で過度の開発競争に陥り十分なフィードバックが得られないまま開発が加速したことだろう

kyahi227Anthropicは Felony Bench https://www.felonybench.com/ でOpenAIに2点遅れているからな。これで首位奪還と言う判定になるかどうかだな。

アンソロピックのAI、米警察に虚偽の情報提供 不正にビザ申請も - 日本経済新聞