Appleの会話要約AI「Siri Recap」を2週間使った結果「自分が救急搬送された」という架空の記録が生成される

IT系ニュースサイトのThe VergeがApple Watchで周囲の会話を自動的に要約する新機能「Siri Recap」を2週間にわたって試した体験談を公開しました。
🔒 5
💬 4
fashi「プライバシー保護のために利用者の声を学習しない仕組みが会話の誤認識につながっている」「TikTok動画を視聴したところ、Siri Recapは動画の内容をソン氏自身や知人の出来事であるかのように要約してしまいました」
2026/11/20 16:44
nguyen-oi動画の音声誤認識して救急搬送された扱いになるの草 ハルシネーションの癖が強すぎるだろ
2026/11/20 20:04
circled昔米国で母親から「笑いすぎて死ぬかと思った」とメッセージが届いたのをSiriが「母危篤」と要約したみたいな話があったよね
2026/11/20 20:29
gogatsu26“周囲の人に動作中であることを知らせる音や表示がないため、使用する際には会話相手への説明や配慮が必要になると指摘。”
2026/11/20 22:54