Forecast / 観測仮説AIエージェント・AI間中期(2027–2029)リスク高(High)
Recommendation Injection
推薦インジェクション
AIの推薦結果や要約に、不正な商品、投資、サービスが紛れ込む可能性がある。
これは 予測(観測仮説 / Possible Future Pattern) であり、実際に発生した事例ではありません。これは観測仮説(Forecast)であり、実際に発生した事例の記録ではない。技術の普及に伴う設計上・予防上の注意点を、教育のために先取りして整理したもの。
Possible Future Pattern / 想定シナリオ
推薦や要約は「中立で便利な結論」として受け取られやすい。参照情報が汚染されると、不正な選択肢が自然な推薦として提示される、という危険が考えられる。
Classical Origin / 古典的起源
- 偽レビュー / 社会的証明
- 偽広告
New Interface / 新しいインターフェース
- AIエージェント
- 推薦・要約
- 外部データ参照
Trust Hook / 信頼フック
- 中立的な推薦の体裁
- AIの結論への信頼
Attack Surface / 攻撃面
- 参照データの真正性
- 推薦の透明性
- 広告と推薦の区別
Vulnerable Moment / 隙が生まれる瞬間
- 推薦を無検証で採用している時
Warning Signs / 警告サイン
- 推薦の根拠・出所が示されない
- 特定の投資・商品へ偏る
- 広告か推薦か区別できない