Forecast / 観測仮説AIエージェント・AI間中期(2027–2029)リスク高(High)
Invoice Agent Poisoning
請求エージェント汚染
経理AIや契約管理AIが、偽の請求情報や更新情報を正規の業務データとして処理してしまう可能性がある。
これは 予測(観測仮説 / Possible Future Pattern) であり、実際に発生した事例ではありません。これは観測仮説(Forecast)であり、実際に発生した事例の記録ではない。技術の普及に伴う設計上・予防上の注意点を、教育のために先取りして整理したもの。
Possible Future Pattern / 想定シナリオ
業務AIは受け取った情報を前提に処理する。請求元や口座情報の真正性が検証されないと、偽の請求が正規の業務として通る、という危険が考えられる(設計上の観点のみ)。
Classical Origin / 古典的起源
- 請求書詐欺 / 取引先なりすまし
- BEC / CEO詐欺
New Interface / 新しいインターフェース
- 経理AI
- 契約管理AI
- AI間連携
Trust Hook / 信頼フック
- 業務フローへの信頼
- 正規データ源の体裁
Attack Surface / 攻撃面
- 請求元の真正性
- 口座情報の変更検知
- 承認フロー
Vulnerable Moment / 隙が生まれる瞬間
- 請求を無検証で処理している時
- 口座変更の連絡時
Warning Signs / 警告サイン
- 送金先・口座情報が直前に変わる
- 請求元の真正性が確認されない
- 処理の根拠が追えない