敵対的サンプル（Adversarial Examples）の実害について、実際の事例をいくつか紹介します。
1. 顔認識の回避（セキュリティ・監視カメラ）
- 事例: 研究者が特定のパターンを印刷した眼鏡をかけることで、顔認識システムを誤認識させ、他人として認識されるようにした。
- 影響: 監視カメラや入退室管理システムの認証を回避できる可能性がある。
2. 自動運転車の誤認識
- 事例: 研究者が道路標識にわずかなステッカーを貼ることで、自動運転車のAIが「一時停止標識」を「制限速度標識」と誤認する現象が確認された。
- 影響: 交通事故や誤動作を引き起こす可能性がある。
3. マルウェアの検出回避
- 事例: 敵対的サンプルを使って、アンチウイルスソフトの機械学習ベースの検出システムを回避する攻撃が報告されている。
- 影響: ウイルスやマルウェアがセキュリティソフトをすり抜けて侵入し、情報漏洩やシステム破壊のリスクを高める。
4. 音声アシスタントのハッキング
- 事例: 人間には聞こえない超音波（ドルフィンアタック）を利用して、SiriやGoogle Assistantを密かに操作する攻撃が報告された。
- 影響: 勝手に電話をかけたり、スマートデバイスを操作されたりする危険がある。
5. 画像認識AIの誤認識
- 事例: 敵対的サンプルを使って画像認識AIに本物の動物を「トースター」や「自転車」と誤認させる実験が行われた。
- 影響: セキュリティカメラや監視システムの誤作動を誘発する可能性がある。
実際の被害
これらの事例は主に研究段階のものが多いですが、敵対的サンプルを悪用した攻撃が現実世界で実行される可能性は十分にあります。特に、顔認識や自動運転、セキュリティ分野においては、深刻なリスクとなるでしょう。
